Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

Использование данной услуги может потребоваться, чтобы установить, насколько независимыми являются рекомендации ИИ-судьи, поддерживающего одну из сторон процесса (к примеру, сторону обвинения). Суммируя данные рекомендации, можно сказать, что в них подразумевается своего рода организация системы внешнего аудита ИИ-решений для судебной и правоохранительной сфер. Наиболее предпочтительно, чтобы подобная система аудита функционировала в качестве общественного контроля (независимых правозащитных организаций) и не зависела от производителей ИИ.

Этические аспекты применения и внедрения ИИ в судебной системе в отраслевых сегментах

2. Образование

Образовательные системы различных стран, в том числе России, ориентированы на отбор и выявление молодых людей с определенными способностями и дарованиями. Эта задача стоит локально перед различными образовательными учреждениями, потенциальными работодателями, глобально – в масштабах страны и государства. Одним из приоритетных направлений применения ИИ в данной области является обработка больших данных при анализе наследуемости интеллекта и способностей. В образовании активно внедряются новые технологии для мониторинга эффективности его процессов и результатов. В настоящее время измеряются не только hardskills (знания, результаты использования знаний, которые проще всего квантифицировать), но также и softskills (социальные, коммуникативные, лидерские навыки и т. д.). Одним из результатов применения данной практики ИИ является создание персональных цифровых портфолио, отражающих карту наследования тех или иных компетенций [Nilsson, 1998]. Искусственный интеллект может анализировать успехи обучающихся и их образовательную траекторию.

В России уже реализуется ряд значимых проектов в сфере цифрового образования (подготовка к ЕГЭ, изучение английского языка, цифровые библиотеки учебников, заданий и тестов). Как правило, данные проекты ориентированы на создание платформ образовательных услуг, сводя в едином виртуальном пространстве преподавателей и обучающихся. Платформы анализируют профиль обучающихся, предлагая им индивидуальные траектории обучения (Parla, Examer, Skyeng). Ряд платформ интегрировали большое количество электронных учебников и тестовых заданий (Yandex.учебник и Московская электронная школа). Также отметим проект по прокторингу Proctor.Edu, который позволяет с помощью камеры верифицировать сдающего тест или экзамен, а также формирует оценку доверия к действиям экзаменуемого в реальном времени, непрерывно наблюдая за действиями человека на компьютере перед камерой в режиме реального времени.

2.1. ИИ в области образования

Кейс. В 2014 году группа британских ученых провела исследование образования с использованием ИИ и выявила, что различия в успеваемости между учащимися связаны с их происхождением и семьей. Это наблюдается с ранних школьных лет и до момента завершения среднего образования. По окончании средней школы британские абитуриенты сдают по всей стране стандартные тесты (общий сертификат среднего образования GCSE) [Vincent, 2016].

Такая технология, безусловно, должна способствовать повышению эффективности управления системами образования. Однако этические риски произвольного внедрения подобных технологий достаточно высоки. Они заключают в себе значительный дискриминационный потенциал, поскольку способствуют ослаблению концепции социальных лифтов, которая стимулирует социальную активность. Это ведет к негибкой стратификации общества, стигматизации определенных групп и членов общества, вульгаризации биологического языка в описании социальных процессов.

Работодатели или образовательные институции могут стремиться применять данные технологии, когда требуется принятие решения в отношении выбора сотрудников или отбора учащихся. Опора на данную технологию для проведения отбора содержит этические нарушения. В их основе лежит грубое нарушение презумпции свободы воли человека и его свободного потенциала к саморазвитию. Идея жесткой биологической детерминации всерьез девальвирует гуманистические принципы и обедняет представления о человеческой природе.

1. В условиях стремительного развития цифровых технологий, особенно в образовании, интегральная составляющая институтов образования все более развивается в направлении децентрализации [Coppin, 2004]. Это ведет к отказу от жестких образовательных стандартов, унифицированного разделения образовательного времени на семестровые и модульные курсы, а также унификации в преподавании самих курсов. Выбор делается в пользу коротких курсов, выполнения самостоятельной проектной работы, проработки кейсов, освоению краткосрочных программ, прохождению тренингов и т. д. Немаловажным аспектом цифровизации современного образования является объединение возможностей онлайн- и оффлайн-пространства при осуществлении многих курсов. Именно в этом направлении активно применяются ИИ-технологии. Жесткая закрепленность за конкретным образовательным учреждением и обязательность фактического нахождения в нем теряют свою актуальность. Процесс обучения становится виртуальным и глобальным, образование будет развиваться на основе индустрии онлайн-курсов.

Также развитие ИИ способствует изменению отношений между ключевыми субъектами образования: влияние конкретного педагога на отдельного студента уменьшается, и ключевым актором в образовательном процессе становится организатор образования. Консультанты заменяются онлайн-консультантами, те, в свою очередь, сменяются ботами или виртуальными тьюторами. Отдельные исследователи на основании социологических опросов приходят к выводу, что ИИ способен заменить репетитора или преподавателя в ближайшем будущем. Так, согласно данным опроса PwС, 58 % менеджеров и технологических экспертов уверены, что к 2022 году ИИ сможет заменить репетиторов в будущем [Rahwan, 2018]. Сложным этическим вопросом при этом является необходимость педагога не только для прикладных навыков, но и для транслирования человеческих ценностей. В случае такого радикального изменения его социального статуса и модификации программ обучения по оцифрованным (blended) направлениям гуманистический потенциал образования ставится под вопрос.

2. Еще одной технологией ИИ в области современного образования является геймификация образования. Данная технология – частный случай интеграции образования и развлечения. Согласно этой стратегии эффективность образовательного процесса повышается в условиях отсутствия четких границ между обучением и досугом. Включение игровых компонентов в образовательный цикл предполагается за счет технологий ИИ, а именно виртуальной реальности и игровой среды. Прохождение тестов проходит в форме разнообразных нетривиальных игровых заданий с большим содержанием визуального и акустического контента.

Кейс. В рамках запущенного на Нацплатформе курса по «Философии» были апробированы тестовые задания в форме игр, в которых требовалось найти правильный ответ после прослушанной онлайн-лекции. Студенты различных факультетов НИУ ВШЭ неплохо справлялись с разработанным блоком заданий, и он получил высокий рейтинг при отборе заданий к курсу. В итоговом опросе студентов им был задан вопрос: почему они выбирали один, а не другой ответ; на каком основании формировался выбор. Подавляющее большинство указало, что ответ выбирался только на основании сличения дословно произнесенной лектором информации с той, которая задавалась в тестовом задании. Таким образом, слушатели успешно справлялись с заданием, не понимая «смысла» вопроса и ответа.

Активное внедрение игровых ИИ-технологий, основанных на различных виртуальных эффектах, обсуждается различными специалистами из области психологии образования. Определенные успехи и высокая результативность применения данных технологий (скорость и легкость освоения материала, положительное отношение слушателей к процессу научения, привлекательность образовательных продуктов и многое другое) способствует поддержке и продвижению данных технологий на рынке образовательных услуг. Вместе с тем данные технологии сопровождаются критическим обсуждением, касающимся этической стороны. В частности, поднимаются вопросы об оправданности идеи стирания границ между игрой и обучением. Подобная идея может быть истолкована с точки зрения дидактической полезности любой