Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

игры. Если с помощью компьютерных игр можно обучать, будет ли это означать, что обучает любая компьютерная игра? Кроме того, аспекты геймификации характеризуются высоким потенциалом формирования толерантности [Feil-Seifer, Matarić, 2010]. Специалисты отмечают проблематичность присущей игровым технологиям обучения высокой соревновательности, которая может формировать легковесный или узкоцелевой образ получения образовательных навыков. Дискуссионным также остается вопрос о том, в каком соотношении находятся игровые компоненты и способность к обучению. Игровое обучение построено на спонтанных реакциях, автономных и нерефлексивных процессах запоминания и формирования навыков. Процесс освоения цифровых и компьютерных технологий на стороне пользователя является интуитивным. Однако подобные методы освоения не заменяют рефлексивных и сознательных процедур направленного поиска решений, в котором обучаемый прилагает осознанное усилие. Этический аспект описанных трудностей сводится к тому, что обучаемый пассивно вовлекается в процесс, в котором не может самостоятельно дифференцировать игровой компонент от содержания, попадает в определенную группу риска по формированию игровых зависимостей или усиления уже имеющихся.

3. Разновидностью геймификации образовательного и воспитательного процесса является виртуальное моделирование ситуаций, в которых ребенок отрабатывает определенные социальные навыки. Зачастую виртуализация данных компонент связана с некоторым высоким уровнем стресса от события и избеганием его в реальной жизни. Виртуальный помощник призван создать воображаемую и игровую среду, в которой тот или иной социальный навык ребенка может быть либо протестирован, либо сформирован.

Кейс. В 2018 году некоторые школы США внедрили образовательный продукт, комплект программ FearNot, в котором создавались виртуальные миры с различными персонажами. Ресурс нацелен на формирование социальных навыков у детей в ходе общения с виртуальными персонажами. Программа инсталлирует различные повседневные коллизии, требующие эмоциональной и социальной вовлеченности. Целью программы является формирование у детей навыков сопереживания, взаимовыручки и коллективной поддержки в ситуациях, когда по разным причинам в реальном пространстве ребенок с подобными вызовами не сталкивается. В частности, даже если ребенок не был жертвой или свидетелем буллинга, программа имитатор инсталлирует подобную ситуацию, в которую ребенок принудительно интегрируется как актор. Одним из побочных мотиваторов создания подобных программ является также идея апробации способов помощи подросткам в определенной ситуации (например, жертвам буллинга), а также разработки лучших способов взаимодействия в межподростковой среде (например, противодействию буллингу).

Аспекты геймификации сопровождаются широким резонансом и обсуждениями. В них этические споры занимают не последнее место. Ключевой момент, вызывающий тревогу, – психологические последствия внедрения виртуальных помощников. Под последними понимаются как персонифицированные элементы, так и смоделированные жизненные ситуации. Открытым остается вопрос об оправданности виртуального моделирования процессов, в которые ребенка принудительно погружают и которые могут причинить вред его психике. В частности, при моделировании ситуаций с буллингом система развивает социальные навыки ребенка, равно как тестирует социальный потенциал выработанных рекомендаций и норм поведения. Однако оправданность нагрузок, которые при этом испытывает ребенок, может вызывать вопросы. Превентивность формирования определенных социальных навыков в условиях стресса может вызвать сопротивление как родителей, так и самих детей. Кроме того, некоторые из разыгранных ситуаций могут вызывать неоднозначные последствия. Результатом общения с виртуальным помощником может стать проактивное поведение, а именно решение воспроизвести в реальных условиях проигранный в виртуальном сеансе игры сценарий. Подобные намерения и их реализация могут указать на провоцирующий характер виртуальных помощников, моделирующих социально опасные и нежелательные ситуации. Как следствие, не стоит ожидать большой поддержки таких программ со стороны общества.

4. На качество образования могут повлиять и особые консультативные программы, призванные сгенерировать персональные и индивидуально релевантные тактики обучения, выбор профессии, перспективность приобретения определенной квалификации отдельно взятым лицом. Данные стратегии нацелены на оптимизацию выбора пути профессионального развития человека. Они строятся на основе тестирования и анализа его природных и приобретенных способностей. Программы ИИ направлены на выполнение данных функций и активно генерируются в современные консультативные центры и методики индивидуального обучения. Концепция персонифицированных траекторий образования активно развивается уже сейчас, однако, согласно оценке специалистов, будущее образование будет в значительной степени ориентировано на уход от массовости образования в сторону специально подобранных карт обучения и повышения квалификации, разработанных под специфические потребности отдельных людей. Немаловажную роль в создании таких подходов играют комплексы программ по тестированию индивидуальных особенностей молодых людей на наличие врожденных способностей и дарований, равно как их обучаемости необходимым навыкам. Определенные типы ИИ, подготовленные для этих целей, активно работают последние десятилетия в виде консультативных программ подбора будущих профессий, рекомендуемых школьникам, абитуриентам или студентам.

Кейс. Большинство обзоров рынка наиболее перспективных и высокооплачиваемых индустрий будущего называют услуги индивидуального образования людей, согласно их нуждам и потребностям, а также с точки зрения оптимальной самореализации и раскрытия талантов. Данный сектор услуг будет предоставлять расчет траекторий карьерного успеха и предлагать индивидуальный план развития и обучения. Образование станет одной из компонент данной услуги. Одним из важнейших диагностических параметров данной услуги станет тестирование человека с точки зрения его природных дарований и наиболее выраженных способностей.

Консультативные программы тестирования профессиональных потенций сталкиваются с определенными этическими дилеммами. Определенный скепсис вызывает прогностический уклон данных программ. Программа, тестирующая навыки абитуриента, показывает в процентном выражении наличие тех или иных способностей: например, около 10 % в области математики и около 40 % в музыке. Данные сведения могут серьезно демотивировать тестируемых. В силу высокой степени доверия экспертному уровню программ ИИ тестируемые могут воспринимать рекомендации программы относительно некритически [Hakli, Mäkelä, 2019]. Несмотря на рекомендательный характер итогов тестирования и высокий процент погрешности результатов, а также не решенный с научной точки зрения вопрос о соотношении врожденных способностей и их развития в ходе обучения, абитуриенты могут буквально интерпретировать результаты тестов. По итогам консультирования они могут либо полностью отказаться от тех профессий, которые планировали рассмотреть для будущей карьеры, либо целиком ориентироваться на те сферы, которые порекомендует программа. Данные программы отличаются также высокой психологической травматичностью. Абитуриенты могут быть не готовы к тому, чтобы потенциал их способностей в любимом деле оказался недостаточно высоко или низко оцененным. Одним из ключевых и еще недостаточно хорошо изученных эффектов применения, консультирующих ИИ в образовании, является феномен нефальсифицируемости предсказаний системы. Информирование абитуриента о потенциале его способностей может способствовать тому, что он действительно перестанет развиваться в одном направлении и начнет двигаться в другом. Рост развития его потенциала может подтвердить прогноз программы. Однако в действительности указанные последствия станут результатом целенаправленных действий самого испытуемого на основе сделанного прогноза, а не успешностью прогностической функции самой программы. Таким образом, проверить эффективность работы самой программы не представляется возможным. Активный вклад тестируемого на основе доверия к программе будет способствовать ложному подтверждению ее правоты. И в этом случае тестируемый оказывается не только введенным в заблуждение, но и лишается способа проверки сделанного программой прогноза.

Еще один этически проблемный участок внедрения консультативных программ