Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

его помощник), будет либо не полной, либо предвзятой, либо составленной субъективно. Подобного рода оценки признаны не слишком информативными в силу того, что разные судьи на свое усмотрение принимают во внимание разные факторы. Как правило, при составлении подобных прогнозов человеком во внимание принимается только совершение или не совершение того или иного проступка. Совершению или не совершению приписывается определенный балл. Противники подобного подхода указывают на его неэтичность – не вполне справедливо оценивать только совершение дурных поступков или их несовершение, но не принимать во внимание совершение положительных поступков [Coeckelbergh, 2016]. Создание компьютеризированных программ оценки рисков нацелено на устранение данной погрешности, поскольку отныне в силу большой подборки данных программа может принимать во внимание практически все действия человека, совершенные им от рождения до текущего момента [Giubilini, Savulescu, 2018]. Согласно мнению некоторых из сторонников внедрения подобных программ, обширная подборка релевантных данных об активности человека в прошлом должна способствовать наиболее объективной оценке его законопослушности, равно как наиболее объективно оценивать вероятность новых правонарушений в будущем. В подборку по оценке рисков может быть помещен анализ генетических и социальных предрасположенностей к совершению преступлений, равно как потенциальной склонности к противоправному поведению. Сюда же могут включаться данные о наличии социопатических черт, анализ биографических и психологических особенностей личности с возможностью моделирования и предсказания возможных рисков противоправных действий, к совершению которых может быть склонно то или иное лицо.

Подход к формированию подобной оценки представляется не вполне этичным. Для этики в высшей степени проблематичным представляется оценка поступков человека на основании математической статистики. Презумпция свободной воли предписывает закреплять за человеком возможность совершить свободное, а значит, непредсказуемое действие [Holm, Voo, 2011]. Если человеческое действие будет рассчитываться на основе одних только статистических вычислений, это будет равнозначно тому, что он не обладает свободой воли. В свою очередь, наличие свободной воли необходимо для того, чтобы считать человека субъектом морального и правового действия. Лицо, не наделенное свободной волей и не способное к совершению свободного поступка, не может осуждаться или порицаться, подпадать под юридические или моральные оценки. Применение юридических санкций к лицу, не обладающему субъектными чертами, важнейшей из которых является свобода действия, абсурдна. Соответственно, использование любых расчетов, которые могут прямо или косвенно указывать на отсутствие такой свободы, нарушает требования этики, согласно которым мы должны следовать презумпции существования свободной воли, даже если у нас имеются данные в пользу ее ограниченности. Применение прогнозов, основанных на анализе большой выборки данных о действиях человека, нарушает его право на то, чтобы рассчитывать на данную презумпцию [Livingston, Risse, 2019]. Если в ходе анализа большой выборки фактов о деятельности того или иного лица, ИИ действительно сможет предложить высоковероятный сценарий его последующей активности, то применение данных результатов будет научно релевантным, но этически неоправданным.

5. Еще одной технологией ИИ в области судебной системы являются автоматизированные сбор, аккумуляция и сопутствующая юридическая экспертиза данных, касающихся граждан. Управление данными, обрабатываемыми ИИ, – это определенная этическая и юридическая проблема. Преимущество ИИ заключается в том, чтобы собирать большие объемы данных, используя различные устройства и приложения, как в случае с беспилотниками, роботами-помощниками и роботами по безопасности. Неясно, однако, как оценивать технологии обработки данных, связанные с судебным разбирательством и судебным решением. Согласно данной технологии, о каждом гражданине можно будет сделать централизованный запрос, в котором будут указаны специфические особенности, например, история уплаты налогов, история погашения штрафов, история и обстоятельства погашения возможных административных или иных правонарушений. Система также будет аккумулировать и хранить также данные о возможных обращениях гражданина в суд, полицию или иные правоохранительные органы или органы власти. В данном профиле могут быть сведения об обращениях в банк по вопросу хищения денег с карты, потери карты и проч. Система будет оснащена встроенным аналитическим модулем, который не просто собирает информацию, но и аналитически обрабатывает с точки зрения различных запросов. Например, система может предоставлять информацию о статистике тех или иных ситуаций, возникших в определенный период жизни, или сообщать о росте/снижении административной ответственности в определенный период времени. Данные технологии могут оказать посильную помощь при возникновении правовых споров.

Кейс. Программы VapeNews, Focus.kontur.ru, Avinfo.co в России предоставляют данные о гражданах в открытом доступе по различным тематическим запросам (предпринимательская деятельность, сделки по автомобилям и недвижимости, активность в Интернете и т. д.).

Кейс. В 2015 году в США программа сбора данных о гражданах Америки на основе пользования мобильной связью, интернетом, электронной почтой прекратила свое функционирование. Данное решение было принято на основании признания несоответствия данной программы положениям Закона США «О свободе». В рамках данной программы Агентство национальной безопасности (АНБ) США собирало записи сообщений миллионов своих граждан, независимо от того, подозревались ли они в совершении правонарушений или нет. Весной 2015 года Федеральный апелляционный суд США признал существующую программу сбора сведений о гражданах незаконной. Вскоре ее заменили на более легкую версию, которая работает по настоящее время, однако, представляет собой предмет неутихающих споров и дебатов этического свойства.

Закрепленное законом право на неприкосновенную частную жизнь любого гражданина вступает в явное противоречие со сбором и анализом личных данных в случаях, если это происходит без ведома и согласия владельца. Существующий в настоящее время закон регулирует процедуры обработки личных сведений о гражданах, однако, неурегулированным остается ряд вопросов. Интернет-программы, осуществляющие автоматический поиск данных, работают в условиях открытой информации, на доступ к которой физические или юридические лица не давали своих согласий. Например, стандартная база данных публикационной активности ученых выдает автоматизированный наукометрический коэффициент научной значимости публикаций, а также личный научный рейтинг исследователя (индекс Хирша). Данный показатель рассчитывается автоматически и не предполагает получения письменного согласия ученого о разрешении на поиск данной информации в открытом доступе. Между тем данный индекс сообщает о степени квалификации ученого, его профессиональном уровне, научных достижениях и карьерных возможностях. Данный показатель активно используется потенциальными работодателями, решающими вопросы научного рекрутинга. Этически открытым остается вопрос, допустимо ли размещение сведений о профессиональном уровне ученых в открытом доступе.

1. Еще одной из ключевых этических проблем, связанных с технологией сбора данных, является степень расширения доступности конфиденциальных сведений и их переход в область неконфиденциальных. Неясным является вопрос алгоритмизации отделения конфиденциальной информации от неконфиденциальной. Конфиденциальная информация может косвенно содержаться, даже без намерения ее искать, в неконфиденциальной информации и тем самым способствовать предвзятости, к примеру, судебного решения [Myungsik, 2018]. Потребительские привычки, мнения в социальных сетях, геолокационные данные дают информацию о привычках и склонностях человека и позволяют косвенно реконструировать конфиденциальные данные [Galliott, Reed, 2016].

Техническое определение границ конфиденциальной и неконфиденциальной информации представляет собой отдельную проблему. Доступ к информации