Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

к тому, чтобы скрывать какие-то детали диагноза или плана лечения в случае, если пациент все-таки решится обратиться к врачу за разъяснениями компьютеризированных предписаний или подтверждения диагноза, или плана лечения, сформированного машиной. При непосредственном общении врач сам принимает решение, какой информацией делится с пациентом. Однако если ИИ-помощник будет запрограммирован на больший объем доступной для пациента информации, это может создать двусмысленную, неопределенную и даже потенциально конфликтную ситуацию между врачом и пациентом. Возможно, при более масштабном внедрении компьютерных помощников в область медицинской помощи придется более детально регламентировать, в какой степени пациенты могут «перепроверять» решения ИИ-врачей или просить дополнительных разъяснений у людей-врачей, и как будет распределяться ответственность в подобных случаях.

3.2. Перечень рекомендаций

Важность всесторонней экспертной поддержки при внедрении ИИ-технологий трудно переоценить. Необходимо отметить, что это одна из тех областей, для регулирования которой желательно подключение специалистов самых разных областей. Помимо участия самих медицинских работников, важно участие психологов, философов, специалистов по медицинской этике, а также таких более частных областей, как философия сознания, нейрофеноменология, нейроэкзистенциализм, энактивизм и др. Данная область имеет высокий потенциал для релевантности собственно философской и психологической экспертиз. Роль гуманитариев, а также специалистов по социальным наукам крайне важна для проведения квалифицированных экспертиз соответствующих ИИ-программ. Некоторые эксперты считают, что использование ИИ-технологий в медицине должно быть регламентировано на государственном уровне.

Решение ряда вопросов, связанных с внедрением и распространением ИИ-программ в области здравоохранения, стоит поручить общественному контролю, а также надзору соответствующих государственных органов. В частности, в ведении этих структур должны находиться вопросы контроля полноценной и всесторонней информированности граждан о возможностях и последствиях применения той или иной медицинской ИИ-программы. Врачи, которые предоставляют пациентам ИИ-прогнозы, должны убедиться, что они хорошо осведомлены об их плюсах и минусах. Эксперты должны консультировать пациентов по поводу ИИ так же, как это делают опытные специалисты по генетическому тестированию. Для того чтобы применение ИИ-технологий в области медицины и здравоохранения могло способствовать сохранению здоровья, увеличению продолжительности жизни, улучшению ее качества, а также повышению благосостояния общества в целом, не только сами медики, но и независимые исследователи, политики и различные общественные институты должны учитывать все возможные этические риски внедрения ИИ-программ и действовать с осторожностью. Для этого им должны помогать соответствующие группы экспертов, проектные команды специалистов, работающих на базе междисциплинарных подходов, они же должны оказывать посильную помощь для предотвращения возможных злоупотреблений при применении ИИ-технологий. Наиболее реалистичным в краткосрочной перспективе было бы решение данной задачи с помощью назначения каждым медицинским учреждением отдельных специалистов по медицинской этике, а также этике внедрения ИИ в области медицины.

Еще одним решением было бы формирование этических комитетов при крупных медицинских учреждениях (в частности, научно-исследовательских институтах) по аналогии с этическими комитетами в ведущих западных университетах и исследовательских центрах. Помимо медиков в них могут входить отраслевые эксперты, специалисты по этике, представители курирующих отрасль органов власти, представители гражданского общества и НКО, защищающие права пациентов. В частности, следует продумать этическую сторону защиты конфиденциальности данных. Нарушение врачебной тайны является одним из самых неприемлемых последствий автоматизации сбора и обработки данных при работе с пациентами. Искусственному интеллекту необходим доступ к гигантским массивам данных, чтобы выдавать релевантные прогнозы. Однако все собранные медицинские данные (личные карточки пациентов, лабораторные данные, снимки, протоколы УЗИ, данные анамнеза и заключения врачей) являются личными данными и подпадают под определение конфиденциальной информации, и работа с ними должна регулироваться законом о защите персональных данных. Решение о том, в каких объемах и по каким алгоритмам передача данных была бы возможна, целесообразно возложить на этические комитеты, работающие при медицинских учреждениях. Наряду с этим достаточно общим нормативным требованием возникает и целый ряд достаточно тонких этических последствий разглашения личных данных о состоянии здоровья граждан. В случае если оцифрованные данные (электронные карты) окажутся в открытом доступе, то они могут быть использованы различными организациями в собственных интересах. Например, если данные карт станут доступны страховым компаниям, то весьма вероятно изменение условий обслуживания граждан, в зависимости от их текущего коэффициента здоровья. Справедливость подобных мер – это дискуссионный вопрос. Однако наиболее несправедливым представляется коррекция условий обслуживания граждан на основе долгосрочных прогнозов по их здоровью, сформированных высокотехнологичным ИИ с развитой функций прогнозирования. В частности, если страховые компании прибегнут к завышению стоимости полисов для пациентов, у которых ИИ определяет в перспективе высокие риски онкологических заболеваний, инфарктов или инсультов, требующих дорогостоящего медикаментозного лечения и реабилитации, то подобная мера представляется несправедливой. Также следует принимать защитные меры для предотвращения ситуаций, в которых потенциальные работодатели могут отказывать соискателям или изменять условия найма сотрудников на основе различных ИИ-прогнозов, в том числе генетического прогнозирования. Разъяснения подобных вопросов, лежащих в ведении этической экспертизы, должны проводиться соответствующими специалистами. Очевидно, что развитие ИИ-технологий в сфере здравоохранения требует важных модификаций в правовой базе, однако большая их часть должна проводиться на основе этических экспертиз. Ближайшими исполнителями данных требований могли бы стать специальные этические комитеты, работающие при медицинских учреждениях. В идеале специалисты данных комитетов должны иметь подготовку по двум квалификациям – в сфере медицины и врачебного дела, а также в области этики ИИ. Одним из вариантов решения данной, прежде всего государственной, задачи была бы переподготовка медицинских кадров по профилю этики ИИ в рамках повышения квалификации или дополнительного образования при разработке соответствующих образовательных стандартов. Из числа данных специалистов можно было бы формировать потенциальный контингент этических комитетов, функционирующих при каждом медицинском учреждении.

4. ЖКХ. Системы «умный дом»

Наряду с самыми разными сферами внедрения ИИ наиболее активное и широкое применение компьютерных технологий происходит в области повседневной жизни. Одной из наиболее востребованных технологий современного внедрения ИИ в бытовую сферу является технология «Умный дом». Данная технология получает все большее распространение как в частных домах и домовладениях, так и в качестве централизованной услуги, предлагаемой современными управляющими компаниями и комплексами жилищно-коммунального хозяйства. Концепция «Умного дома» была сформулирована Институтом интеллектуального здания в Вашингтоне в 1970-е годы. «“Умный дом” – здание, обеспечивающее продуктивное и эффективное использование рабочего пространства благодаря оптимизации его четырех основных элементов: структуры, систем, служб и управления, а также взаимоотношений между ними» [Анненков, Рыбкин, 2013, с. 3].

Эта концепция заключает в себе ряд требований по обслуживанию и эксплуатации помещения. Как правило, система «Умного дома» охватывает оборудование, управляющее отоплением, освещением, связью и электронными устройствами. Они управляются дистанционно и обладают высокоавтоматизированной настройкой, работа которой основана, в том числе, на автоматическом сборе и анализе данных. Дистанционное управление системой «Умного дома» может осуществляться с помощью портативных