Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

здесь было бы наличие обязательной двусторонней связи между независимыми ассоциациями и органами государственной власти. Следует не допускать единоличных решений органами власти, обеспечить заинтересованное и открытое к изменениям обсуждение с низовыми уровнями управления, а также представителями граждан и самими гражданами.

Наконец, важная задача при цифровизации образования, которую предстоит решить государству в ближайшем будущем, связана с проблемами справедливости распределения общественных благ. Наряду с этим еще одной наиболее прикладной рекомендацией будет организация курсов по этике для специалистов-разработчиков ИИ в области образования. Общественная инициатива могла бы состоять в том, чтобы ввести и расширить модуль преподавания по этике ИИ и не ограничиваться базовыми знаниями. Чтобы обучение студентов компьютерных специальностей было современным и полноценным, им следует изучать различные курсы по этике, например, такие как «Философские проблемы этики», «Философские проблемы этики ИИ», «Культура, этика и цифровые технологии» и проч. Контроль за этим процессом можно поручить общественным институтам и государственным органам.

3. Здравоохранение

Применение искусственного интеллекта в области здравоохранения во много раз повышает эффективность развития медицины, позволяет лучше и быстрее внедрять результаты научных открытий в практическую сферу помощи пациентам. Благодаря возможности работы с большими объемами данных, программы ИИ в состоянии предложить многократно усовершенствованные методы диагностики. Последние 10 лет программы ИИ уже активно используются в расшифровке данных объективных обследований, таких как УЗИ, рентгенография КТ- и МРТ-снимки (загруженное в систему изображение проходит полный цикл заключения – от расшифровки данных до постановки диагноза и выдачи рекомендаций). Программы ИИ активно применяют на предприятиях при мониторинге профессиональных заболеваний, при оценке развития хронических состояний, автоматизированных решений о госпитализации людей в случае вызова скорой помощи, а также в высокотехнологичных операциях с привлечением роботов-ассистентов в хирургии. Еще одним бурно развивающимся сегментом развития программ ИИ является область фармацевтики как в части подбора лекарственных средств по самым разным параметрам, так и помощи в создании аналоговых препаратов, а также при разработке оригинальных рецептур. В связи с применением ИИ в области фармацевтики и медицинского администрирования, эксперты прогнозируют значительное сокращение доли рабочих мест для людей-фармацевтов, специалистов по УЗИ, КТ- и МРТ-диагностике, рентгенологическим, а также лабораторным исследованиям. К середине текущего десятилетия, как утверждают эксперты BIS Research, доля ИИ-технологий в сфере здравоохранения приблизится к 30 млрд долларов [Council of Europe, 1990].

Наряду с этими успехами, применение искусственного интеллекта в медицине поднимает самые серьезные вопросы этического характера. Определенная их часть перекликается также с юридическими проблемами, в частности, вопросами, касающимися конфиденциальности персональных данных граждан. Этические проблемы применения ИИ в здравоохранении касаются главным образом дискриминации, душевного дискомфорта пациентов, риска нанесения им психологического ущерба и неоднозначности отношений между врачом и пациентом. В области здравоохранения технологии ИИ используют очень большие объемы данных для выявления закономерностей, которые затем применяются для прогнозирования вероятности будущих событий. В медицине такие наборы данных будут интегрироваться из электронных медицинских карт, заявлений о медицинском страховании, данных профилактических осмотров по месту работы, различных источников по самодиагностике пациентов, предоставляемых различными компьютеризированными источниками, а также из других источников. Формируя профиль здоровья, ИИ может опираться на информацию о частоте посещений поликлиники, пребывания в стационаре, данных амбулаторных обследований, частоте обращения к врачам-специалистам, а также частоте и длительности отпусков, доходах, судимостях и, в ряде случаев, информацию из социальных сетей.

Проекты с элементами технологий ИИ уже начались в России. Так, в Якутии 23 июля 2019 года врачи продемонстрировали коллегам из Минздрава России ИИ, разработанный группой молодых ученых Северо-Восточного федерального университета имени М.К. Аммосова. Молодые исследователи научили ИИ на основе анализа данных рентгеновских снимков распознавать патологию и даже оценивать степень вероятности наличия той или иной патологии, что является важной поддержкой в принятии врачебных решений. Показательно, что аналогичные разработки в области цифровой медицины имеются и в России, и за рубежом, однако все они – коммерческие проекты. Таким образом, в Якутии появился первый ИИ, разработанный государственным медицинским учреждением. Однако, несмотря на доминирование в РФ государственной медицины, этот случай является, скорее, исключением, чем правилом. Пилотные проекты по применению ИИ в совершенствовании радиологической диагностики реализованы российскими коммерческими компаниями в Новгородской и Тульской областях. Однако аналитики считают эти проекты разовыми, а инвестиции «несистемными». Регионы платят за пилотные проекты 3–7 млн рублей, что не покрывает и 10 % инвестиций в создание продуктов на базе ИИ.

Производители для продвижения продуктов на базе ИИ формируют ассоциации. Так, в 2018 году при Ассоциации Заслуженных врачей России была основана некоммерческая ассоциация «Национальная база медицинских знаний» (здесь и далее – НБМЗ), задачей которой является продвижение в медицинском сообществе РФ решений на базе ИИ. В настоящее время, несмотря на реализацию пилотных проектов, продукты на базе ИИ не пользуются высоким спросом в российском здравоохранении. Основными препятствиями являются отсутствие доверия у медицинского сообщества к результатам диагностики, проводимой с помощью ИИ, барьеры законодательства, препятствующие внедрению решений на базе ИИ, поддерживающих принятие решений медиками. Тем не менее ИИ представляет собой либо полноценный помощник медика, либо вспомогательный инструмент в различных направлениях медицины.

На сегодняшний день различные группы исследований уже демонстрируют, как можно использовать ИИ для прогнозирования возникновения и развития различных заболеваний. К заболеваниям, которые уже так или иначе мониторятся в наши дни с помощью различных технологий ИИ, относятся кардиологические и ишемические заболевания и болезни сосудов, инсульт, диабет, снижение когнитивных функций, в том числе возрастной этиологии: болезни Альцгеймера и Паркинсона, а также онкологические заболевания. Эта прогностическая способность искусственного интеллекта поднимает серьезные вопросы этического характера в сфере здравоохранения. Если ИИ генерирует прогнозы о здоровье, однажды эта информация может быть не просто включена в электронные медицинские карты, но и использована на всех уровнях и этапах жизнедеятельности индивида, может повлиять на качество его жизни, а также состояние здоровья и уровень психологического комфорта. В рамках программы внедрения ИИ в сферу здравоохранения предполагается, что автоматизированный умный мониторинг здоровья граждан станет средством сопровождения состояния их здоровья в течение всей жизни. Внедрение подобных программ ориентировано на продление длительности жизни граждан и улучшение ее качества. Самые сильные стороны ИИ в области здравоохранения – это автоматизированные сбор и анализ данных, мониторинг и диагностика пациентов, оценка рисков возникновения заболеваний, назначение лечения и терапевтических мероприятий, а также проведение высокотехнологичных операций. Эти и другие технологии поддержания здоровья, включающие новейшие разработки ИИ, могут привести к целому ряду этических, юридических, социальных и даже философских проблем. Уже сейчас многие эксперты обеспокоены технологической зависимостью врачей-людей от машин [Council of Europe, 1997]. Например, проводимые по программам ИИ высокотехнологичные операции людей могут приводить к постепенной утрате навыков и