Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

прогноза при условиях сохранения точности неизбежно меняют отношение людей к подобным прогнозам. В случае их высокой точности и долгосрочности доверие к ним возрастает, а значит, растет и соблазн делать более прямые расчеты экономической целесообразности на основе настолько точных сведений о здоровье и продолжительности жизни людей. Ситуация отягощается также тем, что прогнозы ИИ не просто носят вероятностный характер, но и могут содержать в корне ошибочный прогноз. Некоторые пациенты могут вовсе не быть подвержены риску прогнозируемых ИИ заболеваний. Это означает, что пациенты могут страдать от дискриминации и возможного психологического ущерба в результате ошибки или ложных сведений.

2. На сегодняшний день доказано, что с формированием прогнозов программы ИИ справляются лучше, чем люди-врачи. При тестировании успешности людей и машин люди были правы в 60 % случаев, а машины – в 72 %. Программы ИИ демонстрируют успешность как в прогнозах по протеканию болезней, так и по рискам возникновения тех или иных заболеваний, появлению различных осложнений и т. д. Результаты недавнего исследования по риску возникновения родового кровотечения у рожениц, принимающих кроворазжижающие препараты при высоком D-димере, показали, что чаще всего технология ИИ соответствовала или была лучше, чем решение акушеров-людей. В исследовании также было обнаружено, что решения ИИ об отмене препаратов были наиболее целесообразны и обоснованы лучше, чем решения людей. Успешность ИИ в подобных случаях связана с доступом к большому массиву данных, не ограниченных страной, временем или определенным учреждением. Известно, что стратегии лечения зачастую не совпадают в различных странах, где сертифицированы разные подходы и официальные медицинские стандарты. В различных разделах медицины наблюдаются несовпадения большей или местной интенсивности. К примеру, в области стоматологии рынок медицинских услуг и технологии лечения стандартизированы в высокой степени. Еще одна область, где прослеживается значительное совпадение в стратегиях лечения, – офтальмология. К сферам с невысокой степенью совпадений относится акушерство и гинекология. Здесь разброс по странам в способах диагностики и методах лечения существенно разнится. Как следствие, люди-врачи в работе придерживаются тех технологий, которые распространены в их странах. Напротив, библиотека практических случаев и методик лечения в программах ИИ не ограничивается определенной страной. Как следствие системы ИИ имеют доступ к гораздо более обширному и разнообразному арсеналу случаев и средств лечения, чем и объясняется их успех.

Кейс. В 2016 году «умный» сервис диагностики IBM Watson выявил у 60-летней пациентки редкую форму лейкемии [Monegain, 2016]. Для этого система за 10 минут «изучила» 20 миллионов научных статей о раке. Лечащими врачами пациентке был поставлен другой, неверный диагноз. Программа лучше справилась с задачей диагностики и фактически исправила ошибку врачей-людей.

Несмотря на очевидные преимущества прогностического потенциала ИИ, сложную этическую проблему представляет сам статус решений на основании вероятностей. В основе этой проблемы лежит философский вопрос о том, где именно существуют вероятности – в реальности или в системах наблюдений (сознании наблюдателей). Согласно одной из точек зрения, сама реальность жестко детерминирована и событийно определена, поэтому никаких вероятностей в ней не существует. Вероятность может появиться только в ситуации неопределенности. Если это действительно так, то решения, принимаемые на основе вероятностей, обладают гораздо меньшей предсказательной силой, чем принято думать. Очевидно, что когда на преднатальном скрининге высчитывается риск наличия генетических поломок у плода (например, мутация, вызывающая синдром Дауна), то в реальности наличие или отсутствие данного синдрома уже определено, оно есть. Соответственно, высчитывается вероятность не самого события, а эффективного описания события, скорее вероятность самой ошибки. Описание никогда не равняется 100 % и в этом смысле всегда не может быть точно определено. Расчет вероятностей по модели 100 % является результатом логического и психологического заблуждения. Это положение подтверждается тем фактом, что прогнозы ИИ далеко не безошибочны. Кроме того, многие внешние факторы могут способствовать ошибкам в прогнозах. Например, если данные, использованные для написания самой программы, ошибочны, то результаты анализа также будут ошибочны. Точно так же, если в программу загружаются неверные параметры или нестабильные показатели, то результаты прогноза могут быть нерелевантными [Vallverdú, 2010]. Между тем прогнозы ИИ зачастую приравниваются к решениям, которые обладают абсолютным приоритетом. Не только пациенты, но и врачи склонны наделять решения машины высоким доверием и зачастую некритически относятся к самому процессу принятия решения, а также тем вводным, которые находились на входе. Некоторые медики отмечали тот факт, что они, скорее, стараются предсказать решение системы, чем сформировать собственный прогноз [Lamanna, 2018]. Этически проблематичным является непрозрачность формирования доверия к врачебным прогнозам ИИ. Если пациенты склонны демонстрировать высокую степень доверия врачам, то, скорее всего, они окажутся не готовыми к тому, что сами врачи полностью полагаются на прогнозы ИИ.

3. Еще одна из технологий, основанных на предсказательной функции ИИ в здравоохранении, – это прогнозы в отношении здоровья, к которым у пациента есть прямой доступ. Если в неоднозначных и сложных случаях пациенты обращаются к врачу-человеку как посреднику между машиной и человеком, то ряд программ предполагает аутодиагностику или аутомониторинг. Часто пациентам с хроническими заболеваниями нужно ежедневно контролировать динамику показателей своего здоровья. Они могут использовать технологии для измерения пульса, давления или дыхания. Полученные в автоматическом режиме данные необходимо собрать, обработать и правильно интерпретировать. Для этого используются различные мобильные приложения, настроенные на портативный доступ и легкость в эксплуатации. Такие программы мобильно аккумулируют данные о параметрах здоровья и автоматически передают их лечащему врачу. Они также могут оперативно предложить наиболее простые рекомендации по облегчению состояния пациента. Данные программы также оснащены модулем долгосрочного прогнозирования и расчетом ключевых рисков на основании реальных данных пациента и ежедневного мониторинга за динамикой его здоровья. Такая программа может просчитать риск инфаркта в ближайший год исходя из данных работы сердца за последний месяц. Другой пример – риск онкологического заболевания легких на основании количества выкуренных сигарет за истекший месяц, а также объективных данных по состоянию легких. Наконец, программа может выдать динамику снижения когнитивных способностей на основе годовых МРТ-обследований и данных по энцефалопатии. Данные, полученные в таком режиме, передаются лечащим врачам и во много раз ускоряют возможность получить лечение. При посещении врача нет необходимости заново проходить обследование. Кроме того, долгосрочное наблюдение за состоянием здоровья в динамике повышает точность и эффективность назначенного лечения.

Кейс. Мобильное приложение, созданное компанией AliveCor, обрабатывает данные с устройства для снятия кардиограмм, которое имеет дома пациент (URL: https://www.alivecor.com/press/press_release/alivecor-unveils-medical-grade-mobile-app/). ИИ каждый день расшифровывает их и может предсказать ухудшение ситуации. Все проанализированные данные также отправляются врачу. Приложение может обнаружить приближение инфаркта и попросить пользователя обратиться к врачу. Медсестра в приложении Sense.ly может говорить с пациентом о самочувствии, давлении, жалобах на здоровье, она может комментировать симптоматику пациента, оповещать о необходимости принять лекарства