Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

ценностям. В частности, если по тем или иным религиозным соображениям, запрещающим аборты, пациентка отказывается от скрининга, никто не оспаривает ее права. При проведении генетического консультирования важно соблюсти общий этический принцип автономии личности, а также принцип медицинской этики о непричинении вреда. В частности, обоих супругов информируют о том, что цель данного теста – выявить возможные патологии плода. В свою очередь, данная информированность и проведенная уточненная диагностика может послужить основанием для решения о прерывании беременности. Соответственно, будущие родители (окончательное решение принимает всегда мать) вправе не проводить тестовый скрининг и отказаться от диагностики в случае, если они не хотят брать на себя обязательство принимать такое решение. При внедрении программ ИИ регулирование этической стороны медицинской помощи данного типа, судя по всему, усложнится. Обширный спектр возможных параметров тестирования на генетические аномалии усложнит процедуру взвешивания всех за и против принимаемого решения. Нужно будет определять, для каждого ли отдельного случая матери нужно принимать решение в соответствии со своими ценностями или речь всегда будет идти о любом скрининге в целом. Последний вариант представляет собой значительную трудность, поскольку различные аномалии и их последствия для последующего развития ребенка далеко не одинаковы. Одни патологии значительно тяжелее других и, наоборот, далеко не для всех случаев возможность прерывания беременности обсуждается в качестве релевантной меры. Кроме того, в ряде случаев будущие родители хотели бы знать о возможных патологиях, чтобы лучше подготовиться к ним после появления ребенка на свет. В ряде случаев сами медики заинтересованы в проведении подобных экспертиз, чтобы иметь возможность оказать адекватную оперативную помощь при рождении больного ребенка. Как следствие, расширение возможностей программ ИИ по генетическому тестированию должно повлечь значительное расширение, детализацию и спецификацию этически релевантных процедур ознакомления родителей с их правами и возможностями по каждому из тестируемых параметров. По-видимому, проведение самой процедуры консультирования ИИ будет затруднено в силу нежелательности формализации данного процесса. Родителям предстоит принимать важные решения, и лучше, если это будет проходить в неформальной и непринужденной обстановке, где они могут быть уверены, что с ними общается человек как носитель определенных этических взглядов и моральных ценностей. Также важно создать защиту от автоматизированных тестирований на генетические мутации, «зашитые» в различные другие медицинские процедуры, доверенные ИИ. Поскольку родители каждый раз заново и самостоятельно принимают решение о том, готовы ли они быть информированными о наличии у будущего ребенка возможных патологий и отклонений, необходимо, чтобы доступ к подобной информации всегда предварительно с ними согласовывали.

5. В настоящее время значительное внимание уделяется разработке таких программ медицинской помощи пациентам, которые могли бы отчасти разгрузить врачей, а именно предоставить всю информацию о лечении напрямую [Petervan, Rysewyk, Pontier, 2018]. Подобные программы создают методики лечений по прямому запросу пациента – на основе их жалоб и симптомов. При развитии данных технологий пациент освобождается от посещения врача и в то же время не занимается самолечением: фактически его лечением занимается умный помощник или «умный ИИ-доктор». Подобная технология имеет много плюсов. Среди очевидных – избавление врачей от большой и подчас рутинной работы. В случае простых состояний, таких как головная боль, повышенное давление или высокая температура, «умный доктор» вполне может сформировать план лечения и поход к человеку-врачу не понадобится. Менее очевидный, но вполне реальный плюс – решение проблемы психологических страхов, связанных у некоторых людей или детей с посещением медицинских учреждений или врачей. При использовании программ-помощников некоторые пациенты могут полностью избавиться от так называемого «страха белых халатов».

Кейс. Британская компания Your.MD запустила в 2015 году программу [Arkin, Borenstein, 2016], которая позволяет пациенту сформулировать любой симптом на простом языке и узнать от программы вероятный диагноз и рекомендации по лечению. Например, пациент может сказать: «Меня тошнит» или «У меня горячий лоб», программа выделит симптом, чтобы потом найти ему соответствие в огромной картотеке, созданной Your.MD и насчитывающей более 1,5 млн симптомов. Далее программа найдет наилучшее соответствие симптому и предложит план лечения. Еще одна, Medtronic, разработала приложение, способное предсказывать вероятность кризов за несколько суток до события и рекомендовать принять сильнодействующее лекарство либо увеличить терапевтическую дозу препарата до значительных доз. Еще одно медицинское приложение OME использует данные генетики. Приложение предоставляет рекомендации на основании генетических данных пользователя и оценивает риски заболеваемости той или иной патологии в зависимости от болезней родственников.

Внедрение данной технологии при всех своих плюсах сопровождается целым комплексом этических проблем. Далеко не все врачи приветствуют широкое внедрение программ, которые предоставляют пациентам данные об их состоянии здоровья. Беспокойство вызывает не только очевидные риски неверного прогноза, но, скорее, неадекватные решения, которые могут принимать сами пациенты на основе полученных данных. Так, известно, что решение об удалении яичников, которое было принято известной актрисой Анджелиной Джоли, представлялось разным медикам спорным. В ходе консилиумов не удавалось выработать единого мнения. На основании генетической экспертизы риск возникновения рака яичников оценивался в 50 %. Программа ИИ, к который прибегли для повышения достоверности оценки, предоставила примерно те же результаты. После этого сама актриса настояла на проведении операции, притом, что единого мнения по этому случаю по-прежнему не было. Врачи опасаются, что люди могут принять неверное и неоправданное решение в отношении своего здоровья при использовании различных диагностических приложений. В силу недостаточной профессиональной подготовки, различных психологических особенностей, таких как мнительность или ипохондрия, пациенты могут склоняться к радикальным мерам в тех случаях, когда с адекватной медицинской точки зрения они выглядят неоправданными. Возможны и другие случаи, когда пациенты в силу своих особенностей не придадут достаточного внимания тем предписаниям, которые выдаст программа. Они могут саботировать решения, предлагаемые ИИ-помощником, но проявить большую ответственность при посещении человека-врача, который может стать дополнительной психологической поддержкой или попытаться убедить пациента лично. Еще одной проблемой использования ИИ-врачей в виде различных программ и приложений является трудность установления ответственности в случае назначения неверного лечения или различных врачебных ошибок для тех случаев, когда врачом выступает компьютерная программа. Следует ли возлагать ответственность на производителя программы (программистов) или того, кто реализует данный продукт? В случае с человеком-врачом ответственность за неверное лечение или причинение вреда пациенту несет сам врач, однако в случае с использованием компьютеризированного помощника эта мера неочевидна. Наконец, проблематичными становятся отношения между пациентом и врачом. В силу названных трудностей врачи могут избегать активного внедрения ИИ-помощников, поскольку реакция пациентов на полученные рекомендации может быть непредсказуемой. Если пациент станет настаивать на радикальных и неоправданных методах лечения на основе полученных прогнозов и врач окажет ему содействие, то в какой степени будет распределяться ответственность между всеми участниками процесса, не вполне ясно. Врачи также могут склоняться