Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

к обратным результатам. У пользователей ИИ-технологий может появляться ощущение многократно возросшей зависимости от различных технических устройств и приспособлений [Danaher, 2010]. Люди отмечают возрастающий страх от осознания того, что поломка одного-единственного устройства или выход из строя программного приложения может привести к катастрофическим последствиям.

По заказу UK Post Office было проведено исследование феномена, получившее название номофобии (страха потери доступа к сотовому телефону), которое показало, что около 53 % людей в Великобритании, пользующихся мобильными телефонами, испытывают тревогу: если теряют его, если он отключается, если заканчиваются деньги на счету или пропадает покрытие сотовой сети. В этом же исследовании было показано, что по степени интенсивности панического страха до 45 % людей ставят степень паники при потере сотового телефона на второе место после ощущения паники от угрозы оказаться в центре террористической атаки [D’Agata, 2019]. В большинстве случаев респонденты указывали, что данные страхи связаны со страхом утратить контроль над всеми банковскими счетами и прочими финансовыми инструментами, которые могут попасть в руки злоумышленников.

Ощущение мгновенной утраты всякого контроля весьма характерно и при возникновении проблем при эксплуатации систем «Умный дом». У домовладельцев может возникать ощущение, что в случае возможной поломки вся система одновременно выйдет из строя. Так, при возможном доступе злоумышленников к системе обслуживания дома они получают неограниченный доступ ко всем уровням жизнедеятельности, что несет риски, в том числе, для жизни и здоровья самих домовладельцев.

Как и всякая система, управляемая дистанционно, «Умный дом» подвержен взлому со стороны. Если запускать систему со стационарного компьютера или ноутбука, то высока вероятность внедрения вирусов в систему. Безопасность также зависит от того, к какой сети подключается пользователь для управления домом – общественной или частной. Многие из этих нюансов эксплуатации могут приводить к обратным результатам, а именно увеличивать психологическое чувство тревожности у собственников, ощущение, что их жилище недостаточно защищено или слишком уязвимо при воздействии различных технологических катастроф, при технических поломках и нестабильной работе программного обеспечения.

4.2. Перечень рекомендаций

Внедрение ИИ-технологий в сферу ЖКХ требует такой же этической поддержки, как и для областей здравоохранения, образования и судебной системы. Государству следует как можно тщательнее продумать возможности сохранности приватного пространства, а также определить критерии отделения частного от общественного. Этической экспертизе подлежит само определение приватного. В связи с виртуализацией многих областей жизнедеятельности современных индивидуумов требуется как можно яснее задать параметры отделения того пространства, где вступают в силу законы, оберегающие неприкосновенность частной жизни граждан. Эти данные следует отделять от тех, где работает приоритет защиты коллективных интересов, а также обеспечение коллективной безопасности. Внедрение технологий «Умный дом» напрямую касается этих вопросов.

Автоматизированная поддержка коммунальных услуг, эксплуатации помещений и безопасности пребывания в них максимизирует комфорт, однако порождает ряд определенных трудностей, в том числе, этического характера. Для их устранения требуется тесное сотрудничество с коммунальными службами, которые должны быть готовы всегда прийти на помощь в случае возможных перебоев с автоматизированными службами и услугами. В этой части был бы уместен контроль со стороны органов государственного управления, осуществляющих надзор за соблюдением этических норм. В первую очередь он должен касаться защиты личных данных граждан от утечки и передачи в третьи руки.

Одним из способов, реализующих данное требование, могло бы стать создание независимых центров, разрабатывающих технологии шифрования и защиты данных. По аналогии со службами безопасности, существующими в качестве подразделений банков и других финансовых учреждений, было бы целесообразно внедрить аналогичные службы во все организации, так или иначе осуществляющие сбор и использование личных данных граждан.

Организации жилищно-коммунального комплекса не могут стать исключением. Управляющие компании могут внедрять специальные подразделения, отвечающие за сохранность всех личных данных, поступающих в ведение УК в рамках предоставления услуг «Умный дом». Также требуется некоторая автономия и гибкость выбора на рынке коммунальных услуг. Любому собственнику жилья должна быть предоставлена возможность беспрепятственной смены управляющей компании, предоставляющей услуги «Умного дома», и замену его на другую компанию с аналогичным доступом к подобным услугам. Можно прогнозировать крайне негативные последствия для развития рынка технологий искусственного интеллекта в сфере ЖКХ в случае, если эти услуги будут монополизированы ограниченным количеством управляющих компаний. Также следует предоставить равный доступ всем жильцам одного дома к данным услугам. Унификация доступа необходима для равной заинтересованности собственников в соблюдении всех норм и требований обеспечения помещений соответствующими технологиями искусственного интеллекта.

Важной этической стороной технологий «Умного дома» является защита личных данных собственников, формируемых на базе доступа к их частному жилью. Для того чтобы автоматизированные системы коммунальных служб работали бесперебойно, им требуется аккумулировать и анализировать большие объемы данных, имеющих отношение к частной жизни граждан. Этот факт может вызывать напряжение у многих собственников жилья, так как формирование целых кластеров информации, содержащих данные о частном быте людей в объеме, подчас превышающем их собственную осведомленность, может таить в себе угрозу и риски быть использованными во вред и против интересов домовладельцев.

Следует разработать комплекс мер, направленных на профилактику нежелательных последствий от сбора данных. Поскольку в случае возможной утечки, хакерских атак, хищения данных мошенниками для последующих злоупотреблений данные могут быть использованы не в интересах граждан, следует установить критерии сегрегации сугубо приватных данных от нейтральных, а также процедуры отказа жильцов от предоставления приватной информации.

Аналогичным образом следует продумать также комплекс мер, направленных на снятие напряжения от осознания избыточной автоматизированности жилого пространства. Чувство утраты контроля над личным пространством, незащищенности от возможных поломок и непрозрачности технологий, управляющих повседневными практиками, могут вселять тревогу и дискомфорт. Возрастающее ощущение сверхценности технологий приводит к обратному результату, а именно возможной девальвации идеи тотальной автоматизации и цифровизации.

Работа с этой проблемой, исследование ее логики и причин лежит за пределами технической стороны внедрения искусственного интеллекта в сферу организации быта и ведения хозяйства и, скорее, относится к этической области. Данные исследования должны проводиться специалистами соответствующего профиля, а именно квалифицированными экспертами по гуманитарным дисциплинам и социальным наукам.

Заключение

Развитие компьютерных и цифровых технологий в современном мире, а также активное развитие и внедрение искусственного интеллекта актуализируют новые проблемы человека и его существование в мире. Большая часть этих проблем непосредственно связана с этическими трудностями совмещения цифровых технологий и повседневной жизни человека. Перспективы внедрения различных компьютерных технологий в жизнь человека неоспоримы, однако они сопровождаются множеством серьезных и не всегда явных опасностей и рисков. В той мере, в которой государство прямо или косвенно участвует во внедрении и принятии управленческих решений в отношении использования искусственного интеллекта, оно заинтересовано в том, чтобы этические аспекты цифровизации принимались во внимание.