Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

наблюдения не только в общественных местах, но иногда и в приватных зонах для круглосуточного мониторинга, расширение биометрических возможностей и установка датчиков, интеграция личных данных граждан в специальные базы данных длительного хранения и т. д. Известно, что подавляющая часть действий, совершаемых гражданами через мобильные приложения или социальные сети, аккумулируется и сохраняется. В случае если эта информация перестанет быть конфиденциальной, то граждане окажутся перед фактом, что отныне о них известно все или почти все. Развитие технологий «Умный дом» вносит свою лепту в этот неоднозначный процесс. Фактически организация поддержки жилища в режиме «Умного дома» предполагает круглосуточный и достаточно приватный видеомониторинг жизни домовладельцев [Arkin, Borenstein, 2016], при этом на записи непосредственно могут попадать самые интимные стороны жизни граждан. Если речь идет о применении технологий «Умный дом» в пределах больших жилищных комплексов, домовладений, многоквартирных домов, таунхаусов или общежитий, то, помимо обычных камер слежения, в соответствующей литературе упоминаются полицейские роботы, которые могут вести тайное наблюдение на расстоянии, например, обнаруживать скрытые наркотики или оружие, а также незаметно идентифицировать лица. Такие видеорегистраторы могут быть подключены к базам данных и проводить автоматическую проверку личных данных лиц, если в их отношении возникли какие-то подозрения [Sharkey, 2019]. Функция идентификации лица с привлечением биометрических данных может быть подключена как консьерж-служба здания. Управляющие компании, подключившие к обсуживаемым домам функцию «Умный дом», могут оказывать помощь различным службам безопасности и в том числе полиции, поскольку могут снабжать их необходимыми данными в случае необходимости.

Фактически коммунальная служба обслуживания и эксплуатации дома становится хранителем личных данных жильцов. В качестве дополнительной меры безопасности на входе в здание могут быть установлены распознаватели лиц, так что в здание смогут войти только постоянные жильцы или те, кого они приглашают. Для домашней безопасности роботы могут быть оснащены устройствами наблюдения, которые могут контролироваться третьими сторонами или теми, кто получит для этого доступ. Несмотря на технологическую автоматизацию охраны и безопасности жильцов и их собственности, далеко не все граждане с оптимизмом относятся к перспективе находиться под круглосуточным контролем видеокамер. Повсеместное рассредоточение приборов слежения и видеозаписи может восприниматься как тотальная слежка и контроль за частной жизнью. Жильцам может быть некомфортно от мысли о том, что данные об их частном быте могут попасть в руки третьих лиц, что возможно при современном уровне развития хакерских технологий. Определенную этическую трудность представляет собой опасение граждан о том, что данные о частной жизни могут стать предметом самых разных злоупотреблений. Риски мошенничества, шантажа, репутационных потерь, как и ухудшение отношений с домочадцами составляют суть тех опасений, которые побуждают людей критически относиться к некоторым из технологий «Умного дома». Многие способы последующего использования записываемых данных недостаточно продуманы и регламентированы. Именно это обстоятельство дает повод для этических споров. При постоянном сборе личных данных или видеосъемке люди могут не чувствовать себя в безопасности. Чувство дискомфорта, смущения, необходимость изменять поведение, тревожные состояния, невозможность расслабиться, будучи в одиночестве, все эти трудности вполне релевантны при обсуждении вопроса масштабов внедрения технологий «Умного дома» в ЖКХ. Вся трудность состоит в разграничении приватного пространства, которое должно оставаться неприкосновенным при любых обстоятельствах, и пространства коллективного пользования, которое может быть доступно для внешнего наблюдения. Если установка камер допускается на придомовых территориях, в подъездах, лифтах, на лестничных площадках, то можно ли распространить их размещение на помещения рядом с квартирами? Не ясно также может ли кто-то из третьих лиц получить доступ к данным видеонаблюдений, проводимых в квартирах, и при каких обстоятельствах. Служат ли, например, возгорание или затопление, возникшее в одной из квартир, основанием для просмотра данных видеозаписи в квартире, пострадавшими, от которых стали соседи по площадке? Что делать, если в квартире одного из соседей произошло ограбление, – допустимо ли в этом случае потребовать данные видеозаписей в приватных зонах жилища (в квартире другого соседа)? Этично ли будет запросить к просмотру материал квартирных видеозаписей в случае смерти собственника и невозможности запросить разрешение у его наследников? Также не вполне ясен статус возможных режимов видеонаблюдения. Например, не урегулирован вопрос о том, в какой момент наблюдение круглосуточных камер слежения или роботов с использованием технологий слежения может подпадать под категорию «виртуального обыска», для которого обычно требуется судебный ордер. Робот-шпион, установленный в доме для сьемки оборудования и информирования о возникающих авариях, фактически осуществляет слежку. Кроме того, в его поле видения может попасть информация, которая ему не предназначалась. В какой степени жильцы должны быть информированы о видеозаписях и должны ли они давать письменное согласие о сьемке в местах проживания – эти вопросы пока не получили должного прояснения.

3. Одним из важнейших принципов работы технологии «Умный дом» является максимизация комфорта проживания, улучшение качества жизни и возрастание чувства защищенности от пребывания в жилище. Автоматизация многих функций должна не только высвободить время домовладельцев, но и улучшить контроль за жилищем, практически сделав его всесторонним. При подключении технологий «Умный дом» собственники домов смогут автономизироваться от коммунальных служб, обрести большую независимость от управляющих компаний и самостоятельно решать многие задачи коммунального обслуживания.

Кейс. На конференции специалистов по компьютерной безопасности DefCon в 2016 году группа исследователей провела зрелищную инсталляцию на тему того, как можно легко взломать умный дом [Vincent, 2016]. Они привели пример с блокировкой термостата таким образом, что владелец не может больше изменять температуру. Другие бытовые приборы, имеющие подключение к Wi-Fi, тоже находятся под угрозой взлома хакерами и прочими недоброжелателями. Ясно, что и вся система безопасности может быть заблокирована через тот же канал, через который осуществляется управление – а именно дистанционно.

Несмотря на многие преимущества технологии «Умный дом» в части повышения самостоятельности и автономии домовладельцев, а также их независимости от различных внешних коммунальных служб, реакция на активное внедрение может быть прямо противоположной. Одной из этических дилемм внедрения ИИ-технологий в области ЖКХ является феномен чувства беспомощности, которое характеризуется чувством утраты контроля над происходящим и опасений в возникновении возможных чрезвычайных ситуаций. Многие люди, чья активная деятельность связана с использованием различных автоматизированных систем, неизменно отмечают большой прилив энтузиазма, связанный с эффективностью и быстротой решения многих задач. Однако определенная часть пользователей отмечает некоторую угнетенность в связи с непониманием того, как в действительности работают «умные технологии», и поэтому они могут чувствовать себя более уязвимыми и незащищенными.

Внедрение автономизированных технологий на повседневном уровне, а именно в сфере каждодневной эксплуатации собственных жилищ, может усилить чувство потери контроля над приватным пространством, в котором человек находится большую часть времени. Этически неоднозначным является тот факт, что технологии, которые призваны способствовать повышению чувства защищенности, уверенности и независимости, могут приводить