Власть роботов. Как подготовиться к неизбежному - Мартин Форд

Впрочем, почти для всех государственных служб в Китае постоянной проблемой остаются коррупция и непрозрачность. Со временем эти системы неизбежно станут намного более интегрированными, и их бесцеремонность будет усилена распознаванием лиц и другими технологиями на основе ИИ, используемыми в целях слежки и наблюдения за гражданами. В конечном итоге можно ожидать появления совершенно оруэлловской системы всестороннего социального контроля.

Ничто из описанного не ограничивается самим Китаем. Экспорт технологий слежки играет ключевую роль в общей стратегии китайских властей по преобразованию производства в стране и переходу от малодоходных товаров массового потребления к технологическим продуктам более высокой ценности. Китаю принадлежит почти половина глобального рынка технологий распознавания лиц. Во многом это заслуга одной китайской фирмы, телекоммуникационной компании Huawei. По данным Фонда Карнеги за международный мир на сентябрь 2019 года, Huawei продала технологии слежения, в том числе системы распознавания лиц, по меньшей мере 50 странам и 230 городам — намного больше любой другой компании. Для сравнения: ее самые близкие американские конкуренты — IBM, Palantir и Cisco — установили системы менее чем в десятке стран каждая[273]. Такие авторитарные государства, как Саудовская Аравия и Объединенные Арабские Эмираты, особенно заинтересованы в китайской технологии, поскольку устанавливают системы слежки на всей своей территории. Там распознавание лиц зачастую уже элемент повседневности. Я убедился в этом лично в ходе поездки в Абу-Даби в начале 2019 года, где услышал широко освещаемую историю о богатой женщине, потерявшей дорогое кольцо. Она сообщила о потере властям, те немедленно применили программу распознавания лиц к снимкам, сделанным в ходе слежения за соответствующей территорией, и всего через несколько часов после случившегося постучали в дверь человека, подобравшего кольцо.

Продажи оборудования Huawei для слежения часто финансируются кредитами, обеспеченными китайскими властями. Такие страны, как Кения, Лаос, Монголия, Уганда, Узбекистан и Зимбабве, приняли участие в этой программе. В некоторых случаях она осуществлялась в рамках глобальной инициативы Пекина «Один пояс — один путь» по финансированию инфраструктурного строительства почти в 70 странах. Все более важным центром активности становится Африка, где, по некоторым данным, китайские системы распознавания лиц уже приносят эффект. Например, Huawei утверждает, что внедрение ее технологии в столице Кении Найроби и ее пригородах привело в 2015 году к снижению уровня преступности на 46 %[274].

Вопрос последствий внедрения созданных китайскими компаниями технологий для безопасности и прав человека уже вызвал серьезные разногласия между Китаем и Соединенными Штатами. В мае 2019 года на Huawei были наложены торговые ограничения, которые вылились в запрет продавать этой компании американские технологии, в частности программное обеспечение и компьютерные процессоры. Это стало следствием сочетания позиции, занятой США в разгорающейся общей торговой войне, и давно высказываемых опасений, что технология инфраструктуры мобильной связи 5G, продаваемая этой компанией, теоретически может дать китайским властям доступ к коммуникациям в Соединенных Штатах через установленное оборудование[275]. США добились неоднозначных результатов в попытках оказать давление на своих союзников и заставить их также запретить использование оборудования Huawei. Кроме того, компанию обвинили в нарушении торгового эмбарго США в отношении Ирана и в получении неприемлемой поддержки китайского государства.

Пять месяцев спустя Соединенные Штаты включили в черный список еще несколько ведущих китайских стартапов в области искусственного интеллекта, а также 20 управлений полиции и силовых ведомств Китая под предлогом нарушения прав человека в результате применения ими технологии против уйгуров и других этнических меньшинств. Запрет продаж был распространен и на три из четырех китайских «единорогов», занимающихся распознаванием лиц, на iFlytek, специализирующуюся на системах распознавания речи, и две компании, выпускающие видеокамеры и другое оборудование для слежения[276].

По окончании пандемии коронавируса противоречия между Соединенными Штатами и Китаем значительно усилились. Широко распространилось понимание того, что чрезмерная зависимость от китайского производства может угрожать доступу США к принципиально важному стратегическому сырью, а также медицинским расходникам и лекарствам. Еще до кризиса было ясно, что экономическая синергия и взаимозависимость этих двух стран — явление, которое историк Ниал Фергюсон назвал в 2006 году «Кимерикой», — постепенно разрушается. Если противоречия обострятся и отдаление двух стран продолжится, определяющими факторами этого процесса неизбежно станут конфликт и конкуренция в сфере создания и использования искусственного интеллекта. По мере углубления понимания того, что ИИ является системной и стратегической технологией, перспектива полномасштабной гонки Китая и США приобретает характер реальной опасности.

Запад начинает споры вокруг проблемы распознавания лиц

В феврале 2019 года полиция штата Индиана расследовала преступление, совершенное во время драки двух мужчин в парке. Один из подравшихся выхватил пистолет, выстрелил другому в живот и скрылся. Поскольку прохожий заснял случившееся на мобильный телефон, детективы полиции штата решили загрузить фотографию преступника в новую систему распознавания лиц, с которой экспериментировали. Система сразу же нашла совпадение — стрелок обнаружился на видео, выложенном в соцсети вместе с текстом, где упоминалось его имя. В общем, дело было раскрыто за 20 минут, несмотря на то что подозреваемый прежде не подвергался аресту и даже не имел водительских прав[277].

Сотрудники полиции подключались к системе распознавания лиц через мобильное приложение, предоставленное таинственной компанией Clearview AI. База фотографий, доступных приложению Clearview, была огромной. Вместо использования официальных фотографий из документов, например паспортов, водительских прав или полицейских ориентировок, компания просто прочесала интернет и проанализировала выложенные в свободный доступ фотографии из разных источников, в том числе из Facebook, YouTube и Twitter. Если система Clearview находила совпадение, приложение показывало ссылки на интернет-страницы или профили в социальных сетях, где было выложено соответствующее фото, что во многих случаях позволяло провести идентификацию мгновенно. Массив данных, собранных Clearview, включал около 3 млрд изображений — в семь с лишним раз больше официальной базы фотографий граждан США, принадлежащей ФБР. Это поразительно, особенно с учетом того, что Clearview AI — крохотная компания, не идущая ни в какое сравнение с китайскими «единорогами», занимающимися распознаванием лиц, и до января 2020 года о ней никто не слышал, кроме правоохранительных органов[278].

В том месяце The New York Times опубликовала большое журналистское расследование Кашмира Хилла, репортера, пишущего о технологиях, который изучил предысторию компании и впервые пролил свет на ее деятельность. Как выяснилось, компанию Clearview, указавшую на странице в LinkedIn несуществующий нью-йоркский адрес, основал в 2016 году австралийский серийный предприниматель Хоан Тон-Тат. Наряду с другими инвестициями стартап получил $200 000 от венчурного капиталиста из Кремниевой долины Питера Тиля, сооснователя Palantir — компании, занимающейся анализом данных и слежением и имеющей прочные связи с органами безопасности и полицией.

Clearview утверждала, что предоставляет доступ к своей технологии только правоохранительным органам и государственным