Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

попыткам их обезопасить (каково бы ни было соотношение издержек и эффективности)[543]. Однако подобное спокойствие со временем может измениться, поскольку гражданское применение средств наблюдения на основе ИИ стремительно растет, и эта работа в области безопасности все больше отождествляется с теневыми аппаратами контроля, а не с демократической и ответственной местной властью.

Военный и полицейский ИИ применяется не только против иностранных врагов и даже не в основном против них. Он был перенастроен для выявления врагов внутри страны и борьбы с ними. Хотя за последние два десятилетия в США не было ни одного теракта, аналогичного 11 сентября, национальные службы безопасности (особенно на уровне штата и ниже) без лишнего шума обратили антитеррористические инструменты против преступников, налоговых мошенников и даже протестующих. Китай раскрутил угрозу «мусульманского терроризма», чтобы согнать значительную часть уйгуров в лагеря перевоспитания и запугать остальных постоянным прослушиванием телефонов и профилированием рисков. Никого не удивит, если выяснится, что какое-то китайское оборудование работает во внутреннем разведывательном аппарате США, тогда как крупные американские технологические фирмы привлекались к аналогичным проектам по контролю и наблюдению китайским правительством.

Развитие охранного ИИ – следствие не столько конкуренции между крупными державами, сколько глобального проекта корпоративных и государственных элит, стремящихся сохранить власть над непокорным населением. У власть имущих часто больше общего друг с другом, чем с обычными гражданами своих стран. Бряцание оружием позволяет прикрыть удобной пеленой конфликта общий интерес к устойчивому извлечению прибыли из труда рабочих, которые не могут потребовать более значительной доли экономического продукта. В той мере, в какой граждане США, Китая и России оказывают влияние на деятельность своих армий, они должны помнить об этом новом разделении. Так же как в сфере полиции, на войне приобретение новых, поистине удивительных сил, определяемых ИИ, – вопрос не только усиления способности государства вершить справедливость. Это еще и средство подавления, применения быстрого технологического прогресса для замораживания несправедливого статус-кво[544].

После применения в боевых действиях за границей и в условиях оккупации военные методы обычно находят себе путь обратно в тыл. Сначала они используются против непопулярных и относительно бессильных меньшинств, а потом распространяются и на остальные группы. Несмотря на принцип posse comitatus[545], чиновники из американского Национального министерства безопасности дарили местным отделениям полиции танки и боеприпасы. Еще больше энтузиазма у шерифов вызовут ИИ-системы наведения на цель и оценки угроз. Но, как мы видели в случае полицейских мер и тюрем, есть много способов решить социальные проблемы. Не все требуют постоянного наблюдения, совмещенного с механической угрозой применения силы.

В самом деле, это, возможно, наименее эффективные способы гарантии безопасности, как на национальном уровне, так и международном. Дроны позволили США сохранять присутствие на Ближнем Востоке и в Центральной Азии намного дольше присутствия самой оккупационной армии. Постоянное присутствие робота-наблюдателя, способного предупредить о любом опасном поведении, является определенной формой подавления. Американские вооруженные силы могут настаивать на том, что угрозы, исходящие со стороны определенных территорий Ирака и Пакистана, достаточно опасны, чтобы оправдать постоянную бдительность, однако они игнорируют то, что подобная гегемония способна вызвать озлобление, которое она намеревалась сгладить.

Осознание необходимости кооперации в мире, которым нельзя править в одностороннем порядке, – жизнеспособная альтернатива технокапиталистической гонке вооружений. Но в настоящий момент военно-промышленный комплекс гонит нас к разработке роев дронов, в которых человек «выключен» из цикла принятия решений, и причина определенно в том, что только машины смогут с достаточной скоростью предсказывать вражеские контрстратегии. Это самоисполняющееся пророчество, которое подталкивает врага развивать именно ту технологию, которая, как считается, оправдывает милитаризацию алгоритмов[546]. Чтобы вырваться из этого саморазрушительного цикла, нам нужно разобраться в идеях тех публичных интеллектуалов, которые ставят под вопрос весь реформистский дискурс, намеревающийся привить военным роботам основы этики. Нам нужны не минимальные улучшения на пути к конкуренции в боеспособности, а совершенно иной путь – к кооперации и миру, сколь бы сложно ни было их достичь и сколь бы хрупкими они ни оказались[547].

В своей книге «Как все стало войной, а армия стала всем» бывшая чиновница Пентагона Роза Брукс описывает все большее осознание американскими оборонными экспертами того факта, что развитие, правление и гуманитарная помощь столь же, если не больше, важны для безопасности, как и применение силы[548]. В эпоху климатического кризиса быстрые ответы, позволяющие помочь тем, кто пострадал от катастроф (а не контролировать их), могут замедлить или остановить дестабилизацию. Подобным образом китайские программы развития в их лучших образцах позволяют организовывать инфраструктуру в партнерских странах, что создает игру с положительной суммой, повышая производительность компаний, получивших вложения, и в то же время стимулируя взаимовыгодную торговлю [549]. У мира с большими реальными ресурсами меньше причин вести войны с нулевой суммой. Такой мир будет к тому же лучше подготовлен к борьбе с естественными врагами, такими как новый коронавирус. Если бы США вложили хотя бы какую-то долю своих военных расходов в общественное здравоохранение, они бы почти наверняка избежали в 2020 г. тысяч жертв, а также 96 разорительных карантинов[550].

Чтобы утвердился этот более затратный, но в то же время гуманный подход, его защитники должны в своих собственных странах победить в битве идей, в которой решается вопрос о подлинной роли государства и парадоксах безопасности. Они должны сдвинуть политические цели – от господства к взращиванию. Наблюдая за ростом американского государства национальной безопасности, которое он называет хищнической империей, Иэн Г. Р. Шоу спрашивает: «Разве мы не видим, что контроль становится важнее сострадания, безопасность-поддержки, капитал – заботы, а война – благополучия?»[551]. Повернуть развитие в другую сторону – вот что должно стать первостепенной задачей современного ИИ и программ роботизации. Это, в свою очередь, потребует нового взгляда на деньги, ресурсы и изобилие. В следующей главе мы покажем, что основанием гуманной программы развития ИИ является новая политическая экономия, ориентированная на человеческие потребности и возможности.

7. Новый взгляд на политическую экономию автоматизации

Каждый из новых законов робототехники влечет определенные издержки. Часто дешевле заменить рабочих, чем дополнять их технологией, которая позволит увеличить им заработную плату. Отказ от гонки вооружений грозит потерей прибыли или власти. Откладывание или уклонение от разработки гуманоидных роботов лишает нас возможности создания механических компаньонов. Атрибуция поведения робота, позволяющая связать его с отвечающим за него человеком или институтом, влечет сложные обязательства учета.

Но у каждого вида таких расходов есть оборотная сторона. То, что потребители тратят, рабочие зарабатывают. Когда каждый отказывается от гонки вооружений, лучше всем. Отсрочка (или ограничение)