Новые темные века - Джеймс Брайдл

не способны. И как отнесся бы Беньямин к тому, что изначально корпус текстов Google Translate состоял из многоязычных расшифровок заседаний ООН и Европейского парламента?(24) Это тоже закодированное варварство.

В 2016 году ситуация изменилась. Вместо использования строгого статистического вывода между текстами система Google Translate начала использовать нейронную сеть, разработанную в рамках исследовательского проекта Google Brain, и внезапно возможности машинного перевода многократно улучшились. Сеть уже не просто связывает корпуса текстов перекрестными ссылками, а строит свою собственную модель мира, и в результате вместо набора двумерных связей между словами получается карта всей «территории». В этой новой архитектуре словаˊ кодируются по их отдаленности друг от друга в сетке значений – сетке, которую может понять только компьютер. Человеку несложно связать между собой слова «автомат» и «стиральная машина», но быстро становится невозможным разместить на одной карте слов все возможные связи между «автомат» и «революция», между «стиральной машиной» и «уборкой» и все эмоции и ассоциации, которые из них следуют. Карта значений настолько многомерна и обширна, что человеческому разуму не под силу ее вместить. Как один из инженеров Google ответил журналисту, который просил показать изображение такой карты: «Я не стану даже и пытаться визуализировать тысячи многомерных векторов в трехмерном пространстве»(25). Это невидимое пространство, в котором машинное обучение обретает смысл.

Невозможность визуализировать не так страшна, как неспособность понять; нам наиболее чуждо то, что более всего походит на разум. В 1997 году в Нью-Йорке действующий чемпион мира по шахматам Гарри Каспаров встретился с компьютером «Deep Blue», который разработали в IBM специально для этого матча. За год до того в Филадельфии сильнейший шахматист мира уже одолел компьютер с результатом 4–2 и теперь был уверен в победе. После поражения от «Deep Blue» Каспаров утверждал, что некоторые ходы машины были настолько умными и изобретательными, что за ними должен был стоять человек. Но мы понимаем, почему «Deep Blue» играл именно так: каждый ход был результатом перебора немыслимого количества возможных вариантов. Сложнейшая система из 14 000 специальных чипов каждую секунду анализировала 200 миллионов позиций на доске. На момент матча это был 259-й по мощности компьютер на планете, предназначенный к тому же исключительно для анализа шахматных партий. При каждом ходе он мог учитывать намного больше комбинаций, чем гроссмейстер. Компьютер был не умнее проигравшего ему Каспарова, а просто лучше оснащен.

Совсем иначе дело обстояло в матче, в котором один из лучших в мире игроков в го Ли Седоль уступил программе «AlphaGo», разработанной на базе Google Brain. Во второй из пяти игр ход «AlphaGo» ошеломил как Седоля, так и зрителей – программа поместила один из своих камней на дальнюю сторону доски и, казалось, сдалась. Комментаторы игры говорили, что это «очень странный ход» или «ошибка». Другой профессиональный игрок в го, Фань Хуэй, в матче с которым за полгода до этого программа впервые нанесла поражение человеку, также выразил изумление: «Это не человеческий ход. Я никогда не видел, чтобы человек так ходил. Как красиво»(26). Игре го уже две с половиной тысячи лет, но еще никто и никогда так не ходил. «AlphaGo» выиграла матч и одержала победу в серии.

Создавшие «AlphaGo» инженеры обучили нейронную сеть на миллионах ходов опытных игроков, а потом заставили программу сыграть бессчетное множество матчей, чтобы выработать новые стратегии, превосходящие накопленный опыт. Нам не понятно, какими были эти новые стратегии; мы видим ходы программы, но не знаем ее мотивацию. Сложность ходов в тех матчах, которые «AlphaGo» провела сама с собой, вероятно, запредельна, но мы о них никогда не узнаем. Мы не можем оценить утонченность и совершенство машинной стратегии, и лишь видим, что она научилась побеждать.

Ныне покойный британский писатель Йен М. Бэнкс когда-то сказал, что машина действует в «пространстве бесконечного веселья»(27). В цикле научно-фантастических романов Бэнкса цивилизацией Культура управляют доброжелательные искусственные сверхинтеллекты, называемые просто Разумами. Изначально Разумы были созданы людьми (или, по крайней мере, некими углеродными формами жизни), но давно превзошли своих создателей, изменили и перестроили самих себя и стали одновременно непостижимыми и всемогущими. Управляя кораблями и планетами, руководя военными действиями и заботясь о миллиардах людей, Разумы не забывают предаваться своим собственным удовольствиям, например, заниматься непостижимыми для простых смертных умозрительными вычислениями. В своем воображении они способны моделировать целые вселенные и порой навсегда уходят в «пространство бесконечного веселья» – область метаматематических возможностей, доступную только сверхчеловеческому искусственному интеллекту. А остальным из нас останется «конечное веселье», мы будем обречены бесплодно анализировать решения машин, заведомо находящиеся за гранью нашего понимания.

Однако некоторые операции машинного интеллекта выходят за пределы «пространства бесконечного веселья» и порождают «незнание» в реальном мире: новые образы, новые лица, новые, неизвестные и ложные события. Тот же подход, при помощи которого язык можно представить как бесконечную мешанину чужеродных значений, применим ко всему, что описывается математически, то есть ко всей сети взвешенных связей в многомерном пространстве. Произнесенные или написанные слова, даже если их значения непонятны не-человеку, все еще связаны между собой, и путем вычисления можно воссоздать их изначальный смысл. В семантической сети силовые линии, или векторы, определяющие слово «королева», совпадают с линиями, читаемыми в порядке «король – мужчина + женщина»(28). Следуя за векторами, Сеть может определить гендерную принадлежность тех, кого называют «королем» и «королевой». То же самое возможно, если Сеть работает с лицами.

Если Сеть получит набор портретов, то сможет не только производить вычисления, следуя за «силовыми линиями», но и генерировать новые изображения. Изучив фотографии улыбающихся женщин и фотографии, на которых женщины и мужчины серьезны, она самостоятельно рассчитает, то есть создаст совершенно новые изображения улыбающихся мужчин, как было показано в статье, опубликованной исследователями Facebook в 2015 году(29).

В той же статье исследователи создают целый ряд новых изображений. Используя набор данных из более чем трех миллионов фотографий спален, нейросеть генерирует новые комнаты. На пересечении «спальных» векторов – стен, окон, одеял и подушек – возникают сочетания цветов и мебели, которых никогда не существовало в реальном мире. Машинам снятся сны о комнатах для сна, где не снятся никакие сны. Однако больше всего поражают и запоминаются именно лица – антропоморфные, как и мы. Кто эти люди и чему они улыбаются?

Ситуация становится еще более странной, когда эти иллюзорные образы из снов переплетаются с нашими собственными воспоминаниями. Роберт Эллиот Смит, исследователь искусственного интеллекта из Университетского колледжа Лондона, в 2014 году вернулся из семейного отпуска во Франции с телефоном, полным фотографий. Он загрузил некоторые снимки в Google+, чтобы поделиться ими с женой, но заметил