Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

может обмануть людей, заставляя их поверить, что машина – это человек. Но это сильно отличается от системы, которая действительно могла бы выйти за эти рамки. «Записаться на стрижку в парикмахерской?568 Мечты об искусственном интеллекте связаны с куда более высокими целями – произвести революцию в медицине, скажем, или создавать надежных роботов-помощников для дома, – пишет Маркус. – Причина такой узости области применения Google Duplex заключается не в том, что это пока небольшой, но важный первый шаг к тем высоким целям. Причина в том, что разработчики ИИ пока еще не имеют понятия о том, как сделать что-то лучшее».

* * *

Гэри Маркус относится к длинному ряду мыслителей, которые верят в силу природы, а не только воспитания. Их называют нативистами, и они утверждают, что значительная часть всех человеческих знаний изначально заложена в мозгу, а не приобретается из опыта. Нативистам противостоят эмпирики, которые считают, что человек приобретает знание главным образом из опыта и обучения. Это спор тянется уже века, и на позиции нативизма стояли многие философы и психологи, начиная от Платона и заканчивая Иммануилом Кантом, Ноамом Хомски и Стивеном Пинкером. Гэри Маркус учился у Пинкера, психолога, лингвиста и автора научно-популярных книг, и на этом же фундаментальном подходе построил свою собственную карьеру. Теперь он перенес свой нативизм в мир искусственного интеллекта, став ведущим мировым критиком нейронных сетей, Марвином Мински эпохи глубокого обучения.

Подобно тому, как знания изначально встроены в человеческий мозг, у ученых и инженеров нет другого выбора, кроме как передавать знания искусственному интеллекту, утверждает он. Машины, как и люди, не могут научиться всему из опыта. Еще в начале 1990-х они с Пинкером опубликовали статью, показывающую, что нейронные сети не могут даже овладеть речевыми навыками, которые под силу маленьким детям, например распознавать повседневные глаголы в прошедшем времени. Двадцать лет спустя, после создания системы AlexNet, когда New York Times опубликовала на первой полосе статью о подъеме глубокого обучения, он дал ответ в колонке The New Yorker569, утверждая, что изменения не так значительны, как могли казаться. По его словам, методы, которых придерживается Джефф Хинтон, недостаточно эффективны для понимания570 машиной основ естественного языка, не говоря уже об имитации человеческого мышления. «Если перефразировать старую притчу571, Хинтон построил лестницу покрепче, – писал он, – но это еще не значит, что более крепкая лестница позволит нам добраться до Луны».

Ирония заключалась в том, что вскоре после этого Маркус хорошо заработал на ажиотаже вокруг глубокого обучения. В первые дни 2014 года, узнав, что фирма DeepMind продала себя Google за 650 миллионов долларов, и решив: «Я могу это сделать», он позвонил старому другу по имени Зубин Гахрамани. Они познакомились более двадцати лет назад, когда оба были аспирантами Массачусетского технологического института. Маркус изучал там когнитивистику, а Гахрамани участвовал в междисциплинарной программе, призванной закрыть брешь между информатикой и нейробиологией. Они стали друзьями, и, когда им в один и то же день исполнился 21 год, они отпраздновали свой общий день рождения на квартире, которую Маркус снимал в Кембридже на Мэгэзин-стрит. После получения докторской степени Гахрамани пошел по пути, мало чем отличавшемуся от карьеры многих исследователей искусственного интеллекта, которые устроились в Google, Facebook и DeepMind. Он поступил в постдокторантуру к Джеффу Хинтону в Университет Торонто, а затем последовал за Хинтоном в Университетский колледж Лондона. Но, в отличие от многих других, Гахрамани в конечном итоге отошел от работы с нейронными сетями, отдавшись идеям, которые казались ему более элегантными, сильными и полезными. Итак, после того как DeepMind перешла под контроль Google, Маркус убедил Гахрамани, что они должны создать свой собственный стартап, основанный на той идее, что мир нуждается в чем-то большем, нежели глубокое обучение. Они назвали это «геометрическим интеллектом».

Затем они наняли около дюжины разработчиков искусственного интеллекта из разных американских университетов. Часть из них специализировалась на глубоком обучении, другие, в том числе Гахрамани, – на иных технологиях. Маркус был осведомлен о могуществе технологий и, конечно, понимал причины ажиотажа, сопровождавшего их. Основав свой стартап летом 2015 года, он и Гахрамани разместили свою команду исследователей в небольшом офисе в центре Манхэттена, где находился инкубатор стартапов, создаваемых под эгидой Нью-йоркского университета. Маркус сам присоединился к ним, а Гахрамани оставался в Великобритании. Чуть больше года спустя, проведя переговоры со многими крупнейшими технологическими компаниями, от Apple до Amazon, они продали свой стартап Uber572, быстрорастущей компании, которая в дополнение к услугам такси решила заняться разработкой беспилотных автомобилей. Десятеро сотрудников стартапа сразу же перебрались в Сан-Франциско, сменив название своей лаборатории на Uber AI Labs. Маркус переехал вместе с лабораторией, а Гахрамани продолжал оставаться в Великобритании. Затем, четыре месяца спустя, Маркус без особых объяснений покинул компанию и вернулся в Нью-Йорк, снова обрядившись в тогу ведущего мирового критика глубокого обучения. Сам он не был разработчиком ИИ. Он был человеком, преданным своей системе идей. Один из коллег назвал его «симпатичным нарциссистом». Вернувшись в Нью-Йорк, он начал писать книгу, в которой еще раз доказывал, что возможности машины чему-либо научиться самостоятельно весьма ограниченны, и одновременно приступил к созданию новой компании, основанной на тех же принципах. Он также вызвал Хинтона и ему подобных на публичные дебаты о будущем ИИ. Хинтон вызов не принял.

Но уже осенью 2017 года в Нью-Йоркском университете состоялись дебаты Маркуса с Лекуном573. В этих дебатах, организованных «Центром разума, мозга и сознания»574 (Center for Mind, Brain, and Consciousness) – междисциплинарной программой Нью-Йоркского университета, соединяющей в себе психологию, лингвистику, нейробиологию, информатику и многое другое, – противопоставлялись природа и воспитание, нативизм и эмпиризм, «врожденная машинерия» и «машинное обучение». Маркус, выступавший первым, утверждал575, что глубокое обучение не способно достичь существенно больших результатов, чем решение простых задач на восприятие, такие как распознавание объектов на изображениях или узнавание произносимых слов. «Если нейронные сети и научили нас чему-то576, так это тому, что чистый эмпиризм имеет свои пределы», – сказал он. На долгом пути к искусственному интеллекту, сказал он, глубокое обучение позволило сделать лишь несколько крошечных шагов577. Помимо способности распознавать и генерировать изображения и звуки (как, например, это делают генеративно-состязательные сети), его самым большим достижением было освоение игры го, а ведь это всего лишь игра, замкнутая вселенная с тщательно определенным набором правил. Реальный же мир бесконечно сложнее. Система, обученная играть в го, заявил Маркус, бесполезна в любой другой ситуации. Ее нельзя назвать умной, потому что она неспособна адаптироваться к новым ситуациям. И она