Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

уже навеселе413, когда коллеги начали спорить о том, как создать машину, которая могла бы сама синтезировать изображения с фотографической точностью – изображения собак, лягушек или человеческих лиц, которые выглядели бы совершенно реальными, хотя в реальности не существуют. Несколько сотрудников лаборатории уже пытались создать такую систему. Они знали, что могут обучить нейронную сеть распознавать изображения, а затем развернуть этот процесс в противоположную сторону, так чтобы система могла их генерировать. Именно этого добился сотрудник DeepMind Алекс Грейвс, когда создал систему, которая умела создавать текст, словно написанный от руки. Однако с детальными изображениями, требующими фотографической точности, система работала так себе. Результаты неизменно оказывались неубедительными.

Однако у коллег Гудфеллоу был план. Они намеревались статистически анализировать каждое изображение, выходящее из их нейронной сети, – определять частоту появления определенных пикселей и их яркость и выяснять, как они коррелируют с другими пикселями. Затем они хотели сравнить эту статистику с тем, что можно видеть на реальных фотографиях, а затем показать нейронной сети, где что не так. Загвоздка была в том, что они понятия не имели, как все это запрограммировать и занести в систему – ведь для этого могло потребоваться огромное количество статистических данных. Гудфеллоу считал проблему, с которой они столкнулись, непреодолимой. «Нужно будет отслеживать слишком много различных статистических данных, – сказал он. – И это не проблема программирования. Это проблема разработки алгоритма».

Он предложил радикально иное решение. Им нужно построить нейронную сеть, объяснил он, которая будет учиться у другой нейронной сети. Первая нейронная сеть создает изображение и пытается убедить вторую сеть, что речь идет о реальной фотографии. Вторая сеть замечает ошибки в изображении, созданном первой сетью, и указывает на них. Первая сеть делает очередную попытку, и так далее. Если эта дуэль между нейронными сетями продлится достаточно долго, им удастся создать изображение, неотличимое от реального. На коллег идея Гудфеллоу не произвела впечатления. Твоя идея, сказали они, еще хуже нашей. И если бы Гудфеллоу не был пьян, то наверняка пришел бы к такому же выводу. «Даже одну нейронную сеть сложно обучать, – сказал бы трезвый Гудфеллоу. – А уж сделать так, чтобы одна нейронная сеть, обучаясь сама, одновременно обучала другую сеть, вообще невозможно». Но на тот момент он был убежден, что все получится.

Домой он вернулся очень поздно, и его девушка уже спала. Когда он вошел, она проснулась, поздоровалась и снова заснула. Тогда он сел за свой рабочий стол рядом с кроватью. Так он сидел в темноте, все еще пьяноватый, и только экран ноутбука освещал его лицо. «Мои друзья ошибаются!»414 – твердил он себе. За ночь, пока его подруга спала рядом, он составил программу для задуманной им дуэли сетей, используя старый программный код из других проектов, и обучил эту новую систему на нескольких сотнях фотографий. Через несколько часов все заработало, как он и предсказывал. Изображения были крошечными, не больше ногтя. Да, они были немного расплывчатыми. Но они выглядели как настоящие фотографии. Впоследствии он говорил, что это было счастливое стечение обстоятельств415. «Если бы в тот момент у меня ничего не вышло416, я, возможно, вообще отказался бы от этой затеи». В статье, которую он затем опубликовал по этой теме, он назвал их «генеративно-состязательными сетями», или GAN. С тех пор во всем мировом сообществе разработчиков ИИ его стали называть «The GANfather» («отцом gan», как godfather – «крестный отец»).

Ко времени своего перехода в Google летом 2014 года он уже продвигал идею генеративно-состязательных сетей как способа ускорения прогресса в разработке искусственного интеллекта. Обосновывая эту идею, он часто ссылался на Ричарда Фейнмана, который говорил: «Я не понимаю того, что не могу воссоздать». Именно об этом спорил Йошуа Бенжио, научный руководитель Гудфеллоу в Монреальском университете, в кафе рядом с университетом, когда его обхаживали эмиссары из Microsoft. Подобно Хинтону, Бенжио и Гудфеллоу считали, что искусственный интеллект неспособен понять то, что он не может создать. Все они утверждали, что именно созидание поможет машинам понять окружающий мир. «Если ИИ способен вообразить мир во всех реалистичных подробностях – если он может научиться создавать реалистичные образы и реалистичные звуки, – это поможет ему лучше понимать структуру мира, который действительно существует, – говорит Гудфеллоу. – Это поможет искусственному интеллекту лучше понимать образы, которые он видит, или звуки, которые он слышит». Как и распознавание речи, распознавание образов и машинный перевод, генеративно-состязательные сети были еще одним скачком вперед для глубокого обучения. По крайней мере, так считали исследователи глубокого обучения.

В своем выступлении в Университете Карнеги – Меллона в ноябре 2016 года Ян Лекун назвал генеративно-состязательные сети «самой крутой идеей в области глубокого обучения за последние двадцать лет»417. Когда Джефф Хинтон услышал это, он сделал вид, что отсчитывает годы назад, как будто хотел сравнить генеративно-состязательные сети по степени «крутизны» с методом обратного распространения ошибки, и затем признал, что утверждение Лекуна было недалеким от истины. Работа Гудфеллоу повлекла за собой длинный ряд проектов, которые совершенствовали, расширяли и подвергали проверке его большую идею. Ученые из Университета Вайоминга создали систему418, которая генерировала крошечные, но идеальные изображения насекомых, церквей, вулканов, ресторанов, каньонов и банкетных залов. Команда из Nvidia построила нейронную сеть419, которая могла «проглотить» фотографию летнего дня и превратить ее в зимний пейзаж. Группа ученых из Калифорнийского университета в Беркли разработала систему420, которая преобразовывала лошадей в зебр, а картины Моне – в картины Ван Гога. Это были чрезвычайно интересные и удивительные проекты, как теоретического, так и прикладного характера. А потом все изменилось.

* * *

В ноябре 2016 года – в тот самый месяц, когда Ян Лекун в своем выступлении назвал генеративно-состязательные сети самой крутой идеей в области глубокого обучения за последние двадцать лет, – Дональд Трамп одержал победу над Хиллари Клинтон. И это вызвало настоящий сейсмический сдвиг не только во внутри- и внешнеполитической жизни США, но также и в сфере разработок искусственного интеллекта. Во-первых, введенные новой администрацией ограничения на иммиграцию вызывали беспокойство по поводу возможностей перемещения талантливых кадров. Число иностранных студентов, обучающихся в Соединенных Штатах421, и без того сокращалось, а теперь резко пошло на спад, отчего начало страдать американское естественнонаучное и математическое сообщество, которое сильно полагалось на иностранные кадры. «Мы стреляем себе в голову, – говорил Орен Энциони, директор Института искусственного интеллекта имени Аллена, влиятельной научно-исследовательской лаборатории, базирующейся в Сиэтле. – Даже не в ногу. В голову».

Крупные компании уже расширяли свою деятельность за рубежом. Facebook открыла лаборатории искусственного интеллекта в Монреале