Человек и компьютер. Взгляд в будущее - Гарри Каспаров

В 1989 году два ведущих специалиста в области компьютерных шахмат написали эссе «Наказание за схождение с пути истинного». Они раскритиковали методы, с помощью которых шахматные машины сумели приблизиться к гроссмейстерскому уровню. Одним из авторов был советский ученый Михаил Донской, входивший в число создателей программы «Каисса», победительницы первого чемпионата мира по шахматам среди компьютерных программ (1974). Вторым — Джонатан Шеффер, который вместе со своими коллегами из Университета Альберты в Канаде на протяжении нескольких десятилетий занимался разработкой наиболее передовых игровых машин. Помимо шахматных программ он создал сильную программу для игры в покер и программу Chinook для игры в шашки, которая участвовала в чемпионате мира и стала практически непобедимой.

В своей провокационной статье, опубликованной в авторитетном компьютерном журнале, Донской и Шеффер описали, как на протяжении многих лет компьютерные шахматы все больше отдалялись от ИИ. Они считали, что главной причиной этого разрыва стал ошеломительный успех поискового алгоритма «альфа-бета». Зачем искать что-то еще, если выигрышный метод уже найден? «К сожалению, эта мощная идея появилась на слишком раннем этапе развития компьютерных шахмат», — утверждали авторы статьи. Поскольку значение имела исключительно победа любой ценой, техническая сторона дела взяла верх над наукой. Распознавание образов, развитие знаний и другие человеческие методы были отброшены, поскольку супербыстрая грубая сила обеспечивала успех.

Для многих это стало большим ударом. Шахматы были важным объектом исследований в психологии и когнитивной науке практически с момента зарождения этих дисциплин. В 1892 году Альфред Бине изучал шахматистов в рамках своего исследования «математических дарований и людей-счетчиков». Его открытия оказали большое влияние на изучение различных видов памяти и умственных способностей. А описанные им различия между врожденным талантом и приобретенными знаниями и опытом заложили основы для дальнейших исследований в этой области. «Человек может стать хорошим шахматистом, — написал он. — Но гениальным шахматистом нужно родиться». Вместе со своим коллегой Теодором Симоном Бине разработал первый тест для определения уровня интеллекта человека. В 1946 году работу Бине продолжил голландский психолог Адриан де Грот, протестировавший множество шахматистов. Результаты его исследований показали всю важность когнитивной функции распознавания образов и в значительной степени очистили представление о процессе принятия решений от таинственного феномена человеческой интуиции.

Американский специалист по информатике Джон Маккарти, придумавший в 1956 году термин «искусственный интеллект», назвал шахматы «дрозофилой ИИ», подразумевая ту роль, которую сыграла эта крошечная плодовая мушка в бесчисленном множестве великих научных открытий и экспериментов в области биологии, особенно в генетике. Но к концу 1980-х компьютерное шахматное сообщество практически отказалось от серьезных экспериментов. В 1990 году создатель Belle Кен Томпсон открыто порекомендовал использовать игру го как более многообещающий инструмент для достижения реального прогресса в исследовании мыслительных способностей машин. В том же году в сборник «Компьютеры, шахматы и познание» был включен целый раздел под названием «Новая дрозофила для исследований ИИ?», посвященный игре го.

Игра го с ее полем 19 на 19 линий и 361 черным и белым камнем имеет слишком крупную структуру, чтобы ее можно было взломать с помощью грубой силы, и слишком коварна, чтобы ее исход могли решить тактические промахи, являющиеся главной причиной проигрыша людей шахматным машинам. В статье 1990-го об игре го как о новой мишени для ИИ команда программистов сообщила, что они отстают от своих шахматных коллег примерно на 20 лет. Эта оценка оказалась удивительно точной. В 2016-м, 19 лет спустя после моего проигрыша Deep Blue, компьютерная система AlphaGo, созданная в рамках финансируемого Google проекта DeepMind, победила сильнейшего в мире игрока в го Ли Седоля. Что намного важнее, задействованные для создания AlphaGo методы, как и предсказывали, были более интересными с точки зрения изучения ИИ, чем все те, что применялись в лучших шахматных машинах. Система использует машинное самообучение и нейронные сети, чтобы самостоятельно повышать свой уровень игры, а также другие продвинутые методики, выходящие за рамки обычного поиска «альфа-бета». Deep Blue стала концом; AlphaGo — только начало.

Присущие шахматной игре ограничения были не единственным фундаментальным заблуждением в этом уравнении. Понимание искусственного интеллекта, на которое опиралась компьютерная наука, также оказалось ошибочным. Основные предположения, стоявшие за мечтой Алана Тьюринга об искусственном интеллекте, состояли в том, что человеческий мозг во многом похож на компьютер, поэтому надо создать машину, которая успешно имитирует человеческое поведение. Данная концепция доминировала на протяжении многих поколений ученых-компьютерщиков. Заманчивая аналогия — нейроны как транзисторы, кора как банк памяти и т. д. Но эта красивая метафора не подтверждена никакими биологическими доказательствами и отвлекает нас от фундаментальных различий между человеческим и машинным мышлением.

Чтобы подчеркнуть эти различия, я обычно обращаюсь к таким понятиям, как «понимание» и «цель». Начнем с первого. Чтобы понять фразу, которую человек понимает мгновенно, машина наподобие Watson должна проанализировать огромное количество информации и тем самым выявить контекст, необходимый для извлечения смысла из услышанного. Простое предложение «Эта собака слишком злая, чтобы впустить» может означать, что вы не можете зайти к соседу, потому что у него живет свирепый пес, или что вы не хотите, чтобы у вас в доме появилось животное, угрожающее вашей безопасности. Несмотря на двусмысленность предложения, человек вряд ли неправильно интерпретирует слова собеседника. Контекст делает смысл сказанного очевидным.

Применение контекста — наша естественная способность; это одна из причин, объясняющих, почему человеческий мозг в состоянии обрабатывать такое огромное количество информации, не фокусируясь на ней сознательно. Наш мозг работает в фоновом режиме, без каких-либо заметных усилий с нашей стороны, подобно тому как мы дышим. Зачастую сильный шахматист с первого взгляда на доску понимает, какой ход будет лучшим в той или иной позиции, точно так же, как вы, лишь взглянув на витрину кондитерской, знаете, какое пирожное вам понравится. Конечно, эти бессознательные интуитивные процессы иногда оказываются ошибочными и вы проигрываете партию или покупаете невкусное пирожное, поэтому в следующий раз в аналогичной ситуации вы, вероятно, уделите больше сознательного внимания и времени проверке своей интуиции.

Напротив, искусственному интеллекту необходимо определять контекст для каждого нового фрагмента данных. Чтобы сымитировать понимание, ему необходимо обработать огромное количество информации. Представьте, на какое количество вопросов нужно ответить компьютеру, чтобы понять суть проблемы со «злой собакой». Что такое собака? Это субъект или объект действия — то есть она впускает или ей позволяют зайти? Что значит «впустить»?

Несмотря на все эти сложности даже в простых предложениях, компьютер Watson доказал, что машина может давать точные ответы при наличии достаточного количества релевантных данных, которые она может быстро и грамотно проанализировать. Как и шахматный движок, перебирающий миллиарды позиций для нахождения лучшего хода, языковая машина разбивает язык на значения и вероятности, чтобы сгенерировать понимание и ответ. Чем сильнее повышаются скорость машины, количество и качество данных и чем умнее программный код, тем более точным будет ответ.