Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

После создания Eliza группа ученых Массачусетского технологического института, включая основоположника теории информации Клода Шеннона, собралась в Конкорде, штат Массачусетс, чтобы обсудить социальные последствия этого явления{130}. Привлекательность взаимодействия с Eliza беспокоила Вейценбаума, который усматривал в чрезмерной ориентации на технологии признаки морального падения общества. Корни такого взгляда восходят ко временам его детства в нацистской Германии. В 1976 г. он изложил гуманистическую критику компьютерной технологии в книге «Возможности вычислительных машин и человеческий разум: От суждений к вычислениям» (Computer Power and Human Reason: From Judgment to Calculation). В ней не было доводов против возможности создания искусственного интеллекта, она предъявляла страстные обвинения автоматизированным системам, которые принимают решения вместо человека. Автор утверждал, что компьютеры являются консервативной силой в обществе, поддерживают бюрократию и превращают мир в тесное и бесплодное место, ограничивая потенциал человеческих отношений.

Критика Вейценбаума так и не нашла отклика в Соединенных Штатах. Годы спустя его идеи получат большее понимание в Европе, куда он переедет в конце жизни, но тогда в США, где внедрялись новые компьютерные технологии, было больше оптимизма в отношении искусственного интеллекта.

В конце 1960-х гг. аспирант Виноград попал в тепличную атмосферу Лаборатории искусственного интеллекта Массачусетского технологического института, места рождения культуры программистов-фанатиков, которая привела к появлению PC и идеологии «свободы обмена информацией», а позже движения 1990-х гг. за открытую среду. Многие в лаборатории строили карьеру на вере в то, что дружелюбные и автономные интеллектуальные машины скоро станут реальностью. Eliza, а позднее и SHRDLU Винограда стали прямыми предшественниками более сложных электронных личных помощников, появившихся в последующие десятилетия. В Массачусетском технологическом институте уже предпринимались попытки строить микромиры или «блочные миры» – ограниченные смоделированные среды, в которых исследователи могли создавать программы, способные судить об окружающей обстановке и планировать действия. Иногда использовались даже реальные манипуляторы и блоки. Когда Виноград начал работать над своим проектом, уже создавалась система заказа авиабилетов, но это не очень интересовало его. Он собирался построить собственную ограниченную среду для исследований и рационализации и выбрал для нее форму виртуального компьютерного мира.

Виноград создал компьютерную модель мира, населенного цветными блоками, которые можно было исследовать и которыми можно было управлять с помощью языка программирования под названием Micro-Planner, основанного на работах аспиранта Массачусетского технологического института Карла Хьюитта. Учитывая сравнительно невысокий уровень развития вычислительной техники в то время, во многом приходилось полагаться на воображение. Наглядного графического представления мира блоков не было. Пользователь просто сидел у терминала Teletype и вводил вопросы с клавиатуры, а компьютер отвечал на естественном языке. Виноград выбрал название SHRDLU потому, что ничего лучше не пришло в голову. Позже он сказал, что последовательность букв SHRDLU, наверное, сидела у него в подсознании. Последовательность «etaoin shrdlu» – самые ходовые в английском языке буквы – располагается на левой стороне клавиатуры линотипа, как «1qaz 2wsx» в пишущей машинке. Эта последовательность символов время от времени мелькала в шутку в журнале Mad как якобы случайно проскочившая при печати строка. У линотипа, который отливает всю строку из расплавленного металла, не было клавиши Backspace. Поскольку завершить отливку строки с ошибкой быстрее, чем заниматься исправлением, наборщики обычно «заполняли» оставшуюся часть строки бессмысленным набором символов и удаляли всю строку, когда она застывала, а если забывали это сделать, то уповали на то, что корректор выловит ее{131}.

В то время Винограда мало заботили этические последствия создания системы обработки естественного языка, которая могла «понимать» и отвечать в виртуальном мире. В SHRDLU «понимание» означало, что программа анализировала структуру введенных вопросов и пыталась ответить на них и отреагировать на команды. Это была одна из первых попыток справиться с неоднозначностью – проблемой обработки естественного языка, сложной для решения даже сегодня. Например, к чему относится местоимение «он» в предложении «стакан поставили на стол, и он сломался», к стакану или столу? Без контекста ни человек, ни искусственный интеллект не могут этого определить.

Система Винограда опиралась на общие знания о своем микромире при ответе и реагировании на вопросы. В диссертации Виноград приводил следующий пример диалога:

В 1970 г. после завершения работы программа SHRDLU стала одной из самых успешных демонстраций потенциала искусственного интеллекта, возможно, слишком успешной. Годы спустя это детище Винограда обвинили в том, что оно способствовало появлению слишком оптимистического представления о возможности «масштабирования» подобных программ для решения проблем реального мира. Например, в 1980–1990-х гг. сообщество искусственного интеллекта в целом верило, что можно создать машину с умственными способностями по крайней мере ребенка детсадовского возраста путем простого накопления практических правил.

Впрочем, критика оптимистов искусственного интеллекта началась еще до того, как Виноград создал SHRDLU. Если выступления Вейценбаума касались этической стороны создания интеллектуальных машин, то вопрос принципиальной возможности таких машин вызывал более горячие споры. Сеймур Пейперт, научный руководитель Винограда, спорил с Хьюбертом Дрейфусом, философом и последователем Хайдеггера[14]. Дрейфус всего через десятилетие после того, как Маккарти ввел термин «искусственный интеллект» в употребление, высмеял это направление в статье «Алхимия и искусственный интеллект» (Alchemy and Artificial Intelligence), изданной в 1965 г. RAND Corporation{133}. (В его честь в ремейке 2014 г. кинофильма «Робокоп» (RoboCop) вымышленного американского сенатора, сторонника закона о запрете роботов-полицейских, назвали Хьюбертом Дрейфусом.)