Совместимость. Как контролировать искусственный интеллект - Стюарт Рассел

Исследования логики Аристотелем и другими мыслителями привели к созданию законов рационального рассуждения, но мы не знаем, задумывался ли Аристотель о возможности существования машин, основанных на этих законах. В XIII в. влиятельный каталонский философ, соблазнитель и мистик Раймунд Луллий значительно ближе подошел к этому вопросу: он изготовил бумажные колеса, исписанные символами, с помощью которых получал логические комбинации суждений. Великий французский математик XVII в. Блез Паскаль первым создал настоящий, действующий механический калькулятор. Хотя это устройство могло только складывать и вычитать и по большей части использовалось его отцом при сборе налогов, Паскаль написал: «Арифметическая машина создает эффекты, которые кажутся более близкими к рассуждению, чем любые действия животных».

Технология совершила огромный скачок в XIX в., когда британский математик и изобретатель Чарльз Бэббидж разработал аналитическую машину, программируемое универсальное устройство, основанное на принципах, позднее описанных Тьюрингом. В работе ему помогала Ада, графиня Лавлейс, дочь поэта-романтика и авантюриста лорда Байрона. Если Бэббидж надеялся использовать аналитическую машину для точных расчетов математических и астрономических таблиц, Лавлейс понимала ее истинный потенциал[51], описав ее в 1842 г. как «думающую или… логическую машину», способную мыслить обо «всех предметах во Вселенной». Итак, базовые концептуальные элементы создания ИИ были готовы! С этого момента, бесспорно, создание ИИ становилось лишь вопросом времени…

К сожалению, долгого времени. Аналитическая машина так и не была построена, и идеи Лавлейс оказались практически забыты. Благодаря теоретической работе Тьюринга 1936 г. и последующему импульсу, приданному Второй мировой войной, универсальные вычислительные машины были наконец реализованы в 1940-х гг. Сразу же возникли замыслы создания разума. Статья Тьюринга 1950 г. «Вычислительная техника и интеллект»[52] является наиболее известной из множества ранних работ о возможностях интеллектуальных машин. Скептики уже заявляли, что машины никогда не смогут осуществить действие Х, где вместо Х можно поставить практически любую задачу, и Тьюринг отрицал эти заявления. Он также предложил операциональный тест интеллектуальности, названный имитационной игрой, который впоследствии (в упрощенном виде) стал известен как тест Тьюринга. Этот тест измеряет поведение машины, а именно ее способность заставить испытателя-человека думать, что он имеет дело с человеком.

Имитационная игра занимает специфическое место в статье Тьюринга — это мысленный эксперимент, призванный переубедить скептиков, предполагавших, что машины не способны приходить к верным выводам, опираясь на правильные рассуждения и с нужной степенью осознанности. Тьюринг надеялся перенаправить споры на вопрос о том, способна ли машина вести себя определенным образом; если оказалось бы, что она на это способна — что она может, скажем, осмысленно рассуждать о сонетах Шекспира и их смыслах, — то скептицизм в отношении ИИ утратил бы основания. В противоположность общераспространенным интерпретациям, я сомневаюсь, что тест задумывался как подлинное определение интеллектуальности в том смысле, что машина интеллектуальна тогда и только тогда, если проходит тест Тьюринга. Действительно, Тьюринг писал: «Разве не может машина осуществлять нечто, что можно описать как рассуждение, но что очень сильно отличается от того, что делает человек?» Другая причина не воспринимать этот тест как определение ИИ состоит в том, что с таким определением чудовищно тяжело работать. Поэтому исследователи, профессионально занимающиеся изучением ИИ, практически не предпринимали попыток пройти тест Тьюринга.

Тест Тьюринга бесполезен для ИИ, потому что это неформальное и чрезвычайно обусловленное определение: оно зависит от невероятно сложных и по большей части неизвестных характеристик человеческого ума, основывающихся на биологическом строении и культурном контексте. Невозможно «распаковать» это определение и на его основании создать машину, которая с высокой вероятностью пройдет тест. Вместо этого исследования ИИ сосредоточились на рациональном поведении согласно вышеописанному: машина интеллектуальна настолько, насколько вероятно, что ее действия приведут ее к тому, чего она хочет, при условии, что это желание было воспринято.

Сначала исследователи ИИ вслед за Аристотелем идентифицировали «то, что она хочет» как цель, которая либо достигается, либо нет. Такие цели могли возникать в мире игр, например в пятнашках, где целью является расположить все костяшки с числами по порядку от 1 до 15 в маленьком (смоделированном) квадратном лотке или же в реальном физическом окружении. В начале 1970-х гг. робот Shakey Стэнфордского исследовательского института в Калифорнии складывал большие блоки в желаемые конфигурации, а робот Freddy Эдинбургского университета собирал деревянную лодку из деталей. Вся эта работа выполнялась с использованием логических систем решения задач, направленных на составление и исполнение планов, гарантированно приводящих к успеху[53].

К 1980-м гг. стало очевидно, что одного только логического рассуждения недостаточно, потому что, как уже отмечалось, не существует плана, гарантирующего, что вы «попадете в аэропорт». Логика требует определенности, а реальный мир попросту ее не обеспечивает. Между тем американо-израильский специалист по компьютерным наукам Джуда Перл, впоследствии получивший премию Тьюринга 2011 г., работал над методами рассуждения в условиях неопределенности, основанными на теории вероятности[54]. Все исследователи постепенно приняли идеи Перла; они вооружились инструментами теории вероятности и теории полезности, таким образом связав ИИ с другими областями знания: статистикой, теорией контроля, экономикой и исследованиями операций. Это изменение ознаменовало начало, в терминологии некоторых обозревателей, современного ИИ.