Опасная идея Дарвина: Эволюция и смысл жизни - Дэниел К. Деннетт

Все мы и в самом деле применяем эти «ингредиенты», на первый взгляд, не алгоритмически, но этот феноменологический факт вводит в заблуждение. Пенроуз тщательно обсуждает вопрос, что значит быть математиком, но упускает возможность (более того, вероятность), известную специалистам в области искусственного интеллекта: возможность того, что фундаментом нашей способности обращаться с этими «ингредиентами» является эвристическая программа умопомрачительной сложности. Такой замысловатый алгоритм будет почти соответствовать способностям того, кто способен в совершенстве понимать увиденное, будучи «незаметным» для того, к чьей пользе служит. Каждый раз, когда мы заявляем, что решили какую-то задачу «интуитивно», на самом деле это значит лишь, что мы не знаем, как ее решили. Простейший способ смоделировать «интуицию» на компьютере – просто закрыть компьютерной программе любой доступ к ее собственным внутренним процессам. Каждый раз, как программа решит задачу, и вы спросите ее, как она это сделала, ей придется отвечать: «Не знаю; просто интуитивно»775.

Затем Пенроуз закрывает вторую лазейку (некорректный алгоритм), заявляя: «Математикам нужна определенная строгость, делающая такие эвристические доказательства неприемлемыми; следовательно, никакая подобная известная процедура этого типа не может быть способом, которым на самом деле действуют математики»776. Это ошибка поинтереснее, ибо вместе с ней появляется перспектива, что для проведения решающего эмпирического теста «в ящик» нужно будет сажать не одного математика, а все математическое сообщество! Пенроуз осознает теоретическую важность дополнительного могущества, которое люди-математики получают, объединяя свои ресурсы, общаясь друг с другом и в результате становясь своего рода единым гигантским разумом – гораздо более надежным, чем любой гомункул, которого мы могли бы посадить в коробку. Дело не в том, что у математиков мозги устроены лучше, чем у остальных людей (или шимпанзе), но в том, что они располагают орудиями мысли – социальными институтами, в рамках которых они знакомят друг друга со своими доказательствами, проверяют друг друга, публично допускают ошибки и затем рассчитывают на то, что научное сообщество эти ошибки исправит. Так математическое сообщество и в самом деле обретает способность распознавать математические истины, намного превосходящую возможности любого отдельного человеческого мозга (даже отдельного мозга, вооруженного бумагой и карандашом, карманным калькулятором или портативным компьютером!). Но это не доказывает, что человеческий разум не является алгоритмическим прибором; напротив, это показывает, как подъемные краны культуры могут использовать человеческий мозг в распределении алгоритмических процессов, для которых нет четко обозначенных ограничений.

Пенроуз понимает это несколько иначе. Он продолжает рассуждение, говоря, что «именно наша общая (неалгоритмическая) способность понимать» обеспечивает наши математические способности, и заключает: «Естественный отбор поддерживает в Человеке (по меньшей мере) не алгоритм x, но эту удивительную способность понимания!»777 Здесь он допускает оплошность, которую я только что проиллюстрировал примером с шахматами. Пенроуз хочет сказать:

Этот вывод не следует из посылок. Если разум (в противоположность утверждению Пенроуза) является алгоритмом, то, конечно же, этот алгоритм не может опознаваться или быть доступным тем, чьи разумы он создает. Пользуясь словами Пенроуза, он непознаваем. Как продукт процесса биологического конструирования (как на генетическом, так и на индивидуальном уровне) это почти наверняка один из тех алгоритмов, которые расположены в том или ином месте Чрезвычайно обширного пространства интересных алгоритмов, полных опечаток и «багов», но достаточно надежных, чтобы вы могли (покамест) ручаться за них головой. Пенроуз считает эту возможность «надуманной», но если это его единственное возражение, то он пока что недостаточно близко знаком с лучшими из версий «сильного искусственного интеллекта».

Когда Пенроуз настаивает, что мозг – это не машина Тьюринга, важно понимать, что именно он не говорит. Он не делает очевидное (и очевидно не относящееся к делу) заявление, что мозг не был эффективно смоделирован с помощью первоначального вымышленного прибора Тьюринга: крошечного устройства, установленного поверх бумажной ленты и проверяющего один квадратик ленты за раз. Никто никогда иначе и не думал. Сказанное им также не является всего лишь утверждением, что мозг – не компьютер последовательного действия, «машина фон Неймана», а скорее компьютер в высшей степени параллельного действия. И он не ограничивается всего лишь заявлением, что мозг, запуская свои алгоритмы, использует случайность и псевдослучайность. Он указывает (хотя не все это замечают), что алгоритмы, допускающие значительные дозы случайности, продолжают оставаться алгоритмами в сфере действия искусственного интеллекта, и все еще подпадают под ограничения, налагаемые теоремой Гёделя на все машины Тьюринга любого размера и формы780.