Искусственный интеллект – надежды и опасения - Джон Брокман

Модульность (открытая архитектура): Поскольку искусственные устройства обработки информации способны использовать точно спроектированные цифровые интерфейсы, они без труда «ассимилируют» новые модули. Так, если мы хотим, чтобы компьютер «видел» ультрафиолетовое или инфракрасное излучение или «слышал» ультразвук, достаточно подать сигнал соответствующего датчика непосредственно в его «нервную систему». Архитектура мозга гораздо более закрыта и непрозрачна, а иммунная система человека активно сопротивляется внедрению имплантатов.

Квантовая готовность: Один пример модульности заслуживает особого упоминания в связи с его потенциальными перспективами. В последнее время физики и информатики пришли к выводу, что принципы квантовой механики позволяют внедрять новые вычислительные принципы, которые могут обеспечить качественно новые формы обработки информации и (возможно) новые уровни интеллекта. Но эти возможности опираются на особенности квантового поведения, весьма, скажем так, деликатные и совершенно не подходящие, как кажется, для взаимодействия с теплой, влажной и грязной «средой обитания» человеческого мозга.

Очевидно, что в качестве носителя интеллекта человеческий мозг далеко не оптимален. Тем не менее, пусть универсальные домашние роботы или механические солдаты без труда покорят прибыльные рынки, в настоящее время не существует машины, которая хотя бы отдаленно напоминала общий человеческий интеллект, необходимый для полноценной реализации задач уборки или войны. Несмотря на свою относительную слабость во многих отношениях, человеческий мозг имеет некоторые важные преимущества перед своими искусственными конкурентами. Позвольте перечислить пять из них.

Трехмерность: Хотя, как уже отмечалось, линейные размеры нынешних искусственных процессоров значительно меньше, чем размеры мозга, процедура их изготовления (чаще всего литография, травление) является, по существу, двумерной. Это наглядно проявляется в геометрии компьютерных плат и микросхем. Конечно, можно накладывать платы друг на друга, но расстояние между слоями будет намного больше, а связь – заметно хуже, чем внутри слоев. Мозг куда лучше используют все три измерения.

Самовосстановление: Человеческий мозг способен восстанавливаться после многих травм или ошибок или даже их избегать. Компьютеры часто приходится чинить или перезагружать извне.

Связь: Человеческие нейроны обычно поддерживают несколько сотен соединений (синапсов). Более того, сложная структура этих связей очень значима. (См. следующий пункт.) Компьютерные блоки обычно поддерживают всего несколько соединений в регулярных фиксированных схемах.

Развитие (самосборка с интерактивным «ваянием»): Человеческий мозг наращивает свои единицы путем деления клеток и объединяет их в последовательные структуры посредством перемещения и наложения. Также он размножает обильные связи между клетками. Важную часть «ваяния» обеспечивают активные процессы в младенчестве и детстве, когда человек взаимодействует со своим окружением. Многие связи со временем исчезают, а другие укрепляются в зависимости от эффективности их использования. То есть тонкая структура мозга настраивается посредством взаимодействия с внешним миром – богатейшим источником информации и обратной связи!

Интеграция (датчики и исполнительные механизмы): Человеческий мозг оснащен различными сенсорными органами, в частности выведенными вовне глазами, и универсальными исполнительными механизмами, в том числе руками, которые строят, ногами, которые ходят, и ртом, который говорит. Эти датчики и исполнительные механизмы легко интегрируются в центры обработки информации в мозгу благодаря миллионам лет естественного отбора. Мы интерпретируем «сырые» сигналы и контролируем действия, уделяя им минимальное сознательное внимание. Обратная сторона в том, что мы не знаем, как это происходит, а реализация всего перечисленного непрозрачна. Выяснилось, что удивительно трудно достичь человеческого подобия в отношении этих «рутинных» функций ввода-вывода.

Эти преимущества человеческого мозга перед разрабатываемыми в настоящее время искусственными системами убедительно велики. Человеческий мозг является великолепным доказательством того, что существует как минимум несколько способов добиться большего от материи. Когда же наша инженерия сможет его воспроизвести – если вообще сможет?

Точный ответ мне неведом, но позвольте высказать несколько обоснованных предположений. Проблемы трехмерности и, в меньшей степени, самовосстановления не выглядят непреодолимыми. Это довольно сложные инженерные задачи, но постепенные улучшения здесь достаточно легко вообразить, а общее направление развития вполне понятно. Пусть человеческое зрение, руки и другие органы чувств и исполнительные механизмы удивительно эффективны, их способности далеко не исчерпывают физические возможности. Оптические системы могут делать снимки более высокого разрешения с большим охватом, глубиной и насыщенностью, а также в большем количестве областей электромагнитного спектра; роботы могут двигаться быстрее и становиться сильнее, и т. д. В ряде сфер деятельности уже доступны компоненты, необходимые для «сверхчеловеческой» производительности. «Узкие места» быстро и надежно ликвидируются устройствами обработки информации.

Тем самым мы переходим к оставшимся, полагаю, наиболее важным преимуществам человеческого мозга по сравнению с искусственными системами, то есть к связности и интерактивному развитию. Эти два преимущества являются синергетическими, поскольку именно интерактивное развитие формирует обширную, но способную растягиваться структуру детского мозга благодаря экспоненциальному росту нейронов и синапсов, для настройки того экстраординарного инструмента, которым она становится. Компьютерные ученые постепенно начинают открывать для себя всю мощь архитектуры мозга: как отмечалось, нейронные сети, чей базовый дизайн, как следует из их названия, отталкивался именно от мозга, добились ряда поразительных успехов в играх и распознавании образов. Но современная инженерия не создала ничего похожего – в эзотерической (на сегодняшний день) области самовоспроизводящихся машин – на силу и универсальность нейронов и синапсов. Это, не исключено, новый великий рубеж научных исследований. Здесь может указать путь биология, поскольку мы в целом неплохо понимаем суть биологического развития и можем его воспроизвести.

Суммируя: преимущества искусственного интеллекта перед естественным кажутся постоянными, тогда как преимущества естественного интеллекта перед искусственным, сколь угодно существенные, выглядят временными. Полагаю, инженерам понадобится немало десятилетий на то, чтобы догнать природу, но всё уложится – если не будет катастрофических войн, изменений климата или эпидемий, тормозящих технический прогресс, – в несколько столетий.

Если я прав, мы можем рассчитывать сразу на несколько поколений, на протяжении которых люди, при помощи интеллектуальных устройств, будут сосуществовать со все более и более мощными автономными ИИ. Нас ожидает сложная, быстроменяющаяся экология интеллекта, чьим следствием окажется быстрая эволюция разума. Учитывая внутренние преимущества, которыми в конечном счете станут располагать сконструированные устройства, в авангарде этой эволюции выступят киборги и сверхразум, а отнюдь не слегка «подновленный» Homo Sapiens.

Другим важным стимулом станет исследование враждебных сред как на Земле (например, в глубинах океана), так и за пределами планеты, в космосе. Организм человека плохо приспособлен к условиям обитания вне узкой полосы температур, давления и состава атмосферы. Человек нуждается в большом количестве специфических и сложных питательных веществ и в большом количестве воды. Кроме того, он не обладает радиационной выносливостью. Как наглядно продемонстрировала пилотируемая космическая программа, обитание людей вне «наземной» зоны комфорта – дело непростое и дорогое. Киборги или автономные ИИ окажутся гораздо более полезными для