Сингулярность - Вернор Виндж

Кажется весьма вероятным, что с имеющейся у нас технологией в самом ближайшем будущем мы сможем создать существа, превосходящие человека по всем интеллектуальным и творческим параметрам – или самим стать ими. События, которые произойдут после этого момента, – назовем его Технологической Сингулярностью, – мы можем себе вообразить не лучше, чем плоский червь – оперу.

Предыдущая фраза по определению лишает практического смысла любое долгосрочное планирование в будущем сингулярности.

Однако может случиться, что сингулярность не наступит, и в таком случае любое планирование, выходящее за пределы ближайших пятидесяти лет, может приобрести значительную практическую важность. В любом случае хороший автор научной фантастики (или планировщик возможного сценария) должен рассматривать альтернативные исходы.

Следует добавить, что альтернативы, которые я намерен сегодня обсудить, предполагают, что способ путешествия быстрее света не изобретен!

Важное замечание для тех, кто набредет на это выступление вне контекста:-) Я по-прежнему считаю Сингулярность наиболее вероятным из некатастрофических исходов в нашем ближайшем будущем.

Существует множество правдоподобных катастрофических сценариев (см. Мартин Рис, Our Final Hour), но сегодня я попробую рассмотреть те виды будущего без сингулярности, где человечество все-таки сможет выжить.

Правдоподобным объяснением «ненаступления сингулярности» является то, что мы еще не научились «делать нужный софт» (или, если вы склонны выражаться мистически, «находить душу в железе»). Вот некоторые возможные симптомы:

• Создание программного обеспечения (software creation) по-прежнему остается отраслью программотехники (software engineering).

• Программные проекты, создаваемые для использования возрастающей мощи аппаратуры, заканчиваются все более и более оглушительным крахом. Например:

• Провалы проекта настолько глубоки, что никаким количеством денег их невозможно замаскировать, единственный вариант – решительно отказаться от проекта.

• Сбои в крупных, полностью автоматизированных проектах приводят к катаклизмам (недосмотр человека-диспетчера приводит к столкновению двух самолетов, а глюк в полностью автоматизированной системе может свести в одной точке пространства-времени десяток самолетов).

• Такие провалы ведут к снижению спроса на более совершенную аппаратуру, которую невозможно должным образом использовать, что, в свою очередь, ведет к тому, что производители в своих планах откатываются назад. Фактически перестает действовать закон Мура – пусть даже не видно никаких физических барьеров на пути к дальнейшему совершенствованию микросхем.

• В результате прекращаются фундаментальные исследования в области материаловедения – в том числе из-за недостатка новых поколений компьютерных систем для поддержки таких исследований.

• Последними падут жертвой стагнации аппаратные улучшения простых и высокорегулярных структур (вроде хранилищ данных). В долгосрочной перспективе у нас будут необычайно хорошие (однако ничего прорывного) аудио-визуальные продукты для развлечений и огромные базы данных (но без программного обеспечения, позволяющего с ними качественно работать).

• Поэтому мало кто удивится, что обещанное появление сильного ИИ так и не произойдет, и другие прорывные технологии, нуждающиеся в чем-то вроде ИИ – скажем, нанотехнические сборочные установки, – тоже не появятся.

С учетом всего этого ранние годы описываемой эпохи будут, скорее всего, названы Веком несбывшихся мечтаний.

• Год 2040-й. Фрики в домах престарелых бродят туда-сюда, чешут в затылках и жалобно спрашивают: «Ну, это самое… а где же сингулярность-то?»

• Но некоторые следствия могут казаться утешительными:

• Закон Эдельсона гласит: «Число важных идей, которые не были высказаны, со временем растет экспоненциально». Причину этого я вижу в головокружительном ускорении технологического прогресса и неспособности простых человеческих умов за ним угнаться. Если прогресс замедлится, у нас может образоваться достаточно времени, чтобы догнать его (хотя я подозреваю, что базы данных биологической науки все равно будут наполняться быстрее, чем мы будем успевать их анализировать).

• Может быть, найдется наконец время пересмотреть по-настоящему неуклюжие программы, написанные в прошлом веке, и все переписать, но на этот раз чисто и рационально. (Ага, как же.)

• С другой стороны, шансы человечества пережить столетие могут стать более сомнительными:

• Останутся все те же угрозы гибели окружающей среды и нехватки ресурсов.

• Останутся угрозы глобальной войны. В ранние годы XXI века нас отвлекла и напугала (не без оснований) угроза ядерного терроризма. Мы забыли, как прошли узкий коридор 1970–1990-х, когда в течение нескольких дней могли быть пущены в ход десятки тысяч ядерных ракет, причем, возможно, без какого-либо сознательного политического решения. Возвращение к ВГУ (Взаимное Гарантированное Уничтожение) сейчас весьма правдоподобно, а если добавить к этому губительное воздействие на окружающую среду, оно становится весьма вероятным убийцей цивилизации.

Предположим, что человечество все же переживет XXI век. После выхода из века несбывшихся мечтаний – каковы будут перспективы долгой человеческой эры? Я хотел бы проиллюстрировать некоторые возможности с помощью схем, которые покажут «долгое сейчас» во всех его аспектах – от десятков тысяч лет перед нашим временем до десятков тысяч лет после него – причем покажут его «в целом», без прямой ссылки на ход времени (что вполне соответствует размышлениям об Эре Человека как едином «долгом сейчас»).

Вместо того, чтобы вырисовывать график какой-то переменной, скажем, населения, как функции от времени, я буду строить график энерговооруженности в сопоставлении с численностью населения. Кстати о примерах: наша текущая ситуация показана на рис. 1.

Рис. 1

Согласен, выглядит она не слишком обнадеживающе. Пожалуй, больше всего впечатляет, что в глобальном масштабе мы, люди, – народ упорный. Даже Черная Смерть лишь слегка отщипнула от прогрессивного роста энерговооруженности/населения. Возможно, это отражает истинное положение вещей, но может быть и так, что мы не видим всей картины. (Обратим внимание, что экстремальные выходы вправо (население) или вверх (энерговооруженность и, соответственно, деструктивный потенциал) для земной цивилизации, вероятно, были бы катастрофой.)

Без наступления сингулярности существуют три возможности (три полноправных сценария):

Я сказал, что постараюсь не затрагивать экзистенциальных катастроф, но хочу подчеркнуть, что они все еще возможны. Как избежать их – эта мысль должна стоять на первом месте при размышлении о долгосрочных перспективах.