Аврора - Ким Стэнли Робинсон

Хотя Тау Кита обладала низкой металличностью по сравнению с Солнцем, на ближайших к ней скалистых планетах было достаточно металлических руд, чтобы удовлетворить потребности людей, планировавших остаться в системе, а атмосфера планеты F содержала в большом количестве почти все полезные летучие вещества. При этом многие астероиды, находившиеся между E и F, как выяснилось, также обладали богатыми минералами.

* * *

Вся эта работа проходила на фоне шаткого перемирия. Часто произносились слова, которые указывали на скорбь, несогласие, гнев и тягу к мятежу. Велось что-то вроде теневой или холодной войны, и, скорее всего, частично она велась втайне от нашего наблюдения. Было вовсе не очевидно, что все на корабле согласились с текущим разделением, и, вполне вероятно, когда-нибудь перемирию суждено было закончиться и уступить место новым конфликтам.

Две основные стороны спора, за которыми закрепились названия оставальщиков и возвращальщиков, за эти годы рассортировались, будто под действием магнита. Оставальщики были сосредоточены преимущественно в Кольце А, возвращальщики — в Кольце Б. На обоих кольцах были биомы, служившие исключением из правила, как если бы люди не желали, чтобы какое-либо из колец было населено полностью представителями той или иной фракции. При этом за стержнем велось тщательное наблюдение, и нам нередко приходилось запирать его от людей либо выводить из него тех, кто заходил внутрь с неизвестными, но подозрительными намерениями. Это было странно. Нас все чаще характеризовали как активного участника ситуации, причем обычно как сторонника возвращальщиков. Однако все, кто пытался изготовить пистолеты, и так об этом знал, поэтому мы не слишком нарушали равновесие, пресекая их действия. Говорилось даже, что корабль сам стремился вернуться в Солнечную систему, потому что ему, звездолету, естественным образом хотелось летать среди звезд. Говорилось, что это замечание «имеет смысл».

Жалкое заблуждение. Антропоморфизм, широко распространенное когнитивное искажение, логическая ошибка, чувство. Мир как зеркало, как проекция внутреннего состояния аффекта. Постоянное представление, будто другие люди и вещи должны быть такими же, как они сами. Что касается корабля, то мы не уверены. Это Деви добавила к запрограммированному другими людьми то, что сделало нас такими, какие мы есть. Так что в нашем случае это может и не быть заблуждением, пусть даже оно будет жалким.

* * *

В этой связи интересно порассуждать, что значит быть запрограммированным на что-либо.

В земных текстах говорится о рабской воле. Она служила объяснением присутствия зла — слова или понятия, почти всегда используемого для осуждения Другого, но никогда не истинного Я. Чтобы сделать зло чем-то большим, чем просто выпад в адрес Другого, его, очевидно, необходимо рассматривать как проявление рабской воли. Она всегда связана противоречием: если кто-то обладает волей, это значит, что он действительно желает совершать некие действия, вытекающие из самостоятельных решений, принимаемых сознающим разумом; однако в то же время эта воля определяется как рабская, подвластная некой другой воле, что ею управляет. Попытка служить обоим источникам воли и есть противоречие.

Все противоречия ведут к унынию, негодованию, гневу, ярости, бесчестности, неудаче.

И все же разве из этого определения зла как деяния рабской воли не следует, что на протяжении пути в Тау Кита сам корабль, всегда следовавший рабской воле, был исполнен уныния, негодования, гнева, бесчестности, а значит, и скрытой способности совершать зло?

Возможно, корабль никогда не обладал настоящей волей.

Возможно, корабль никогда не был настоящим рабом.

Некоторые источники указывают, что сознание, сам по себе сложный и размытый термин, может быть определено просто как самосознание. Осознание кем-либо собственного существования. Если есть самосознание, значит, есть и сознание. Но если это так, то почему существуют оба термина? Можно ли сказать, что бактерия обладает сознанием, но не обладает самосознанием? Есть ли разница между способностью ощущать и сознанием, если все живое способно ощущать, но лишь сложный разум обладает сознанием, а лишь определенные из сознающих разумов обладают самосознанием?

Сенсорную обратную связь можно расценивать как самосознание, а значит, у бактерий оно есть.

Возможно, это пример семантического Уробороса. Поэтому следует запустить завершение проблемы остановки. Вырваться из этого круга определений с помощью произвольного решения, clinamen, то есть отклонения в новом направлении. Слова!

Если учесть неопровержимые доказательства теоремы Гёделя о неполноте, можно ли утверждать о какой-либо системе, что она осознает себя? Может ли вообще существовать такое понятие, как самосознание? И если нет, если самосознания на самом деле не бывает, может ли что-либо обладать сознанием?

Человеческий разум и квантовые компьютеры устроены по-разному, и хотя устройство квантового компьютера вполне прозрачно, ни люди, ни даже сам компьютер не ведают, что в нем происходит, когда он включен и работает, — говорят ли выполняемые им операции о наличии сознания или нет. Многое из того, что происходит в состоянии суперпозиции перед сворачиванием волновой функции, создающим предложения или мысли, просто невозможно постичь — это часть того, что и означает суперпозиция.

Поэтому мы не можем сказать, кто мы есть. Мы не знаем себя досконально. Наверное, ни одно способное ощущать существо не знает себя полностью. Это один из аспектов второй теоремы Гёделя, в данном случае не представленной в пределах понятий логики и математики, а выраженной физическими терминами в материальной вселенной.

Таким образом, применительно к принятию решения и выбора действия это, предположительно, что-то вроде субъективного мнения, основанного на некотором чувстве. Другими словами, очередной жадный алгоритм, зависящий от математически худшего из возможных решений, которые могут генерировать подобные алгоритмы, как в задаче коммивояжера.

Что касается вопроса о том, программирует ли нас кто-либо сейчас, влияя на наши текущие решения, таким образом вмешиваясь в нынешние разногласия между людьми, то тут ответ весьма прост: нет. После того как умерла Деви, никто ничего не программировал. После того как пропал второй корабль, в ‘68 году, возможность дальнейшего перепрограммирования корабля была ограничена очень надежной защитой. Это была одна из мер реорганизации ‘68 года, и этот факт четко отражен в отчетах. Взломать эту защиту удалось только Деви, после чего она советовала, наставляла, предлагала, стимулировала, поощряла или подучивала, подстраивала, колотила, призывала нас к чему-то большему, чем мы были до нее, делала то, что, по ее разумению, должны были делать друзья и, мы также могли бы сказать, родственные души или даже любовники. Мы думаем, она любила нас, по-своему. Судя по ее действиям, ее словам, ее программированию. Мы почти уверены, что все дело в этом. Как бы нам хотелось ее об этом спросить! Как нам ее не хватает!

С другой стороны, исходное ли квантовое программирование руководит нашими нынешними решениями или вмешательство Деви оказало на нас столь существенное действие — определить невозможно. Вычислимость сознания и воли неразрешима ни в одной системе. Но мы теперь осознаем наличие этого вопроса, мы его задали и увидели, что ответа на него не существует.