Воображаемая жизнь - Майкл Саммерс

Существуют разного рода навороты и прибамбасы, которые можно ввести в процесс такого рода. Например, машина может скремблировать инструкции из разных программ — по сути, «выводить» новые алгоритмы. После этого самые успешные вновь «скрещиваются», чтобы создавать ещё более успешные программы в странном подобии биологического естественного отбора. Этот метод так называемого эволюционного алгоритма является всего лишь одним из способов ведения разработки программ искусственного интеллекта.

В последнее время описанный выше примитивный вариант развития искусственного интеллекта был усовершенствован до такой степени, что машины обучаются выполнять очень сложные операции — например, распознавать человеческие лица, или управлять беспилотным автомобилем. В литературе можно найти множество прогнозов в отношении того, что эти новоприобретённые способности будут означать для человеческой жизни и занятости в будущем. Однако один из аспектов искусственного интеллекта, который для наших целей важнее всех остальных, заключается в том, что, как только программа начинает свой процесс обучения, ей уже не требуется никаких дополнительных инструкций от человека. В принципе, когда используются сложные программы, люди почти наверняка не будут знать, что сделала машина. Программа становится, по сути, «чёрным ящиком». Этот аспект искусственного интеллекта дал начало области исследований, которую мы можем назвать компьютерной психологией — в этом случае люди пытаются понять, каким путём машина пришла к представленному ею конечному результату.

Отделение процесса модификации алгоритма от контроля и понимания его человеком как раз и является источником концепции искусственной жизни. Эта утрата контроля порождает также мрачные видения будущего под управлением компьютеров, где компьютеры обычно предстают в виде роботов. Именно это является поводом для размышлений об упомянутой выше технологической сингулярности, о том моменте, когда компьютеры становятся такими же «разумными», как и люди, и приобретают способность самосовершенствоваться без контроля со стороны человека.

Однако отбросьте шумиху — и окажется, что опасения по поводу технологической сингулярности вращаются вокруг допущения о том, что существует нечто под названием разум, и что машины, как только овладеют им в достаточной степени, станут механическими версиями человеческих существ. Это, в свою очередь, проистекает из другого (обычно подразумеваемого негласно) предположения: человеческий мозг — это не что иное, как особо совершенный компьютер. Аргументами за и против этого утверждения наполнено множество книг и множество страниц научных журналов. Например, в своей книге «Новый ум короля» физик-теоретик Оксфордского университета Роджер Пенроуз погружается в абстракции современной математики, чтобы доказать, что человеческий мозг способен выполнять операции, которые даже в принципе не могут быть выполнены компьютером.

Таким образом, мы можем вкратце охарактеризовать различия между человеческим мозгом и компьютером (далее мы обсудим это более подробно):

Мозг очень хорошо справляется с такими задачами, как выявление закономерностей и оценка контекста произносимых слов — это задачи, которые нелегко даются компьютерам. С другой стороны, где-то есть такой компьютер, который знает всех людей, которые завтра полетят самолётами United Airlines, чего не смог бы сделать ни один человек. Мозг и компьютер хорошо справляются с решением разных задач. В результате вместе они образуют хорошую команду.

Основным рабочим компонентом мозга является нейрон, а у компьютера основным рабочим компонентом является транзистор. Типичный нейрон получает сигналы от других нейронов и с помощью процесса, который мы не особенно хорошо понимаем, решает, посылать ли сигнал другим нейронам. Чтобы сделать всё это и вернуться в исходное состояние для дальнейшей работы, нейрону требуется примерно одна миллисекунда. Современные транзисторы включаются и выключаются не менее чем в миллион раз быстрее. Хотя обе этих величины могут показаться невероятно быстрыми по человеческим меркам, вот небольшое сравнение, чтобы дать понять наглядно, насколько они отличаются друг от друга: предположим, что человек А (который символизирует транзистор) может выполнить данное ему задание за день. Предположим, что человек Б (символизирующий нейрон) тоже может выполнить это задание, однако это займёт в миллион раз больше времени. Если бы человек А приступил к выполнению задания 24 часа назад, то когда человек Б должен был бы начать работу, чтобы они могли закончить её в одно и то же время? Ответ: в 770 году до н.э., за несколько веков до того, как афинские греки составили свод законов логики.

Наконец, мы отмечаем, что эндокринная система человека способна наполнять мозг химическими веществами, которые оказывают значительное влияние на его функционирование. Например, представьте себе попытку сдать трудный экзамен сразу же после расставания со своим женихом или невестой. (Как профессора старой школы, мы оба можем засвидетельствовать, что такого рода вещи случаются чаще, чем вы думаете.) Таким образом, хотя и мозг, и компьютер обладают системами, которые приводятся в действие посредством электричества, только у мозга есть ещё и химический контроль.

Короче говоря, мы не можем относиться к компьютеру, который существует в наши дни, так же, как мы относимся к мозгу. Просто эти две системы слишком разные. Это не значит, что мы считаем, что никто и никогда не сможет создать компьютер, достаточно сложный, чтобы его можно было считать живым и сознательным. Это далеко не так. Просто если бы был создан такой компьютер, он был бы не просто примером Человечества версии 2.0, но обладал бы иным типом разума по сравнению с нами. Хотя мы даже представить себе не можем, как может выглядеть этот разум, мы с большой радостью присоединяемся к группе писателей-фантастов, которые изображают роботов и компьютеры будущего лишёнными человеческих эмоций. Этот вывод, видимо, вытекает из отсутствия компьютеризированного эквивалента эндокринной системы, что либо останется особенностью машин передовой конструкции, либо не останется.

Будет ли развитие «мыслящих» компьютеров обязательно означать конец человечества? Это, безусловно, самый распространённый из всех сценариев в жанре антиутопии. Многие из них предполагают, что где-то на этом пути технически совершенные компьютеры достигнут состояния технологической сингулярности, приобретя разум и научившись улучшать свою собственную конструкцию. Эти изменения, как мы уже говорили выше, могут быть незаметными для людей, следящих за машинами. С этого момента, говорится далее, машины будут совершенствоваться с головокружительной скоростью, быстро выходя из-под контроля человека, что станет началом катастрофы для их создателей. Мы можем назвать это «сценарием ученика чародея».

Наш любимый «сценарий ученика чародея» был сформулирован философом Оксфордского университета Ником Бустрёмом и известен под названием «вселенная скрепок». Создана машина с искусственным разумом, в функцию которой входит брать материалы из окружающей среды и превращать их в канцелярские скрепки. Он совершенствуется до такой степени, что выходит из-под контроля человека и в итоге превращает всю вселенную, в том числе людей, которые его создали, в скрепки. Важно понимать, что в этом сценарии со стороны ИИ не проявляется никаких эмоций. У машины нет к вам ненависти: просто вы сделаны из атомов, которые нужно превратить в скрепки.