«Если», 2016 № 03 - Журнал «Если»

Все больше и больше, до бесконечности[4].

«Дети разума» («Mind children») — книга специалиста в области робототехники и футуролога Ганса Моравека, описывающая возможности развития искусственного интеллекта и эволюцию роботов.

Какие новые угрозы, реальные или воображаемые, могут появиться под влиянием этих технологий?

В очень коротком горизонте (даже сейчас!) противоестественный союз сетей и Интернета вещей способен привести к масштабным физическим катастрофам. Что касается более долгосрочного периода, Ник Бостром провел превосходный анализ правдоподобных угроз существованию человечества со стороны чисто машинного искусственного интеллекта.

Ник Востром — профессор Оксфордского университета, основатель Института будущего человечества, изучающего влияние технологий на возможность будущей глобальной катастрофы. Книга «Искусственный интеллект. Этапы. Угрозы. Стратегии», посвященная будущему человечества и разумной жизни, опубликована в 2014 году.

Каким станет мир после «революции безлюдных технологий»? Как изменится под ее влиянием человечество?

Если нам удастся миновать физическую катастрофу (или мировую войну), я думаю, мир будет во многом похож на мой роман «Конец радуг», но с непрекращающимися разрушительными изменениями от растущей эффективности автоматики. Одним из важнейших приоритетов человечества станет управление плавным развитием этого процесса (недопущение войн, решение проблем вездесущей безработицы, растущей под влиянием технологий, установка доброкачественной этики в грядущие суперсознания).

_____

© Артем Косгюкевич, илл., 2016

Ник Востром. Экзистенциальные риски: анализ сценариев исчезновения человечества

Категории классификации экзистенциальных рисков:

• Взрыв — разумная жизнь земного происхождения исчезает вследствие относительно внезапной катастрофы, связанной или со случайностью, или с намеренным актом уничтожения.

• Хруст — потенциал развития человечества в постчеловечество перманентно потерян, хотя его существование в той или иной форме продолжается.

 Визг — достигнута некая форма постчеловечества, но в чрезвычайно узкой форме, чем было бы желательно и возможно.

• Хныканье — постчеловеческая цивилизация возникает, но развивается в направлении, которое постепенно, но необратимо ведет или к полному исчезновению вещей, которые мы ценим, или к состоянию, когда эти вещи доступны лишь в минимальной степени.

_____

Что произойдете миром, если ИскИны станут частью распределенного мышления человечества? Возможно ли это? К чему это приведет нас? И будем ли мы этому рады?

Я полагаю, появление Усиления интеллекта и Коллективного сознания очень возможным. Что касается облика нового мира, то описать его гораздо сложнее, чем предсказывать будущее. Описание изменения мира под влиянием сверхчеловеческого интеллекта — это как шимпанзе будет пытаться разобраться в развитии современной цивилизации. Вот поэтому я считаю, что термин «Сингулярность» хорошо описывает подобный переход: представить себе новый мир — все равно что пытаться познать изнанку черной дыры!

Одни сценарии кажутся явно опасными, другие могут оказаться, скорее, удивительными. Например, много людей, размышляющих о суперинтеллекте, считают, что одиночный сверхразум с высокой вероятностью окажется куда более опасным по сравнению с несколькими независимыми сверхразумами. Короче говоря, сверхразуму-синглету нет необходимости учиться взаимодействию с прочими людьми.

Какие книги, по вашему мнению, надо читать, чтобы лучше понимать наступающее светлое (или темное) будущее?

Поскольку мы точно не знаем, что может произойти, я полагаю, размышлению о будущем очень поможет чтение разнообразной твердой научной фантастики — и обдумывание выводов из прочитанного. Превосходных писателей подобного жанра много: Чарльз Стросс, Дэвид Брин, Карл Шредер, Ханну Райаниеми…

«Конец радуг» — роман Вернора Винджа, действие которого происходит в ближайшем будущем. Написан в 2006 году. В 2007 году стал лауреатом премий «Хьюго» и «Локус».

Синглетон (singleton) — в математике, множество с единственным элементом. В романе Вернора Винджа «Пламя над бездной» так назывались отдельные элементы разумных стай (в русском переводе «синглеты»).

В каком произведении из области научной фантастики, на ваш взгляд, мы сегодня живем?

Не знаю. Но очевидные тренды указывают на сюжеты, подобные «Концу радуг».

Иннокентий Андреев

ГОРДОСТЬ, ПРЕДУБЕЖДЕНИЕ

И РОБОТЫ

© Tzratzk. илл., 2016

/аналитика

/сценарии

/роботы

/искусственный интеллект

Каждая новость об очередной победе робототехники и искусственного интеллекта разносится по новостным агентствам и социальным сетям с огромным энтузиазмом. Но так ли он обоснован?

Последним громким успехом искусственного интеллекта стала победа программы Alpha Go над сильнейшим игроком в го Ли Седолем. Не менее известны достижения компании Boston Dynamics, продемонстрировавшей вполне работоспособных четвероногих роботов BigDog, покоривших Интернет своими передвижениями по пересеченной поверхности. Австралийский изготовитель боевых роботов Marathon Robotics пошел по пути конверсии и выпустил автономных колесных роботов DRU (Domino’s Robotic Unit) по доставке пиццы, а в городе Феникс, штат Аризона, запустили первый полностью роботизированный Макдональдс. Прежде чем каждый из нас начнет представлять себя владельцем очаровательного электронного друга, подумаем над социальными последствиями таких инноваций.

Суть роботизации

Технологическое развитие в любой его форме уже много лет воспринимается как некое безусловное общее благо, выгоду от которого получает чуть ли не каждый житель Земли. Благодаря такому технооптимизму все относятся к роботам и искусственному интеллекту как к своего рода новым айфонам — «круто, модно и для каждого». А следовало бы относиться как к атомной бомбе. Это технологическое направление невероятной силы, гораздо более важно, чем любые гаджеты, но совершенно «не для всех». И именно с развитием робототехники мы подошли к той границе, когда системное воздействие технологического развития начинает работать не в пользу большинства.

Технологии роботизации не насыщают потребительский рынок товарами и не создают новые «общие блага». Развитие робототехники позволяет изменить существующие экономические отношения в обществе — и ставят под вопрос проистекающую из них политическую структуру. Создание продвинутых роботов и развитие искусственного интеллекта означает появление «функционально почти людей».

Роботы позволяют увеличить эффективность как производственного сектора, так и сектора услуг (в том числе и высококвалифицированной его составляющей) за счет сокращения расходов на оплату труда. То есть за счет сокращения рабочих мест и общего давления на уровень зарплат. Роботы, в первую очередь, не будут решать некие новые задачи — они будут решать вполне себе старые функции, выполняемые в настоящее время людьми.

Говоря чеканными марксистскими формулировками — благодаря роботам произойдет очередной цикл «замещения труда капиталом». На языке более мейнстримных экономистов — «технологическое замещение факторов производства». Технологическое замещение активно идет с начала промышленной революции, усиливаясь в