Шестое вымирание. XXI век катастроф - Игорь Осовин

Второй момент, на который обратила внимание своих читателей «Российская газета», – рассказ Гейтса о проекте «Персональный агент», над которым он сейчас работает. Вторая цитата: «“Он будет помнить всё и поможет вам вернуться и найти что-либо, поможет выбрать вещи, на которые нужно обратить внимание”, – рассказал глава Microsoft. Проект будет кроссплатформенным и появится в голосовом помощнике Cortana». Этим и завершалась публикация в «РГ».

Примечательный отбор новостей, цитат и примечательный финал статьи! Почему Гейтс считает, что искусственный интеллект может быть опасным для человечества, в чём эта опасность может заключаться – об этом более ничего в статье «Российской газеты» не говорилось. Зато читателей проинформировали об очередной затее Гейтса, предназначенной для идиотов – программном продукте под названием «Персональный агент», который будет за вас помнить всё, что вы забыли и помогать найти то, что вы потеряли.

Причём сложно отделаться от впечатления, что мы имеем дело в определённого рода информационной кампанией. Ведь примерно в одно и то же время опасностью искусственного интеллекта поспешили поделиться с общественностью не только Билл Гейтс, но также основатель частной космической компании «SpaceX» и автомобильного проекта «Tesla» Илон Маск, а также всемирно известный британский физик-теоретик Стивен Хокинг.

2 декабря 2014 года Стивен Хокинг дал интервью телекомпании «BBC». В публикации русской службы «BBC» («Хокинг: искусственный интеллект – угроза человечеству») он откровенно сказал, что появление полноценного искусственного интеллекта может стать концом человеческой расы. Опасность, по мнению Хокинга, заключается не в искусственном интеллекте как таковом, вовсе нет. Более того, примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но, по мнению Хокинга, человечество вполне может создать что-то такое, что намного превзойдёт своего создателя: «Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем». То, что говорил Хокинг – явно не ново. Тревожные сценарии такого варианта развития событий многократно рассматривались с мировой литературе и мировом кинематографе XX и начала XXI века. Обсуждалась эта тема и в научном сообществе.

Конечно, с таким прогнозом согласны далеко не все учёные. К примеру, создатель веб-приложения «Cleverbot» Ролло Карпентер, мнение которого также приводится на русскоязычном сайте «BBC», уверен в том, что люди останутся хозяевами создаваемых ими технологий ещё очень и очень долгое время, а эти самые новые технологии помогут человечеству разрешить многие мировые проблемы. Карпентер придерживается той точки зрения, что искусственный интеллект всё же в стратегическом плане окажется позитивной силой, опасаться его, во всяком случае, пока, нет никаких резонов. Говоря об устройствах с искусственным интеллектом, Карпентер заметил следующее: «Мы не можем с уверенностью сказать, что произойдёт, когда машины превзойдут нас интеллектом. Следовательно, мы не можем предсказать, и как они поведут себя: станут ли они нам помогать, нас игнорировать или же рано или поздно нас уничтожат».

Угрозу искусственного интеллекта Илон Маск разбивает как бы на два этапа. На первом этапе, полагает создатель космической компании «SpaceX», машины, обученные выполнять грязную и тяжёлую физическую работу, запросто могут лишить миллионы людей рабочих мест. Это – так сказать, краткосрочная перспектива. А вот в более отдалённом будущем, полагает Маск, машины могут стать основной угрозой существованию людей как вида живых существ.

Разброс мнений, как мы видим, достаточно широк, но у меня, повторюсь, есть опасение, что практически одномоментные заявления на тему опасности искусственного интеллекта столь широко известных персонажей, как Хокинг, Гейтс, Маск, Карпентер и в самом деле создаёт впечатление начала широкомасштабной кампании по изменению общественного мнения. В самом деле, в строгом соответствии с технологиями «окна Овертона» эти первые информационные всполохи через весьма непродолжительное время вполне могут завершиться тем, что правительства ведущих стран, идя навстречу пожеланиям избирателей и широких народных масс, запретят (или, как минимум, на время приостановят) все опыты по созданию искусственного интеллекта. На официальном, конечно же, уровне. Однако неофициально, в закрытых правительственных и частных лабораториях, такие работы будут, разумеется, продолжены. Только все эти «широкие народные массы» знать об этом ничего не будут. А когда узнают, то, возможно, особой радости им это уже не принесёт.

Впрочем, и это ещё не всё: человечеству угрожает не только искусственный интеллект и «восстание машин». Одной из научно-технических отраслей, которая начала бурными темпами развиваться в последние годы, и опасность которой уже разглядели некоторые особо пытливые наблюдатели – пресловутые нанотехнологии.

Оптимистичные поначалу перспективы слияния человечества с невидимыми нанороботами с целью создания разумной и гармоничной окружающей среды, как мы видим, также постепенно сходят на нет. Они уступают место опасениям относительно того, что развитие науки в этом направлении даже на ранней стадии (в течение первых 5—10 лет, то есть в пределах 2010–2020 годов) вполне может привести к уничтожению сложившихся форм биологической жизни на нашей планете.

Например, в книге Вадима Панина «2012 год» приводится такой тревожный факт. В объединение «SVTC» («Silicon Valley Toxics Coalition»), расположенное в Силиконовой долине в Калифорнии, входят более 100 компаний, которые занимаются исследованиями в области нанотехнологий. В начале апреля 2008 года «SVTC» опубликовало отчёт, в котором собраны все факты наблюдений за последствиями проникновения и перемещения нанотрубок внутри живых клеток: «Использование новых технологий в Силиконовой долине и за её пределами» («Regulating Emerging Technologies in Silicon Valley and Beyond»).

ДОСЬЕ

Нанотрубка – базовая (каркасная) молекула, которая представляет собой полый цилиндр, образованный свёрнутым листом толщиной всего в один атом углерода.

Нанотрубки, как считается, представляют собой уникальнейшее сырьё для развития технологий будущего. Новые материалы, разработанные на их основе, обладают невиданным запасом прочности: они не плавятся при температуре до 3500 градусов по Цельсию, не деформируются при давлении в 6000 атмосфер, а при испытании на разрыв оказываются крепче высокоуглеродистой стали в 60 раз.

Широкое практическое применение таких нанотрубок сегодня ограничивается, по сути, только их высокой себестоимостью – порядка 5–6 евро за один грамм. Впрочем, снижение их себестоимости – вопрос времени.

В упомянутом выше отчёте «SVTC» как раз и было рассказано об опытах по взаимодействию нанотрубок с живыми организмами. В ходе одного из экспериментов учёные ввели нанотрубки в образцы клеток человеческого организма, с тем чтобы проверить их на предмет жизнеспособности. Опыт удался! В ходе его реализации выяснилось, что первой реакцией клеток живого организма было сопротивление инородному вторжению: они пытались поглощать нанотрубки лизосомами, которые как раз и отвечают за выведение инородных частиц из живого организма.