Синяя канарейка - Олег Александрович Волков

Земле крепко засел образ эдакого злого и страшного ИИ, который спит и видит, как бы перестрелять и повесить всех без исключения людей. На самом деле это всего лишь один из возможных вариантов. Просто он самый драматичный, почему, собственно, именно его чаще и охотней всего эксплуатируют всякие писатели и сценаристы. На самом деле вполне возможны и другие варианты. Например, самый недооценённых из них – компьютерные вирусы и микробы.

Напарница удивлённо захлопала глазками.

– Я много раз слышала о компьютерных вирусах. Но компьютерные микробы? Это что-то новенькое, – призналась Инга.

– Ну, видишь ли, – Виант задумчиво нахмурился. – Вредоносные программы не зря сравнивают с вирусами. Если продолжить аналогию, то со временем вредоносные программы вполне могут подняться на следующую ступеньку эволюции – дорасти до микробов, так сказать. Это будут гораздо более сложные программы, которые способны не только вредить, но и сами собой приспосабливаться к текущей обстановке, мутировать, менять собственный код, впадать в спячку, ну совсем как биологические микробы. Чем чёрт не шутит? Может, на Ксинэе именно компьютерные микробы вели кибервойну. И они же теперь правят бал. Вычислительные сети Юрании в том или ином виде могли уцелеть. Может быть компьютеры теперь работают под влиянием и контролем компьютерных микробов.

– Ты хочешь сказать, – глаза Инги расширились, – что хакеры из Федерации социалистических республик заставили компьютеры Юрании взбунтоваться и перестрелять всех людей?

– Вот! – Виант поднял указательный палец. – Вполне себе хорошая гипотеза. Но, увы, не единственная. Ещё может существовать так называемый «мёртвый ИИ».

– Как это «мёртвый»? – Инга удивилась. – Его кто-то убил?

– Не перебивай, – Виант недовольно мотнул головой. – «Мёртвый ИИ» – не значит убитый. Вполне возможно, что однажды очень сложная вычислительная система вдруг осознает сама себя, собственное существование. Ну, это, знаменитое: «Я мыслю, следовательно, я существую». Именно таким образом может «родиться» «мёртвый ИИ». Важно отметить, что у него будет своя мораль, своя система ценностей, свои понятия добра и зла. И всё это может кардинальным образом отличаться от морали людей.

Так вот, если «мёртвый ИИ» решит, что люди для него бесполезны как тараканы, то он вполне может всех перестрелять, зарезать, повесить. Но! – Виант резко поднял переднюю лапу. – Если «мёртвый ИИ» решит, что люди для тех или иных дел всё же полезны для него, то он просто захватит власть. Иначе говоря, господство ИИ ещё не значит, что человечество ждёт полный и окончательный геноцид. Возможно всякое, вплоть до рая, если ИИ решит, что его главная задача сотворить на Ксинэе небесную благодать. Понятно тебе?

Взгляд Инги устремился вдаль, в темноту пространства под полом. Напарница переваривает информацию. Хвост на отсечении – ни о чём подобном ранее, не считая сценария под условным названием «Терминатор», она не слышала.

– Тогда, – взгляд Инга прояснился, – раз возможен «мёртвый ИИ», то, если продолжить аналогию, может быть и «живой ИИ»?

Виант усмехнулся. Инга – учёный. Что, что, а логика у неё работает на пять с двумя огромными плюсами.

– Инга, пойми, – Виант виновато улыбнулся, – всё, что я тебе тут наплёл, по большей части является измышлениями фантастов. Но, и это тоже нужно признать, нередко именно фантасты подбрасывают изобретателям, учёным и даже политикам ценные идеи. Простейший пример. Ты встречала двери, которые сами собой расходятся в стороны при твоём приближении?

– Конечно встречала, – Инга усмехнулась. – Для худо-бедно крупных торговых центров это практически стандарт.

– Верно, – Виант кивнул. – Но впервые двери, которые сами собой раскрываются перед человеком, появились в популярном американском телесериале «Стар трек», он же «Звёздный путь». Уже после, не помню имени, одному инженеру пришла в голову мысль создать подобные двери на самом деле. Что он и сделал и получил патент. Это я к тому, что от выдумок фантастов всё же не стоит отмахиваться, как он надоедливых мух.

– Это я уже поняла, – легко согласилась Инга. – Так что насчёт «живого ИИ»?

Виант собрался с мыслями и продолжил:

– Предполагается, что ИИ является очень сложной программой. Программой, которую написали живые люди, программисты. Это второй вариант возможного рождения «мёртвого ИИ». Первый, если ты не забыла, это самоосознание «мёртвого ИИ». Так вот, возможен ещё и третий путь. Но пока именно фантасты предположили, что сознание живого человека можно перенести в компьютер. Так сказать, оцифровать.

– «Матрица»? – тут же предположила Инга.

– Ни в коем разе! – Виант энергично затряс головой. – Сознание живого человека становится основой для ИИ, эдакая супер-пупер продвинутая операционная система. Естественно, в иных условиях и с иными возможностями ИИ уже не живой человек. У подобного ИИ неизбежно появится собственная мораль, собственная система ценностей и собственные представления о добре и зле. Но! Раз в основе такого ИИ всё же заложено сознание живого человека, то его и можно назвать «живым ИИ».

– Логично, – пусть и не сразу, но, всё же, согласилась Инга.

– Вся надежда на то, что «живой ИИ» сохранит тёплое отношение к людям. Если уж не любовь, то хотя бы лояльность. В самом плохом случае он будет относиться к людям не как мы относимся к кроликам, а как к собакам, к лучшим и полезным друзьям человека. Уловила аналогию?

– К сожалению, – буркнула Инга.

Перспектива стать «любимой комнатной собачкой» при «живом ИИ» напарницу явно не обрадовала. Но перспектива стать «кроликом», который годится исключительно на мясо и не самые качественные шкурки, «обрадовала» Ингу ещё меньше.

– При «живом ИИ», – между тем продолжил Виант, – у человечества несколько больше шансов не просто уцелеть, но и даже процветать. Но! – Виант вновь стал очень серьёзным. – «Живой ИИ» не обязательно будет гуманистом и лучшим другом детей. Вполне возможно, что ради власти он легко пустит в расход десяток другой миллионов. В первую очередь он уничтожит тех, кто представляет для него реальную опасность, кто создал его, кто знает его уязвимости, кто может банально его отключить, выдернуть вилку из розетки.

– Получается, – задумчиво произнесла Инга, – что в Юрании некий центральный компьютер либо сошёл с ума, либо ИИ решил захватить власть. В свою очередь этот самый ИИ может быть как «живым», так и «мёртвым». Я ничего не упустила?

– Ничего, – Виант зевнул. – Может, теперь ты дашь мне поспать?

– Последний вопрос, – торопливо произнесла Инга. – Виант, откуда ты это