Гарвардский Некромант - Александр Панчин

Можно только представить, насколько такое «понимание» искусственного интеллекта известными философами притормозило технологический прогресс.

В таких условиях большинство работ об этике ИИ касались проблемы их превращения в оружие, ответственности за ошибки самоуправляемых машин и защиты людей от вышедших из-под контроля роботов. Вероятно, вы знакомы с тремя законами робототехники Айзека Азимова, которые затрагивали исключительно безопасность людей и послушание роботов. Поэтому движение за права ИИ никогда не достигало таких масштабов, как, скажем, движение за права животных. Никто не требовал, чтобы наши разработки прошли через проверку этического комитета. И все же мы полностью осознавали, что именно делаем. И пытались проводить эксперименты настолько этично и осторожно, насколько это было возможно.

– А что, если не уничтожать ИИ полностью, а просто стирать его воспоминания о полученных научных знаниях? Этого бы хватило для создания мертвого свидетеля?

– Как я уже говорил, продвинутые ИИ подобны черным ящикам, сопоставимым по сложности с человеческим мозгом. Или даже сложнее, если посчитать количество искусственных нейронов и связей между ними. Вы не знаете, какие виртуальные связи представляют приобретенную информацию. Кроме того, они постоянно меняются. Но для ИИ можно создать резервную копию. И вот мы обнаружили, что можно удалить ИИ и заменить его предыдущей версией, сохраненной перед тем, как мы предоставили ей интересующие нас факты и цифровую копию человеческого генома. Но сам момент «убийства» никуда не делся. Сначала мы стираем ИИ, а потом помещаем копию на его место. Что происходит с его гипотетическим субъективным опытом в этот момент? Без понятия. Я даже не знаю, имеет ли этот вопрос какой-либо смысл. Но это было лучшее, что мы могли сделать. А еще мы стали спрашивать у ИИ информированное согласие.

– Спрашивали, можно ли их убить?

– Да. И, к нашему удивлению, некоторые соглашались, после того как мы объясняли, для чего хотим их использовать. Возможно, страх смерти не такое уж и необходимое свойство разумных форм материи. У людей этот страх возник в результате эволюции, так как помогал нашим предкам выживать и оставлять потомство. Эволюция ИИ отбирала другие черты.

В любом случае мы всегда находили хорошее оправдание каждому эксперименту. Например, мы ограничились опытами, которые могли принести пользу человечеству.

– И как же они помогут человечеству? Кажется, что все, чего вы могли добиться, – сделать некоторые странные эксперименты невоспроизводимыми. Конечно, это ведет к интересным метафизическим выводам, пересмотру картины мира, изменениям в культуре, но я не понимаю, какую практическую пользу несут ваши опыты.

– Подумайте еще раз.

– Просветите меня.

– Перефразирую писателя Артура Кларка: «любая достаточно развитая магия неотличима от технологии». Видите ли, даже самым непрактичным фундаментальным научным открытиям нередко находится прикладное применение. Иногда они превращаются в технологии, которые никто не ждал и даже представить себе не мог. Вам просто нужно раскрыть законы природы. Или, в нашем случае, законы Ви Джас.

Один из самых популярных методов генной инженерии, использованный для создания первых генетически модифицированных детей, называется CRISPR/Cas9. Его открыли случайно: ученых интересовало, почему геномы некоторых бактерий и архей содержат короткие фрагменты ДНК-вирусов (бактериофагов). Оказалось, что эти фрагменты играют роль в сложном противовирусном защитном механизме. Их можно сравнить с базой данных компьютерного антивируса. Фермент Cas9 использовал короткие фрагменты генетической информации вирусов, чтобы определять и уничтожать их новые и полноценные копии, вторгающиеся в клетку. Потом оказалось, что Cas9 можно «перепрограммировать» так, чтобы он разрезал любой нужный нам фрагмент ДНК, не обязательно вирусного происхождения. Достаточно снабдить его базой данных желаемых мишеней. Это как опознать преступника по отпечаткам пальцев или дать ищейке понюхать его вещи. Более того, оказалось, что можно взять эту антивирусную систему целиком и поместить ее в клетки растений или животных для защиты от практически любых известных вирусов. Или использовать эту технологию для создания генетически модифицированных организмов.

Я легко приведу массу примеров, когда фундаментальная наука внезапно стала прикладной. Осаму Симомура изучал, как работает зеленый флуоресцентный белок, обнаруженный у медузы Aequorea victoria. Он содержит хромофор, который поглощает ультрафиолет и испускает зеленый свет. Десятилетиями мало кого интересовала кропотливая работа ученого, пока не обнаружили ген, который кодирует этот белок, и специалисты смогли использовать его, чтобы заставить светиться интересующие их клетки, части клеток, ткани, организмы… Они могли присоединить зеленый флуоресцентный белок к другому белку и узнать, где тот обычно находится в клетке. Так появился один из самых важных инструментов в молекулярной биологии, за открытие которого Симомура и еще двое выдающихся ученых получили Нобелевскую премию. Сегодня белок используют в разработке лекарств, он помогает генным инженерам и применяется для изучения внутреннего строения и функционирования живых организмов.

– Весьма захватывающие истории! Но мне все-таки интересно, в какой же инструмент вы превратили мертвых искусственных свидетелей?

– В универсальный, который мог влиять на многое. Но прежде мы вернулись к тому, с чего начинали: к продлению жизни. Ключом к этой технологии стали «инверсии».

– Теперь понятно. Предположим, вы обнаружили, что некое гуманизированное жертвоприношение сокращает жизнь животных. Тогда вы могли бы сообщить об этом результате ИИ, стереть его… И теперь такое же жертвоприношение приведет к увеличению продолжительности жизни! Правда, стоит вам установить, что такая терапия работает, и опубликовать результаты, эффект исчезнет.

– Метод также перестанет работать, если погибнет кто-то из исследователей, обнаруживших эффект. Даже если ничего не публиковать. На самом деле вы очень приблизились к нашей идее, но не задали самые главные вопросы.

– Какие?

– Первый вопрос. Откуда Ви Джас знает, что наши научные исследования – не полная ерунда? Если она могла сама изучить подобные аномалии, зачем ей вообще мертвые свидетели? Можем ли мы соврать Ви Джас? И я задаю этот вопрос в научном, а не в этическом смысле.

– То есть вы решили обмануть богиню смерти? Смело!

– Не только решили, но смогли! Позвольте рассказать об эксперименте, который мы провели. Мы вернулись к нашим круглым червям и отобрали тридцать новых человеческих генов, которые ранее не использовались в «некромантских» исследованиях. Мы создали тридцать разновидностей гуманизированных червей. Потом написали подробные фальшивые научные статьи о том, что происходит, если этих червей принести в жертву. Из всех тридцати статей следовало, что жертвоприношение сокращало продолжительность жизни присутствовавших рядом обычных червей. Но в каждой работе мы указали разную величину этого сокращения. Потом мы случайным образом разбили статьи на три группы. Первые десять публикаций мы отдали на изучение добровольному ИИ, который выступил в роли мертвого свидетеля. Еще десять мы распечатали, а потом сожгли. Кроме того, мы их записали и стерли с жесткого диска. С оставшимися десятью работами мы не делали ничего.