Новые темные века - Джеймс Брайдл

значительно сложнее воспламенить, его запасы на Земле не идут ни в какое сравнение со скудными запасами трития. В 2014 году Tri Alpha объявила, что добилась реакции продолжительностью до пяти миллисекунд, а в 2015 году заявила, что эти реакции могут быть устойчивыми.

Следующая задача – улучшить полученные результаты, что все труднее сделать по мере увеличения температуры и мощности. В начале каждого эксперимента можно установить несколько контрольных и входных параметров, таких как сила магнита и давление газа, но реакция может отклониться от заданных установок: по ходу эксперимента условия внутри корпуса реактора меняются, и требуется постоянная моментальная перенастройка. Это означает, что проблема точной настройки является одновременно нелинейной и сопряженной – колебание одной переменной может привести к неожиданным результатам или изменить влияние других входных данных. Нельзя решить проблему простым перебором переменных и изучением возможных изменений в случае колебания каждой из них. Скорее существует многомерный ландшафт возможных условий, который необходимо изучить путем непрерывного исследования.

На первый взгляд, ситуация похожа на идеальные условия для используемого в фармакологии метода перебора возможных вариантов: поочередно рассматривая переменные из огромного набора настроек и отмечая пики и спады результатов экспериментов, алгоритмы постепенно выстраивают сложную карту «местности».

К сожалению, простым перебором поставленную задачу не решить. Проблема усложняется тем фактом, что для плазмы не существует критериев качества, то есть нет простого показателя, который дает алгоритму понять, какие из результатов экспериментального тестирования считать лучшими. Чтобы ранжировать успешность разных вариантов, требуется более разностороннее человеческое суждение о процессе. Более того, масштабы неполадок, смоделированных в чашке Петри, ограниченны, а внутри термоядерного реактора, где мегаватты энергии перегревают сжатые газы до миллиардов градусов, остро стоит вопрос о возможном повреждении дорогостоящего и уникального оборудования, а границы безопасной эксплуатации до конца не изучены. Чтобы чрезмерно усердный алгоритм не предложил набор входных данных, которые могут вывести машину из строя, нужен контроль со стороны человека.

В ответ на эту проблему Tri Alpha и специалисты по машинному обучению из Google придумали так называемый «алгоритм оптометриста», или «алгоритм подбора очков»(27). Алгоритм действует по тому же принципу выбора «либо-либо», представленного пациенту во время проверки зрения: что лучше – вариант один или вариант два? В проведенных Tri Alpha экспериментах тысячи возможных настроек сократили до тридцати или около того мета-параметров, которые легче понять человеку. Во время экспериментальных прогонов каждые восемь минут происходит выстрел плазмы, после которого алгоритм немного меняет настройки и делает очередной запуск. Оператор-человек сравнивает новые результаты с результатами лучшего из предыдущих выстрелов и решает, какой из них взять за основу для последующих испытаний. Таким образом, алгоритм оптометриста сочетает в себе человеческие знания и интуицию со способностью ориентироваться в многомерном пространстве решений.

Алгоритм был впервые применен Tri Alpha в эксперименте по увеличению стабильности плазмы и, следовательно, продолжительности реакции. Исследуя пространство возможных параметров, оператор-человек заметил, что в некоторых экспериментах полная энергия плазмы на короткое время внезапно увеличивалась. Эта аномалия не учитывалась автоматизированным алгоритмом, но могла бы повысить устойчивость реакции, поэтому оператор изменил настройки, чем смог продлить эксперимент и увеличить его общую энергию. Введение незапланированных параметров заложило основу совершенно нового типа испытаний, при которых лучше учитывалась непредсказуемость научных исследований.

Проводя новые эксперименты, исследователи осознали двойные преимущества сочетания человеческого и машинного интеллекта: ученые преуспели в том, чтобы интуитивно выбирать лучшие из сложных результатов, а машина подталкивала их к исследованию большего диапазона возможных входных данных, даже самых экстремальных, которые люди обычно склонны игнорировать. В конечном счете подход оптометриста к случайной выборке в сочетании с интерпретацией, выполненной человеком, может быть применен в науке к широкому кругу проблем, которые требуют понимания и оптимизации сложных систем.

Алгоритм оптометриста особенно интересен тем, что пытается примирить непрозрачность операции по решению сложных вычислительных задач с человеческими потребностями и желаниями. С одной стороны, эта проблема настолько изощренно сложна, что человеческий разум не может ее полностью постичь, но при этом компьютер способен целостно ее воспринимать и совершать все необходимые операции. С другой стороны, очевидна необходимость привнести в решение сложных проблем сугубо человеческое осознание их многозначности, непредсказуемости и парадоксальности. Это осознание само по себе парадоксально, потому что слишком часто превышает нашу способность сознательно его выразить.

Исследователи Tri Alpha называют свой подход «попыткой оптимизировать скрытую полезную модель, которую специалисты-люди, возможно, не смогут выразить явно». Они имеют в виду, что в сложности их проблемного пространства есть определенный порядок, но этот порядок превышает человеческие способности описать его. Многомерные пространства конструкции термоядерного реактора – и закодированные представления нейронных сетей, которые мы исследуем в следующей главе, – несомненно, существуют, только их невозможно визуализировать. Хотя эти технологии открывают возможность эффективной работы с такими неописуемыми системами, они также требуют от нас признания того, что эти системы вообще существуют – и не только в области фармакологических и физических наук, но и в вопросах морали и справедливости. Требуется четкое осмысление того, что значит постоянно жить среди сложных и взаимосвязанных систем в состоянии непреодолимого сомнения и неуверенности.

Признание неописуемого, иными словами, признание того, что способность человеческого разума к концептуализации имеет пределы, – один из аспектов новой Темной эры. Но не все проблемы в науке можно преодолеть даже с помощью вычислений, какими бы привлекательными они ни были. По мере усложнения решений все более сложных проблем мы рискуем упустить из виду еще более серьезные системные проблемы. Подобно тому, как ускоряющийся по закону Мура прогресс пустил развитие вычислений по определенному пути, предполагающему конкретную архитектуру и оборудование, так и выбор этих инструментов четко обуславливает не только то, как мы подойдем к проблемам, с которыми нам предстоит столкнуться, но и то, что мы о них подумаем.

Наше представление о мире формируется с помощью имеющихся в нашем распоряжении инструментов. Как сказали в 1994 году историки науки Альберт ван Хелден и Томас Ханкинс: «Поскольку инструменты определяют, что можно сделать, они также в некоторой степени определяют, о чем можно думать»(28). Эти инструменты включают в себя всю социально-политическую основу, поддерживающую научные исследования: от государственного финансирования, академических институтов и журналистики до создания технологий и программного обеспечения, обеспечивающих беспрецедентную экономическую мощь и эксклюзивные знания Кремниевой долины и связанных с ней компаний. Имеет место и более глубокое когнитивное давление: вера в единственно верный, незыблемый ответ, который дают бесстрастные машины, независимо от участия человека. По мере того, как наука становится все более технологизированной, то же самое происходит во всех сферах человеческой мысли и деятельности, постепенно раскрывая степень неизвестного и недоступного человеку, даже если