Новые темные века - Джеймс Брайдл

работу, а люди наслаждаются посильным трудом. В самой грубой формулировке такое благоденствие достигается за счет применения в технологической среде наиболее левых лозунгов: национализации, особого налогообложения, становления классового сознания и социального равенства(46).

К сожалению, такая позиция не учитывает того, что сложность современных технологий сама по себе выступает движущей силой неравенства и что логика, управляющая технологическим развертыванием, может, по сути, быть неправильной. По мере развития технологий власть сосредотачивается в руках все меньшего числа людей – они всем владеют и все контролируют. В то же время власть имущие не осознают фундаментальную проблему вычислительных знаний, а именно, что поиск единственно верного технологического решения зависит от прометеевского извлечения информации из мира. В результате колоссальные инвестиции в вычислительные процессы, обработку данных, товаров и людей приводят к тому, что эффективность затмевает любые другие цели. Этот феномен социолог Дебора Коуэн назвала «тиранией техники»(47).

У титана Прометея был брат Эпиметей. В греческой мифологии Эпиметей наделял уникальными качествами всех существ. Именно он дал газели скорость, а чтобы уравновесить шансы, придал силы льву(48). Но забывчивый Эпиметей растерял положительные качества к тому моменту, когда добрался до людей, и Прометею оставалось только украсть огонь и искусство у богов, чтобы дать людям хотя бы что-то для выживания. Эти человеческие сила и мастерство, или искусство – от греческого tekhnē, однокоренного со словом «технология», – оказались результатом двойной ошибки: рассеянности и воровства. Неудивительно, что люди склонны к войнам и политическим раздорам. По легенде, боги в лице Гермеса попытались исправить эту пагубную тягу к конфликтам, в равной степени наделив людей социополитической добродетелью – уважительным и справедливым отношением к другим.

Эпиметей своей забывчивостью ставит человечество в положение, в котором люди должны постоянно бороться и превозмогать себя, чтобы выжить. Прометей своим даром обеспечивает их инструментом. Однако только сочетая эти два подхода с социальной справедливостью, можно добиться всеобщего прогресса.

В имени Эпиметея соединились греческие слова mathisi — «обучение» и epi — «постфактум, задним числом». Ретроспектива, взгляд в прошлое – это особый результат забывчивости, ошибок и глупости. Таким образом, Эпиметей – бог больших данных, которые, как мы видели в предыдущей главе, стираются и вычеркиваются, а также чрезмерной самоуверенности. Ошибка Эпиметея – первородный грех больших данных, поражающий их в самом источнике.

Прометей – pro-metheus — это предвидение, но предвидение без столь необходимой мудрости. Это пустое предчувствие. Это жар научных и технологических открытий, стремление сделать рывок в будущее, безоглядное движение вперед. Это добыча ресурсов, ископаемые виды топлива, подводные кабели, обширные серверные, воздушные кондиционеры, доставка по требованию, гигантские роботы и прессованное мясо. Это масштабирование и подчинение; оттеснение тьмы и расширение границ видимого без особых размышлений о том, что находится за доступными нам пределами и что будет с теми, кто уже живет по ту сторону или кого раздавят по пути. Иллюзия знания и ожидание мастерства объединяются, чтобы стать двигателями прогресса, только двигаясь вперед, мы забываем, что у нас нет подлинного понимания главного: мы находимся на нулевой отметке темного настоящего, в которой ничего не видим и не понимаем, и нам остается только двигаться и наращивать эффективность. Все, что нам осталось, – ускорять существующий порядок.

Таким образом, из всех олимпийских богов именно Гермес должен стать нашим проводником в новые Темные века. Гермес мыслит самостоятельно и не зависит от полученных видений или огненных знамений. Кому, как не Гермесу, богу словесности, знать, насколько все, сформулированное словами языка, двусмысленно и неопределенно. Герменевтика и свойственный ей герменевтический подход могут помочь разобраться с технологическими проблемами, указать на то, что реальность далеко не так проста и за любым смыслом стоит еще более глубокий смысл, следовательно, нет единственно верного, бесспорного решения. Ответов множество, потенциально – бесконечно много. Мы сталкиваемся с герменевтической коммуникацией, когда созданные нами алгоритмы не справляются с идеальными ситуациями; когда, несмотря на имеющиеся у них объемы данных, интеллектуальные системы не могут адекватно воспринимать реальность; когда зыбкая, постоянно меняющаяся человеческая природа не вписывается в ряды данных. Технология, восходящая к Прометею и Эпиметею, отражает реальный, а не идеальный мир. Когда она дает сбой, мы начинаем ясно мыслить; когда она уходит в облака, мы ощущаем обволакивающий все туман. Технологии, хотя и кажутся непостижимыми и непрозрачными, не усложняют, а проясняют картину мира, показывая его таким, какой он есть. Надо не бороться со сложностью, а извлечь из нее урок.

Глава 6

Познание

Начнем с рассказа о том, как машины учатся. Допустим, вооруженные силы США хотят узнать, что скрывает их неприятель. Может, лес полон вражеских танков – защитный окрас делает их неразличимыми среди деревьев и кустов. Из-за тысячелетней эволюции зрительной коры головного мозга игра света и тени, странные зеленые и коричневые разводы превращают четкие контуры танков в непонятную мешанину, не отличимую от окружающей растительности. Это заговор против мозга, но что, если можно было видеть по-другому? Скажем, развить у себя иное зрение, способное воспринимать танки и деревья настолько по-разному, что ранее почти незаметное сразу бросалось бы в глаза?

Одним из решений будет научить машину видеть танки. Для этого вы отдаете приказ взводу солдат спрятать в лесу десяток танков и сделать, скажем, сотню фотографий общего плана. А после – сотню фотографий пустого леса. Затем по пятьдесят фотографий из каждой фотосессии нужно «скормить» нейронной Сети, программе, которая имитирует человеческий мозг, но ничего не знает ни о танках, ни о лесах. Перед нейросетью стоит задача выяснить, чем первый набор фотографий принципиально отличается от второго. Программа пропускает поступающие изображения через несколько уровней нейронов, производя оценку и корректировку. Ей не мешают глубоко заложенные эволюционные механизмы, и через непродолжительное время она учится видеть спрятанные в лесу танки.

Поскольку изначально фотографий было сто, а не пятьдесят, можно использовать оставшиеся, чтобы проверить, действительно ли нейросеть научилась видеть невидимое. Вы загружаете в программу изображения, которые раньше ей не показывали, и просите определить, на каких из них присутствуют танки. Она превосходно справляется с заданием. Вы не видите на картинке танков, но знаете правильные ответы, потому что сами брали фотографии из первой или второй папки, а машина, хотя и не видит танков, никогда не ошибается. Поздравляю! У вас появился новый способ зрения, и чтобы его продемонстрировать, машина отправляется на тренировочную площадку.

Тут происходит ужасное. Действуя на месте, в лесу, где спрятали другую группу танков, программа оказывается совершенно бесполезна. Она выдает случайные результаты, и с тем же успехом можно было различать спрятанные танки, подбрасывая монетку. Что