Новые темные века - Джеймс Брайдл

и объяснить, ей труднее противостоять и сложно от нее защищаться. Тревожит то, что в данном случае мы говорим не о научной фантастике, рисующей ужасающее будущее, где людей порабощают искусственные сверхинтеллекты и вездесущие роботы-рабочие. Нет, сейчас те же вычислительные механизмы берут над нами верх в гостиных, игровых комнатах, мы сами кладем их себе в карман. Эксплуатация происходит по обе стороны экрана. С одной стороны, есть те, кто в оцепенении и отупении смотрит видео; с другой – те, кто их создает, несмотря на плохую оплату и принуждение. А между двумя этими полюсами, наживаясь и на тех, и на других, расположились автоматизированные корпорации.

Все эти видеоролики, независимо от того, где, как и с какими намерениями они создаются, – порождение системы, основанной на получении прибыли от показа видео детям. Бессознательные и неожиданные последствия мы наблюдаем повсеместно.

Показывать такое детям – значит издеваться над ними. И это совсем не то же самое, что происходит с подростками, которые смотрят жестокие фильмы или играют в игры, где много насилия, – о влиянии такого контента, как и о воздействии порнографических и вопиющих образов на неокрепшие умы, еще можно поспорить. И хотя разговор о последнем очень важен, сейчас речь о другом. На кону благополучие малышей, буквально младенцев, на которых YouTube намеренно направляет весь свой арсенал травмирующих и пугающих видео, и из-за особенностей сетей делает это очень эффективно. И проблема не в злом умысле, а в сочетании денежных стимулов и заложенного в цифровые системы насилия.

Насилие возникает из самой системы, а YouTube и Google участвуют в ней. Они выстроили архитектуру, чтобы извлекать максимальный доход от показа видео, а некто – и их очень, очень много, – взламывает ее и оборачивает против детей. Намеренно оно или нет, масштабы насилия огромны. Полная ответственность за происходящее лежит на владельцах цифровых платформ, то же самое касается их вины в радикализации (в основном) молодых (в основном) мужчин из-за экстремистских видео любого политического толка. До последнего времени цифровые гиганты не проявили никакой заинтересованности в решении проблемы, и это отвратительно, хотя, к сожалению, не удивляет. На вопрос, как остановить порочную практику, не отключив сами сервисы, нет простого ответа.

Наступило очень темное время. Средства, которые мы создали, чтобы расширить возможности общения и каналы коммуникации, автоматически и системно используются против нас – всех нас. Как сохранить веру в Сеть, если она порождает подобные ужасы? Хотя есть соблазн списать самые дикие примеры видео на YouTube на троллинг, которым, безусловно, многие из них являются; нельзя не заметить, какая огромная доля контента тяготеет к этим нездоровым трендам. Решение проблемы неприемлемого контента таит в себе множество опасностей: попытки пресечь откровенно недопустимое могут запустить механизмы усиления контроля за Интернетом, жесткой цензуры, слежки и подавления свободы слова. Кризис в детском разделе YouTube отражает более широкий когнитивный кризис, вызванный автоматизированными системами, слабым машинным интеллектом, социальными и научными сетями и культурой в целом. Там тоже легко найти подходящих козлов отпущения и оставить без внимания туманные и запутанные структуры, на которых все на самом деле держится.

В последние недели предвыборной гонки в США 2016 года международные СМИ обрушили свой гнев на небольшой город Велес в Республике Македония. Велес расположен в нескольких часах езды от македонской столицы Скопье, это бывший промышленный центр с населением всего 44 000 человек, но он удостоился внимания на самом высоком уровне. В последние дни кампании даже президент Обама стал одержим этим местом. Велес стал олицетворением новой медиаэкосистемы, в которой, по словам Обамы, «все правда, и нет никакой правды»(15).

В 2012 году два брата из Велеса создали веб-сайт HealthyFoodHouse.com, на котором разместили собранные из случайных интернет-источников рекомендации по снижению веса и нетрадиционной медицине. Год за годом ресурс привлекал все больше посетителей, и сейчас у их страницы в Facebook 2 миллиона подписчиков, еще 10 миллионов пользователей каждый месяц переходят на сайт из поисковика Google, привлеченные заголовками вроде «Как избавиться от складок на спине и боках за 21 день» и «5 незаменимых массажных масел для седалищного нерва. Мгновенное обезболивание». Вместе с посетителями начали расти доходы от монетизации AdSense; братья стали местными знаменитостями и спускали деньги на крутые машины и дорогое шампанское в ночных клубах Велеса.

Успех братьев многим вскружил голову: местные дети бросали учебу, чтобы плодить новые веб-сайты и зарабатывать на создании онлайн-контента, как правило, ворованного или поддельного. В начале 2016 года они обнаружили, что самыми жадными до новостей читателями были сторонники Трампа, которые к тому же собирались в больших группах на Facebook, следовательно, до них легко было достучаться. Как и непроверенные каналы YouTube, созданные детьми веб-сайты были неотличимы от тысяч альтернативных новостных сайтов, возникших из-за того, что Трамп объявил бойкот основным СМИ. Чаще всего различие даже не имело значения. Как мы видели, в социальных сетях все источники выглядят одинаково, а сенсационные заголовки в сочетании с близкими по духу идеями воздействовали на консервативную аудиторию подобно алгоритмам YouTube, продвигающим «Эльза Человек-паук Семья пальчиков Учим цвета». Чем больше людей проходило по ссылкам, тем выше поднимались такие статьи в рейтинге выдачи Facebook. Несколько подростков рискнули опробовать те же приемы на сторонниках Берни Сандерса, но результаты не были такими впечатляющими: «Сторонники Берни Сандерса очень умные. Они ничего не принимают на веру»(16).

В течение нескольких месяцев появлялись заголовки о том, что против Хиллари Клинтон выдвинуты обвинения или что Папа Римский поддержал Трампа. Велес озолотился – на улицах города появились новые BMW, а в ночных клубах лилось рекой шампанское. Американские СМИ, со своей стороны, осуждали «аморальность» и «самоуверенное поведение» македонской молодежи(17). При этом игнорировалась сложность истинных причин бума на фальшивые новости в Македонии (ее история и сложные взаимоотношения в регионе) и по всему миру, поэтому невозможно было понять, к каким системным последствиям приводит распространение ложной информации.

До образования Македонии Велес был югославским городом Велес Тито. Когда Югославия распалась и исторически сложившиеся Сети были разрушены, Македонии удалось избежать самых кровавых конфликтов, раздиравших центрально-балканские государства. В 2001 году при поддержке ООН был заключен мир между правительством большинства и этническими албанскими сепаратистами, а в 2005 году страна подала заявку на присоединение к Европейскому союзу. Хотя существовало одно серьезное препятствие – спор о названии со своим южным соседом, Грецией. По мнению греков, название «Македония» принадлежит одноименной греческой провинции, и они обвинили новых македонцев в планах территориальной экспансии. Многолетний спор препятствовал вступлению республики в ЕС, а затем и в НАТО, и тормозил