Новые темные века - Джеймс Брайдл

и обучает цветам с помощью клейкой ленты, оборачивая ее вокруг одетых в бикини подростков. Полицейские с огромными головами и в резиновых масках Джокера терроризируют посетителей в российском аквапарке. Таких видео множество. Форсирование одних и тех же приемов популярными каналами, управляемыми людьми, приводит к тому, что эти сюжеты бесконечно повторяются в Сети, создавая все более диковинные и искаженные альтернативные комбинации, среди которых есть элементы насилия и деградации. Нам остается надеяться, что эту темную сторону создали алгоритмы, а не мрачные фантазии настоящих детей.

В разделе комментариев на YouTube, как, впрочем, и во всем Интернете, давно процветает культура обмена оскорбительными комментариями, для которых нет ничего святого. Субкультура YouTube Poop – тип специфического контента, которым описывают в большинстве своем безобидные, хотя и умышленно оскорбительные видеомонтажи. Часто именно такие видео первыми привлекают внимание обеспокоенных родителей: в роликах с нецензурной лексикой и отсылками к наркотикам обыгрываются детские видео. Это сбивает с толку. Например, в одной из серий мультсериала Свинка Пеппа идет к стоматологу, но есть и альтернативная версия, которая внешне почти не отличается от оригинала. Если в официальной версии добрый врач проводит осмотр, то в подделке, которую можно найти по запросу «Свинка Пеппа у стоматолога», дантист фактически пытает Пеппу: выдернутые зубы, кровь, крики. Тревожно то, как часто встречаются пугающие видеоролики о том, как Свинка Пеппа ест своего отца или пьет отбеливатель. Многие из них, очевидно, сделаны как пародия или сатира, и в этом качестве защищены от исков о нарушении авторских прав. На самом деле их создали не для запугивания детей, но вот они – в выдаче на YouTube, и это приводит к неожиданным результатам.

Однако нельзя просто списать все странности и ужасы YouTube на действия троллей и черных юмористов. В видео, о котором говорилось выше, после кошмарного похода к стоматологу Пеппа превращается в помесь Железного Человека, свинки и робота и исполняет танец «Узнай цвета». Сложно сказать, кто стоит за этим, человек или алгоритм, потому что, начинаясь как пародия на мультсериал, видео переходит к автоматическому повторению шаблонов, которые мы уже разбирали. Дело не просто в троллях или автоматизации, это даже не просто люди, учитывающие логику алгоритмов и механизмы создания рекомендаций. Налицо масштабная и почти полностью скрытая матрица взаимодействий между желаниями и вознаграждениями, технологиями и аудиторией, шаблонами и масками.

В других примерах дикие видео скорее преднамеренны, нежели случайны. Целый поджанр на YouTube строится на том, что в кадрах из видеоигр вместо солдат или бандитов участвуют супергерои и персонажи мультфильмов. Человек-паук ломает ноги другому герою комиксов, Мрачному Жнецу, и Эльзе из «Холодного сердца» и закапывает их по шею в яму. Телепузики – да, снова они – оказываются в игре «Grand Theft Auto», участвуют в погонях на мотоциклах, перестрелках и ограблениях банков. Динозавры, пронзенные мороженым и леденцами, крушат городские кварталы. Медсестры едят фекалии под звуки песни «Семья пальчиков». Все лишено смысла, и все перевернуто с ног на голову. Знакомые персонажи, рассчитанные на детей приемы, мешанина из ключевых слов, полная автоматизация, насилие и все самые страшные детские сны соединяются в нелепые и ужасные комбинации и еженедельно выходят на многих-многих каналах. Дешевые технологии и еще более дешевые методы распространения поставлены на службу производству кошмаров в промышленных масштабах.

Что нужно для создания этих видео, и кто их делает? Как мы вообще можем знать? Тот факт, что в кадре нет людей-актеров, не означает, что люди не участвовали в производстве. В наши дни анимация не представляет никакой сложности, особенно та, что рассчитана на детей ввиду низких эстетических стандартов, а прибыль обеспечивается эффектом масштаба. Используются существующие и легкодоступные составляющие, такие как модели персонажей и варианты движений, а повторять и немного менять их можно сколь угодно – даже в самых бредовых и бессмысленных сочетаниях, – ни дети, ни алгоритмы не заметят подвоха. В производстве видео заняты как маленькие студии, в которых пяти «энтузиастам» стало не хватать их основной работы, так и потогонные заводы, огромные цеха, штампующие новые и новые видео. Иногда видео появляется усилиями одного только бездумного искусственного интеллекта или некоего эксперимента, в процессе которого ролик, выложенный на YouTube, набирает миллионы просмотров. Если бы за всем этим ужасом стояло государство или тайная организация педофилов, намеренно растлевающая молодое поколение, мы бы этого не узнали. Возможно, весь немыслимый контент – просто прихоть машины. Попытки обсудить этот вопрос в Интернете только уводят в кроличью нору, где вас ждут конспирология и травмы. Сеть, безусловно, не способна диагностировать себя, так же как система не способна усмирять свои запросы.

Подобные видео травмируют. Дети смотрят, как их любимые герои мультфильмов участвуют в сценах убийств и изнасилований(14). Родители говорят об изменениях в поведении своих детей после просмотра тревожных видеороликов. Нанесенный ущерб реален и, вероятно, долгосрочен. Показывать детям, в том числе малышам, жестокие и неприятные сцены – это форма насилия. Проблему не решить простым заламыванием рук и призывом: «Подумайте о детях!» Несомненно, этот контент совершенно неуместен. Определенно, есть те, кто его создает со злым умыслом. Безусловно, некоторые видео необходимо удалить. Очевидно, что встают вопросы добросовестного использования, апроприации, свободы слова и так далее. Но прочтение этой ситуации только через призму цензуры не позволяет полностью понять задействованные механизмы и, следовательно, осмыслить совокупные последствия и отреагировать соответствующим образом.

Во многих из «странных» видео поражает степень демонстрируемого ужаса и насилия. Иногда за этим стоят грубые детские запросы, порой намеренная провокация интернет-троллей, но в большинстве случаев все происходит на более глубоком и бессознательном уровне. Интернет может усиливать и реализовывать многие из наших скрытых желаний – на самом деле, именно в этом, как видится, он преуспел. Безусловно, расцвет сетевых технологий позволил многим реализовать и выразить себя новыми способами, которые ранее были невозможны, обрести личную свободу и право выражать свою идентичность, и это прекрасно. Никогда голоса самых разных людей не звучали так громко, как сегодня. Однако, когда миллионы детей и взрослых, часами, днями, неделями, месяцами и годами проводящих время онлайн, открывают хищным алгоритмам свои самые сокровенные желания – эта тенденция в подавляющем большинстве случаев кажется насильственной и разрушительной.

Насилие сопровождается немыслимой эксплуатацией: дети страдают не потому, что они дети, а потому что они бессильны. Автоматизированные системы вознаграждения, такие как алгоритмы YouTube, обеспечивают доходность за счет эксплуатации и воплощают в себе худшие аспекты хищного капитализма свободного рынка. Управлять этой системой можно, только если ее разрушить. Эксплуатация закодирована, вплетена в ткань самой системы, поэтому ее сложно увидеть, определить