Экспонента. Как быстрое развитие технологий меняет бизнес, политику и общество - Азим Ажар

почти ничего не знали о темах, на которые писали. Однако им удалось не только наладить регулярные публикации о внутренней политике США, но и привлечь к своим материалам внимание миллионов читателей.

Феномен вирусного распространения ложной информации, иногда по заказу государства, еще раз демонстрирует, как сильно увеличилась поверхность атаки в экспоненциальную эпоху. Очевидно, что идея использовать ложную информацию, чтобы мотивировать собственных сторонников или нанести удар по оппозиции, стара как мир. Мухаммед Саид ас-Сахаф, иракский дипломат, получил прозвище Комический Али еще в 2003 году, когда выступил в новостной телепрограмме с заявлением о победе войск Саддама Хусейна — прямо после того, как Багдад был захвачен американскими войсками. Однако в экспоненциальную эпоху создавать и распространять ложную информацию стало принципиально проще. И для достижения поставленных целей больше не нужны ни опытные хакеры, ни хитроумные программы — достаточно лишь доверия широкой публики.

За десять лет до президентских выборов 2016 года в США мысль об использовании компьютеров для распространения пропаганды с целью влияния на национальную политику казалась слишком экстравагантной. Тем странам, которые умудрялись на государственном уровне контролировать движение информации, прежде всего Китаю, приходилось прилагать колоссальные усилия, однако влиять на информационные потоки удавалось лишь внутри собственных границ. Основанная мной компания PeerIndex занималась анализом движения контента между Twitter и Facebook с 2009 года и до ее продажи в 2014 году. В те уже далекие годы мы крайне редко сталкивались со случаями намеренного и скоординированного распространения ложной информации. Программы для управления аккаунтами в социальных сетях, имитирующие реальных людей (такие программы называют ботами), уже были известны, но создавались чаще всего, чтобы запустить мошенническую кампанию по продвижению в интернете чудо-витаминов или препаратов для борьбы с эректильной дисфункцией. Серьезной угрозы боты тогда не представляли. Мы создали несложную систему их обнаружения и дальше не обращали на них внимания.

К моменту продажи компании ситуация начала меняться. В 2014 году вирусное распространение ложной информации стало пусть и не колоссальной, но вполне ощутимой проблемой, и с тех пор ее масштабы стремительно росли. По данным исследования, проведенного Массачусетским технологическим институтом, число англоязычных публикаций в сети Twitter, содержащих ложную информацию, в 2012 году было крайне незначительным, а к 2016 году стало представлять серьезную угрозу. За этот период число фальшивых твитов увеличилось в тридцать раз. По данным исследования, ложь распространялась в социальных сетях в шесть раз быстрее, чем правдивые сообщения[407].

Технологии экспоненциальной эпохи позволяют гораздо быстрее и легче распространять любую ложную информацию. Кто угодно может теперь создать сайт, и кто угодно может публиковать там свой контент. Создание сети ботов, имитирующих аккаунты реальных пользователей, чтобы с их помощью быстрее распространять нужные материалы, теперь почти ничего не стоит. Социальные сети оказались плодородной почвой: контент стремительно распространяется, при этом нет ни редакторов, ни ответственных за достоверность. Сами платформы стимулируют появление контента, вызывающего острую реакцию: шок, отвращение или восторг. А когда онлайн-платформы используют рекомендательные алгоритмы для продвижения контента, это чаще всего лишь усиливает сложившиеся уже у пользователя мнения (об этом феномене мы подробнее поговорим в следующей главе). Одним словом, вся эта нездоровая комбинация экспоненциальных сил — новые информационные сети, вирусные эффекты от использования сетей, искусственный интеллект — способствует быстрому распространению ложной информации.

И получается, что она окружает нас теперь повсюду. В 2019 году в ходе опроса жителей 25 стран выяснилось, что больше 80% считают, что сталкивались с ложными новостями. Почти 90% из них поначалу думали, что эта информация является истинной (я сам оказался в числе этого большинства)[408]. Почти половина жителей Турции и более 30% населения Кореи, Бразилии и Мексики признают, что каждую неделю сталкиваются с ложной информацией[409]. В ходе президентских выборов 2020 года в США социальные сети превратились в рассадник злоумышленников, которые публиковали ничем не подтвержденные теории о вакцинации и происхождении вируса COVID-19, и все это поддерживалось все более эксцентричными публикациями тогдашнего президента Дональда Трампа в Twitter.

Некоторые из ложных новостных материалов создаются исключительно из коммерческих соображений: вспомним того владельца сайта, который зарабатывал до двух тысяч долларов в день. Однако большая часть создается при поддержке государств, стремящихся одержать верх над противником в ходе спланированной атаки. Именно поэтому в некоторых случаях появление и распространение заведомо ложной информации приходится считать не просто досадным обстоятельством, а новой формой военной агрессии. И ее становится все больше. В 2017 году исследователи Университета Оксфорда собрали данные, подтверждающие, что 28 стран предпринимали попытки намеренного распространения ложной информации. К 2019 году таких стран стало уже 70[410]. Согласно результатам этого исследования, 72% всех операций по намеренному распространению дезинформации в 2013–2019 годах пришлось на Россию[411]. Масштабную пропагандистскую кампанию с помощью ложной информации в Азиатско-Тихоокеанском регионе ведет Китай. В 2020 году Facebook объявил, что обнаружил организованную Китаем кампанию по распространению фальшивых новостей на Филиппинах с целью продвижения политиков, поддерживающих Китай[412]. Таиланд, Иран, Саудовская Аравия, Куба и некоторые другие страны тоже не раз обвинялись в создании сетей ботов и распространении ложной информации[413]. Когда подобные сети создаются и развиваются при поддержке государства, ложь становится дезинформацией: неверные сведения распространяются не по незнанию, а намеренно.

Кампании по распространению дезинформации могут иметь опасные последствия. В 2016 году российские интернет-тролли смогли организовать протесты, а потом и антипротесты в Хьюстоне, штат Техас[414]. Больше шестидесяти человек вышли на улицы, хотя организаторов среди них не было — те сидели у компьютеров на другом конце Земли[415]. Последствия кампаний по распространению ложной информации могут быть и намного страшнее, чем просто несколько людей с плакатами на улице. Представители ВОЗ считают, что в период эпидемии COVID-19 в Иране развернулась «информационная пандемия»: по оценкам, около семисот человек умерли из-за отравления метанолом, начитавшись в интернете слухов о том, что этот спирт якобы помогает избавиться от вируса[416]. В Великобритании десятки инженеров, работающих в области телекоммуникаций, получили письма со смертельными угрозами после распространения бредовой теории о том, что вышки сетей 5G распространяют вирус[417]. Представители некоторых государств организовали в США кампании, направленные на ослабление страны перед лицом пандемии, с акцентом на исторически существующие конфликты между отдельными группами населения[418]. Какой же была цель? Вызвать недоверие к действиям государства, направленным на борьбу с вирусом, и дискредитировать программу вакцинации[419].

Экспоненциальные технологии стали одним из катализаторов бума дезинформации; другим фактором стала неспособность государств бороться с распространением лжи в интернете. Многие страны слишком поздно признали собственную ответственность за борьбу с ложной информацией. Только в 2018 году правительство Великобритании начало формировать специальное подразделение в рамках службы безопасности для работы