Экспонента. Как быстрое развитие технологий меняет бизнес, политику и общество - Азим Ажар

предвзятости оценок. В частности, на решения, принимаемые на основе массива данных, начинают влиять расовые предрассудки. Приведу пример: в ходе исследования работы алгоритма, который используется в больницах США для регистрации пациентов и назначения медицинской помощи, выяснилось, что темнокожих пациентов существенно реже направляют к врачам-специалистам, чем белых пациентов со схожим состоянием здоровья[480]. Алгоритм отрабатывался на массиве данных, искаженном под влиянием принятых в обществе расистских взглядов, а потому предлагал соответствующие решения.

По мере все более явного вторжения рынка в частную сферу, когда компании начинают собирать данные о самых интимных аспектах нашей жизни, да еще и продавать их, проблемы будут только нарастать. Наша персональная информация продается нам же и одновременно используется для профилирования и манипуляции нашим поведением. В экспоненциальную эпоху управлять проще всего тем, что регулярно измеряется. В рамках экономики данных регулярно измеряют и оценивают нас с вами.

Мы нередко слышим, что противоположности притягиваются, однако с точки зрения социологии это утверждение совершенно не верно. Подавляющее большинство из нас предпочитают общаться с теми, с кем мы видим явное сходство; будь то близкий социально-экономический статус, этнос, любимая спортивная команда или взгляды — мы предпочитаем держаться тех, кто похож на нас.

В науке это явление называется гомофилия. Оно возникает по вполне понятным причинам. Попробуйте купить билет на футбольный матч в ту зону, где сидят болельщики, и начните открыто болеть за другую команду. Или приступите к работе с людьми, взгляды которых абсолютно не совместимы с вашими. Или пообщайтесь с теми, с кем у вас вообще нет ничего общего. Гомофилия сильно упрощает жизнь.

Однако человечество давно знает, что нельзя выпускать гомофилию из-под контроля. В обществе, раздробленном на мелкие группировки, начинается своего рода демократический склероз: чем больше мы разделены, тем сложнее прийти к консенсусу и эффективно управлять общественными процессами и тем меньше граждане доверяют политическим институтам. Со временем гомофилия может привести к социальному взрыву: исследования доказывают, что в некоторых странах, таких как Турция или США, граждане все менее охотно соглашаются жить рядом с теми, кто поддерживает конкурирующую политическую партию. В одном недавнем анализе одиннадцати сильно раздробленных политических систем был использован термин «тлетворная поляризация» для обозначения состояния общества, подрывающего способность демократии функционировать[481].

Перед всеми, кто живет в экспоненциальную эпоху, встает очередная проблема. Мы уже видели, как общественный диалог и частная жизнь каждого из нас оказываются подчинены логике рынка. Есть и третий аспект, тоже подпадающий под избыточное влияние рыночных механизмов, — это наши привычные подходы к формированию и развитию отношений. Все чаще сообщества формируются онлайн, под присмотром нескольких интернет-гигантов. А если социальные связи выстраиваются исключительно посредством платформ экспоненциальной эпохи, гомофильность может выйти из-под контроля.

Сама по себе гомофилия — явление не новое: ее давно уже наблюдают в рамках любого человеческого сообщества. Еще в 1954 году было проведено первое исследование в этой области, и выяснилось, что представители национальных и религиозных групп чаще всего держатся вместе и проживают рядом[482]. Однако технологии экспоненциальной эпохи делают хотя и естественную, но до сих пор не самую важную характеристику сообществ повсеместной и гораздо более явной. Гомофилия заложена в саму логику онлайн-сообществ.

Давайте посмотрим, как мы находим друзей в интернете. Социальные сети помогают увеличивать число контактов — это те самые рекомендации «люди, которых вы можете знать», то и дело мелькающие в ленте. У этих людей есть с вами нечто общее: учились в том же университете, слушают ту же группу, знают кого-то из ваших друзей. В результате круг друзей в социальных сетях оказывается даже более гомофильным, чем общество в целом, а еще в социальных сетях чаще формируются однородные группы. Те, у кого в онлайн-друзьях больше единомышленников, используют социальные сети особенно часто. Группы, в которых состоят пользователи со схожими профилями, интереснее рекламодателям: люди с близкими интересами покупают одинаковые товары, а потому продавать им легче. Так что существуют вполне очевидные бизнес-выгоды от объединения похожих между собой людей в группы, причем отбор их должен быть как можно более точным и незаметным.

На практике эти методы могут привести к тому, что люди будут делиться на все более изолированные и непохожие друг на друга группы. На платформах YouTube и Facebook рекомендательные алгоритмы выстроены так, чтобы заставить даже заскучавших пользователей как можно дольше оставаться на сайте[483]. Как выясняется, для достижения этой цели лучше всего предлагать контент, продвигающий все более радикальную точку зрения или даже провокационный. Социолог Зейнеп Туфекчи сформулировала это так: «После видео о вегетарианстве нам показывают ролик о веганах; после видео о беге предлагается материал о том, как пробежать марафон. Получается, что вы как будто всегда “недотягиваете” до уровня, который предлагают вам алгоритмы YouTube». Дальше Туфекчи рассуждает так: «Именно по этой причине YouTube оказывается одним из главных инструментов радикализации общества в XXI веке»[484]. И она наверняка права. В ходе масштабного исследования контента YouTube, когда было проанализировано более 330 тысяч видеороликов и 72 миллионов комментариев на 349 каналах, выяснилось, что пользователи со временем обязательно переходят к все более радикальному контенту[485]. Те, кто смотрят сейчас экстремальные или радикальные видео, прежде смотрели материалы более умеренного характера, но со временем оказались «на пути радикализации» и постепенно стали регулярными посетителями каналов или ресурсов, продвигающих соответствующие взгляды или подходы.

В некоторых случаях эта логика провоцирует эскалацию прямого насилия. В 2018 году было проведено исследование, чтобы выяснить, способствует ли Facebook пропаганде ИГИЛ (запрещенной в России террористической группировке), и показать, какова роль соцсетей в рекрутинге членов террористических групп. Это классическое изучение гомофильности: люди, интересовавшиеся публичной политикой, постепенно втягиваются во все более экстремально настроенные группировки. Познакомившись на платформе Facebook лишь с одним сторонником запрещенной в России ИГИЛ, пользователь получает от самой соцсети рекомендации о десятке других аккаунтов, поддерживающих эту террористическую организацию. «Стремясь связать как можно больше единомышленников, Facebook создал систему, помогающую террористам и экстремистам вербовать сторонников», — делают вывод Грегори Уотерс и Роберт Постингс, авторы исследования[486].

В ходе работы Уотерс и Постингс наблюдали за тем, как с помощью социальной сети происходит вербовка: студент из Нью-Йорка, утверждавший, что не причисляет себя ни к какой религии, меньше чем за полгода стал сторонником запрещенной экстремистской организации. Собственные исследования соцсети подтверждают сделанные выводы. В тексте ставшего доступным широкой публике письма вице-президента Facebook Эндрю Босворта к коллегам есть такие слова: «Не исключено, что кто-то погибнет в ходе теракта, организаторы