Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф

Продукты аналитики эмоций, такие как SEWA, используют специализированное программное обеспечение для прочесывания лиц, голосов, жестов, тел и мозгов, по мере того как все это считывается «биометрическими» и «глубинными» датчиками, часто в сочетании с крошечными «ненавязчивыми» камерами. Этот комплекс машинного интеллекта обучен изолировать, фиксировать и оцифровывать тончайшие и интимнейшие формы поведения, от случайного моргания до длящегося долю секунды расслабления челюсти от неожиданности. Различные комбинации датчиков и программного обеспечения могут распознавать и идентифицировать лица; оценить возраст, этническую принадлежность и пол; анализировать направление взгляда и движения век; отслеживать определенные точки лица, чтобы интерпретировать «микровыражения», движения глаз, эмоции, настроения, стресс, ложь, скуку, растерянность, намерения и многое другое, – и все это происходит мгновенно[769]. Как говорится в описании проекта SEWA:

Это поведение ускользает и от сознания. Машины фиксируют на лице молодой женщины наносекундный эпизод отвращения, за которым следует быстрая череда гнева, понимания и, наконец, радости, пока она смотрит несколько кадров фильма; при этом все, что она сумеет сказать вслух, – это «Мне понравилось!» В официальной документации Realeyes объясняется, что его веб-камеры снимают людей, которые смотрят видео у себя дома, «чтобы мы могли запечатлеть подлинные реакции». Алгоритмы обрабатывают выражения лица, и «эмоции обнаруживаются, агрегируются и передаются онлайн в режиме реального времени, каждую секунду это позволяет нашим клиентам принимать лучшие бизнес-решения». Realeyes делает упор на свои собственные «проприетарные метрики», помогающие маркетологам «нацеливаться на конкретную аудиторию» и «прогнозировать результаты»[771].

И снова – ключевая тема машинного интеллекта состоит в том, что качество зависит от количества. Realeyes говорит, что его наборы данных содержат более 5,5 миллионов аннотированных видеозаписей более чем 7000 человек со всего мира:

Клиентам рекомендуется «играть эмоциями своей аудитории, чтобы оставаться хозяевами положения»[773]. Веб-сайт компании предлагает краткий обзор истории исследования человеческих эмоций, включая вывод, что «чем больше люди чувствуют, тем больше они тратят Нематериальные „эмоции“ превращаются в конкретную социальную активность, узнаваемость бренда и прибыль»[774].

Председатель отраслевого консультативного совета SEWA откровенен в отношении этой затеи; он отмечает, что расшифровка смысла «невербального языка всего тела и интерпретация сложных эмоциональных реакций будет замечательной вещью для интерпретации реакций на маркетинговые материалы», добавляя, что «просто глупо не учитывать эмоциональный отклик при оценке любых маркетинговых материалов». Действительно, эти «бессознательные инструменты» извлекают из вашей внутренней жизни новые, более тонкие, грани поведенческого излишка, чтобы предсказать, что вы купите, и точно ухватить нужный момент, когда вы наиболее уязвимы для воздействия. Председатель совета говорит, что эмоциональная аналитика «похожа на определение отдельных музыкальных нот». Тогда каждый потенциальный клиент представляет собой небольшую прозрачную музыкальную композицию: «Мы сможем выявить каждую нотку человеческих реакций, таких как симпатия, скука и т. д. Когда-нибудь мы научимся мастерски читать чувства и намерения друг друга»[775].

Это не первый случай, когда наше бессознательное становится инструментом для достижения чужих целей. В пропаганду и рекламу всегда закладывалось обращение к нашим непризнанным страхам и стремлениям. Эти сферы больше полагались на искусство, чем на науку, используя для целей массовой коммуникации очень грубые данные или профессиональную интуицию[776]. Подобные методы нельзя сравнивать и с научным применением сегодняшних исторически беспрецедентных вычислительных мощностей к точно выверенной, непрерывной оцифровке наших более или менее реальных чувств. Производители новых инструментов не собираются отнять у вас вашу внутреннюю жизнь, они намерены лишь следить за ней и пользоваться ею. Все, что они хотят, – это знать о вас больше, чем вы сами.