Anthro-Vision - Gillian Tett

- отметила исследовательская группа. Однако в школе следят только за взрослыми, а не за детьми, чтобы сделать это "безопасным" и "этичным", хотя на самом деле они пытаются обезопасить именно детей. Когда исследователи спросили, зачем школе вообще нужна система искусственного интеллекта, учителя заявили, что "система позволяет директору и секретарю идентифицировать и приветствовать каждого по имени, что, по их мнению, способствует формированию чувства общности... [и] позволяет убедиться, что дети в безопасности, счастливы, здоровы и святы". Однако никто не смог объяснить, как искусственный интеллект помогает детям быть "святыми". Аналогичным образом, в отделе шерифа округа Рок Андерсон обнаружил, что, хотя полиции было разрешено использовать "программное обеспечение для распознавания лиц в распределенной группе по раскрытию преступлений... руководящие принципы для отдела шерифа очень ясны в том, что видео не должно поступать с общественных камер города или округа, а только с частных жилых или коммерческих камер". Почему видеозаписи с камер жилых домов считаются приемлемыми, а с государственных камер - нет, осталось загадкой и для исследователей, и для полиции.

В Китае ситуация была иной. Группа исследователей обнаружила, что устройства распознавания лиц повсеместно используются в зданиях, магазинах, банках и школах, причем "настолько обыденно и незаметно, что [их использование] часто остается незамеченным как для пользователей, так и для исследователей, которые должны вести активное наблюдение за ситуацией". Например, в одном из случаев команда попросила женщину, с которой они работали, пройтись по системе распознавания лиц в ее доме. Она сделала это, но в такой непринужденной манере, что антропологам Intel пришлось просить ее повторить это действие снова и снова, поскольку взаимодействие с камерами распознавания лиц было настолько "нормальным", что трудно было заметить это взаимодействие вообще. В другом случае команда Intel попросила сопровождать китайца, чтобы он снял деньги в банкомате с функцией распознавания лиц, и столкнулась с той же проблемой. "Вы могли видеть, как он думает: "О, да, иностранцы считают, что распознавание лиц - это интересно? Неужели это мошенничество, чтобы забрать мои деньги? Нам также пришлось трижды просить его войти в систему, чтобы поймать процесс".

У американских наблюдателей эта ситуация должна была вызвать ужас, не в последнюю очередь потому, что в 2017 г. появились сообщения о том, что китайское правительство использует средства слежения, в том числе систему распознавания лиц, для репрессий и нарушения прав человека уйгурского населения провинции Синьцзян. Многие американцы предположили, что китайские потребители должны втайне ненавидеть идею такой слежки, как это делали американцы. Однако команда Intel утверждала, что ошибочно полагать, что китайцы должны смотреть на вещи так же, как американцы. Они не претендовали на полное понимание того, что происходит в сознании и жизни китайцев, которых они изучали: их исследования были "неглубокими" по академическим меркам (относительно короткими), группа полагалась на переводчиков (поскольку Андерсон не говорил по-китайски) и знала, что работает в стране, где существует государственный контроль. "Снимки не дают полной картины - ее просто нет", - поясняется в отчете.

Однако даже с учетом этих оговорок можно заметить существенную разницу в реакции китайцев на системы распознавания лиц по сравнению с американцами. "В Китае преобладает предположение, что правительство существует для того, чтобы обеспечивать безопасность людей", - пояснили участники исследования. "В обществе, где уже более 70 лет существует открытая и повседневная слежка в человеческой и институциональной форме, появление и внедрение системы распознавания лиц с помощью камер вызвало меньше споров, чем в США". Были и бунты. Команда Intel проследила за "китайской средней школой Z", в которой с помощью распознавания лиц определялось, что могут или не могут есть ученики в школьной столовой: например, вместо свинины на барбекю ученикам с избыточным весом давали рыбу на пару. Но когда родители и ученики "стали активно жаловаться", система была отменена. Специалисты Intel также отметили, что некоторые китайские студенты испытывают беспокойство по поводу навязчивого наблюдения. "У меня в школе всю жизнь были камеры", - сказала Джун, одна из учениц, команде Андерсона в фильме "Средняя школа X", где было установлено более сорока камер для слежения за учениками. "Они следят за нами, чтобы защитить нас, но это немного пугает. Ведь они знают о нас так много, что могут узнать, когда ты ходишь в туалет или встречаешься ли ты с кем-нибудь". (Оказалось, что ее подозрения были обоснованными: учительница позже сказала команде Intel, что "мы знали... [Джун] встречалась больше месяца", но не запрещали этого, поскольку "и она, и ее парень получают очень хорошие оценки").

Однако эти признаки сопротивления или озабоченности не означают, что американцы могут проецировать свои собственные предположения на Китай. В Китае распознавание лиц в реальном мире стало настолько повсеместным, что превратилось в скуку. "Мы наблюдали, как покупатели в KFC быстро делали заказ на экране, а затем коротко улыбались, чтобы расплатиться, - отметил Андерсон. Это обычные, повседневные, "ничего не значащие" детали городской жизни". Большинство китайцев относились к технологическим инновациям как к положительному явлению, поскольку считали, что это вызовет рост экономики и сделает страну сильнее на мировой арене. Было также тонкое, но важное различие в том, как китайцы и американцы оценивали достоинства машин по сравнению с людьми. Американцы были напуганы идеей принятия решений машинами, отчасти из-за влияния на популярную культуру таких фильмов, как "2001 год: космическая одиссея" (в котором система искусственного интеллекта по имени Хэл захватывает космический корабль, что приводит к ужасным последствиям). Но в Китае из-за таких событий, как Культурная революция, доверие к бюрократам-людям было настолько низким, что работа с компьютерами вместо людей иногда казалась улучшением. Роботы, скорее всего, будут менее капризными и жестокими, а платформа распознавания лиц с искусственным интеллектом не потребует взятки. Было и еще одно тонкое различие, связанное с идеей "индивидуальности". Американцы опасались, что ИИ и системы распознавания лиц лишат их неприкосновенности частной жизни и индивидуальных прав. В Китае же уважение к правам личности было настолько низким, что казалось почти лестным, что камера распознавания лиц может вынести решение на основе того, как выглядит уникальный человек, а не "просто" анонимный номер. Или, как сказал Андерсон: "Любопытным образом [в Китае] технологии распознавания лиц с помощью ИИ подчеркивают индивидуальность, которая является отличительной чертой западной культуры и традиций".

Это не означает, что команда Intel одобряет то, как Китай использует эти технологии, подчеркнул Андерсон. Но исследование показало, что американцы ошибаются, полагая, что только они знают, как технологии внедряются в жизнь людей - или как это может и должно происходить. Это означает, что изучение различий ценно тем, что позволяет