Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф

Концентрация талантов из сферы искусственного интеллекта в Google отражает более широкую тенденцию. По оценкам, в 2017 году на участие в гонке за талантами в области искусственного интеллекта американские компании выделили более 650 миллионов долларов, при более чем 10 000 вакансий у лучших работодателей по всей стране. У пяти ведущих технологических компаний капитала достаточно, чтобы вытеснить конкурентов – стартапы, университеты, муниципалитеты, крупные корпорации других отраслей, и не столь богатые страны[525]. В Британии руководители университетов уже говорят о «потерянном поколении» специалистов по данным. Огромные зарплаты в технологических гигантах сманили столько профессионалов, что учить следующее поколение студентов просто некому. Как сказал один ученый:

Благодаря своей щедрости при привлечении кадров Google за последние несколько лет утроил свой контингент ученых, специализирующихся в области машинного интеллекта, и стал ведущим поставщиком авторов самых престижных научных журналов – в четыре-пять раз больше, чем в среднем в мире в 2016 году. При режиме надзорного капитализма ученые этой корпорации заняты не решением проблемы голода в мире или отказа от углеводородного топлива. Вместо этого весь их гений направлен на штурм бастионов человеческого опыта, превращение опыта в данные и преобразования его в нового рыночного колосса, создающего богатство путем предсказания человеческого поведения, влияния на него и управления им.

Более шестисот лет назад печатный станок передал письменное слово в руки простых людей, позволив сэкономить на молитвах, обойти духовенство и открывая возможности духовного общения непосредственно молящимся. Мы привыкли считать само собой разумеющимся, что интернет обеспечивает беспрецедентные возможности для распространения информации, обещая больше знаний для большего числа людей – могучая демократизирующая сила, которая в геометрической прогрессии реализует революцию Гутенберга в жизнях миллиардов людей. Но это грандиозное достижение заслонило от наших глаз другую историческую тенденцию, выходящую за пределы досягаемости и видимости, устроенную так, чтобы исключать, запутывать и скрывать. В рамках этой скрытой тенденции конкурентная борьба за надзорные доходы возвращается к до-гутенберговским порядкам, по мере того как общественное разделение знания клонится к своей патологической форме, находящейся в руках священной касты работающих в частных фирмах компьютерных специалистов, их находящихся в частных руках машин и экономических интересов, на службу которым поставлены их алгоритмы.

Общественное разделение знания оказалось в плену у надзорного капитализма. В отсутствие сильного «двойного процесса», в ходе которого демократические институты и гражданское общество привязывали бы дикий информационный капитализм к нуждам людей (пусть эта привязка была бы далека от совершенства), в этом решающем споре о разделении общественного знания мы отброшены назад к рыночной форме компаний надзорного капитализма. Специалисты в дисциплинах, связанных с машинным интеллектом, знают это, но плохо осознают более широкие последствия этого факта. Как пишет специалист по данным Педро Домингос,

Газета New York Times сообщает, что кабинет генерального директора Google Сундара Пичаи теперь располагается на одном этаже с лабораторией компании по разработке ИИ, и отмечает, что так делают многие руководители: пример вполне буквального подхода к концентрации власти[527].

Чуть более тридцати лет назад правовед Спирос Симитис опубликовал ставшую классической работу по конфиденциальности частной жизни в информационном обществе. Еще тогда Симитис осознал, что уже различимые тенденции в области «обработки информации» государственными и частными структурами таят в себе угрозы обществу, выходящие за рамки узких концепций конфиденциальности и права собственности на данные:

Симитис утверждал, что эти тенденции несовместимы не только с конфиденциальностью, но и с самой возможностью демократии, существование которой зависит от наличия индивидуальных способностей, связанных с автономным моральным суждением и самоопределением.

Опираясь на работу Симитиса, Пол М. Шварц из Беркли в 1989 году предупреждал, что компьютеризация изменит хрупкий баланс прав и обязанностей, на котором строится законодательство о неприкосновенности частной жизни:

Самое главное, Шварц предвидел, что масштабы этого еще зарождавшегося кризиса создадут риски, выходящие за рамки законов о неприкосновенности частной жизни: