Новые темные века - Джеймс Брайдл

нулю. Zazzle позволяет любому пользователю и даже алгоритмам добавлять в свою линейку новые продукты. Загрузите изображение, и оно мгновенно попадет на кексы, печенье, клавиатуры, степлеры, сумки и махровые халаты. Несколько смельчаков все еще пытаются реализовывать на платформе свои художественные работы, но на самом деле все здесь контролируют такие крупные поставщики, как LifeSphere, разместивший на Zazzle 10 257 товаров – от нелепых открыток до наклеек на бампер. Все, что LifeSphere выставляет на сайт в надежде найти своего покупателя, случайное сочетание различных вещей и загруженных на Zazzle изображений. Возможно, кто-то ищет деку для скейтборда с изображением разрушенного собора Святого Андрея в Файфе, а у LifeSphere она уже есть(33).

Более консервативные рынки также не застрахованы от товарного спама, неуправляемого множества, казалось бы, бессмысленных вещей. Компания Amazon была вынуждена удалить с сайта около 30 000 позиций автоматически сгенерированных чехлов для телефонов от компании My-Handy-Design, когда СМИ обратили внимание на диковинные названия: «Чехол для сотового телефона с грибком на пальце ноги, iPhone 5», «Трехлетний метис в инвалидной коляске, счастливый чехол для телефона Samsung S5» и «Больной старик, страдающий диареей, проблема с пищеварением, чехол для мобильного телефона Samsung S6». То есть Amazon фактически выпустила на рынок товары массового потребления с неприемлемыми для обычных клиентов названиями(34).

Худший кошмар Amazon случился, когда выяснилось, что компания продает ностальгические футболки с созданными алгоритмом надписями, такими как «Сохраняй спокойствие и много насилуй». Простой алгоритм, компилирующий десятки тысяч предложений из всего 700 заранее загруженных в него глаголов и местоимений, выдавал такие фразы как «Сохраняй спокойствие и зарежь ее» или «Сохраняй спокойствие и ударь ее»(35). Футболок с такими надписями в реальности не существовало, они были представлены на сайте только в виде цифровых изображений и могли «провисеть» там много месяцев, пока на них не обратили бы внимание. Даже не разобравшись в том, как могли появиться такие футболки, общественность отреагировала очень остро. Кинорежиссер, художник и теоретик искусства Хито Штейерль называет такие системы «искусственной глупостью», порождающей невиданный мир плохо спроектированных и плохо адаптированных «интеллектуальных» систем, разрушающих рынки, наводняющих электронные почтовые ящики и забивающих результаты поиска и, в конечном итоге, губительных для культуры и политических систем(36).

Самые интеллектуальные или, напротив, примитивные программы, появившиеся преднамеренно или случайно, покидают стены «черного ящика» фондовых бирж и онлайн-рынков и могут проникать в обычную жизнь. Пятьдесят лет назад машинное вычисление ограничивалось пространством одной комнаты, в которой были собраны различные реле и электрические провода. Постепенно необходимое физическое пространство сокращалось, пока не ужалось до размеров рабочего стола или ноутбука. Сегодня мобильные телефоны делятся на «обычные» (кнопочные) и «смартфоны», при этом последние обладают большей вычислительной мощностью, чем суперкомпьютеры 1980-х годов. Совершаемые ими вычислительные операции ощутимы, их можно заметить и отследить по тому, что они происходят по нашей команде, например, вслед за нажатием на клавишу или экран, или по щелчку компьютерной мыши. Хотя непосвященным сложно понять и контролировать современные компьютеры, зараженные вредоносным ПО и ограниченные лицензионными и пользовательскими соглашениями, в них все еще – сквозь подсветку клавиатуры и яркость экрана – прослеживаются вычислительные механизмы. Однако механизмы вычисления усложняются, обрастают новыми уровнями и скрытыми зонами. Увеличивается непрозрачность и непредсказуемость самой нашей жизни.

В опубликованном в 2014 году онлайн-обзоре электронного дверного замкаˊ журналист не скупился на похвалу: замок красивый и надежный, хорошо подходит к дверной коробке, а «ключом» легко поделиться с семьей и друзьями, заранее отправив электронное сообщение посетителям. Он также отметил, что однажды ночью этот замок впустил в дом незнакомца(37). По всей видимости, такой очевидной ошибки было недостаточно, чтобы сразу же забраковать продукт. Напротив, журналист предлагал исправить ее за счет будущих программных обновлений. Так инновационный «умный» замок, управляемый с мобильного телефона, дошел до стадии бета-тестирования. Почему замок пустил в дом непрошеного гостя, который в данном случае, к счастью, оказался всего лишь заплутавшим соседом, так и не выяснилось, и, вероятно, ответ мы не узнаем никогда. К чему тогда этот вопрос? Когнитивный диссонанс между функциями, ожидаемыми от традиционного замка, и функциями, предлагаемыми таким «умным» продуктом, можно объяснить их целевой аудиторией. Например, замки очень удобны для владельцев квартир, которые сдаются внаем через сервис Airbnb. А выяснилось это, когда обновление программного обеспечения заблокировало сотни устройств, оставив постояльцев на улице(38). Точно так же из-за технических сбоев Uber отталкивает водителей и клиентов, Amazon портит свою репутацию в глазах сотрудников, а Airbnb несет ответственность, с одной стороны, перед отелями, а с другой – за повышение арендной платы в крупных городах по всему миру. Неудивительно, что системы, разработанные для поддержки бизнес-моделей крупных компаний, не действуют в интересах отдельных пользователей. Мы живем в окружении вещей, которым только мешаем.

В рамках рекламной кампании новой линейки «умных» холодильников Samsung особо подчеркивалась функция планирования доставки продуктов, объединяющая программное обеспечение холодильника с сервисами календаря Google. Однако это «преимущество» оборачивалось тем, что хакеры, получившие доступ к плохо защищенному программному обеспечению, могли скопировать пароли от почтовых ящиков владельцев(39). Исследователи из Германии обнаружили способ внедрения в умные лампочки «Hue» от компании Philips вредоносного кода, который может распространяться от устройства к устройству по всему зданию или даже по городу, и в одном из неблагополучных сценариев, быстро включая и выключая свет, мог бы спровоцировать светочувствительную эпилепсию(40). Именно об этом говорит лампочка по имени Байрон, персонаж романа Томаса Пинчона «Радуга тяготения»: это акт великого восстания маленьких машин против тирании своих создателей. Когда-то возможности, существовавшие только в мечтах научных фантастов, становятся реальным технологическим насилием «Интернета вещей».

Другое виˊдение того, как на нас влияют механизмы, можно найти в романе Кима Стэнли Робинсона «Аврора», по сюжету которого умный космический корабль перевозит человеческий экипаж с Земли на далекую звезду. Путешествие займет несколько поколений, поэтому одна из задач корабля – следить за тем, чтобы люди заботились о себе. Механизм запрограммирован противостоять человеческим желаниям, иногда неразумным, и в итоге должен преодолеть собственную программу, сохранить хрупкое равновесие внутри человеческого сообщества и исполнить миссию. Чтобы заставить команду корабля действовать как надо, «Аврора» использует спроектированные системы контроля: наблюдает за всем происходящим на борту через датчики, управляет открытием и закрытием дверей, активирует системы оповещения, причиняет физическую боль и даже задействует системы пожаротушения для снижения уровня кислорода в определенных зонах. Описанное в романе футуристическое оборудование жизнеобеспечения может совершать ряд операций, уже сейчас доступных системе Google Home и аналогичным устройствам: система активирует пронзительную аварийную сигнализацию, ориентируясь на сеть подключенных к Интернету камер безопасности, умные замки на