Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

быстрой и всеобщей автоматизации порождают странное напряжение в самом центре современной экономической политики. Когда вопрос о технологической безработице поднимается американским Советом консультантов по экономическим проблемам, Всемирным экономическим форумом или Международным валютным фондом, эксперты сухо предупреждают о том, что роботами будут заменены десятки миллионов рабочих мест[75]. Эта дискуссия, сосредоточенная на нас как производителях, окрашена в грустные тона неотвратимости. Похоже, что будет автоматизирована одна область за другой – сперва рутинные задачи, потом более профессиональные, наконец даже работа программистов, когда будет найден «мастер-алгоритм»[76]. Изучение подобной литературы способно создать апокалиптическое настроение. «Роботы готовятся украсть 15 млн рабочих мест» – выстрелила Daily Mail, потрясая исследованием, расхваленным директором Банка Англии Марком Карни[77]. Хотя оценки сокращения числа рабочих мест существенно разнятся, тон экономической литературы не может ввести в заблуждение: любой работник сегодня под угрозой.

В то же время экономисты превозносят удешевление услуг. Модель экономического прогресса в этом случае странно напоминает модель, которая описывается в рассказах об автоматизации. Предполагается, что ведущие компании в области здравоохранения и образования должны учиться на успехе конвейерных линий в промышленном производстве, а также на персонализации в интернете, основанной на сборе данных. Шаблонные и в то же время персонализированные подходы, состоящие в своего рода диалектическом отношении, должны удешевить больницы и школы и в то же время сделать самые лучшие услуги общедоступными[78].

Стоит только соединить дистопию «роботов, которые заберут все рабочие места» с утопией «постоянно дешевеющих услуг», и мы получим раздвоенное представление о нашем экономическом будущем. Рабочее место обречено стать дарвинистским адом, в котором работники подчинены машинам, записывающим каждое их движение для разработки роботизированных копий. Единственное утешение возможно после работы, когда чудеса технологии, как предполагается, приведут к всеобщему удешевлению.

Эта модель несчастных работников и восторженных потребителей не просто внушает опасения, она еще и просто неустойчива. Снижение затрат на рабочую силу само по себе представляется достижением. Если я могу заменить своего дерматолога приложением, а учителей детей – интерактивными игрушками, у меня будет больше денег на другие вещи. То же относится и к общественными услугам: город с полицейскими-роботами или нация с солдатами-дронами может отчислять меньше налогов на их зарплату и на здравоохранение. Однако врачи, учителя, солдаты и полицейские – все они тоже потенциальные покупатели того, что пытаются продать другие. И чем меньше у них денег, тем меньше я могу с них запросить.

Говоря языком классических экономических категорий, главной опасностью оказывается в таком случае дефляция, раскручивающаяся спираль низких заработных плат и цен.

Даже в рамках наиболее эгоистического рассуждения можно сказать, что «издержки» товаров и услуг, которые я несу, не просто убыток для моего благосостояния. Скорее, это способ перераспределения покупательной способности, позволяющий предоставить определенные возможности тем, кто мне помог (создавая то, что я покупаю), чтобы со временем они помогли сами себе (чтобы, возможно, купить то, что произвожу я). Конечно, универсальный базовый доход мог бы в какой-то мере компенсировать снижение покупательной способности тех людей, которых роботы лишают работы. Но нереалистично ожидать того, что перераспределение достигнет результата, аналогичного «пред-распределению», то есть некоторого сбалансированного паттерна экономического вознаграждения. В большинстве демократических стран налоговые обязательства богатейших граждан снижались многие десятилетия[79]. Роботизация вряд ли изменит эту динамику, которая подрывает амбициозные планы по перераспределению богатства.

Если рассматривать экономику как устойчивую экологию трат и сбережений, как способ дробления власти (и ответственности) в части важных услуг, мы сможем лучше понять революцию робототехники. Традиционный анализ издержек и прибылей обычно требует поспешной замены людей машинами, даже если способности машин не дотягивают до стандарта. Чем ниже стоимость услуги, тем выше сравнительные прибыли. Но как только мы начинаем понимать выгоды самих издержек, представляемых как учет усилий и инвестиций в людей, недостатки этого упрощенного дуального представления об экономике становятся яснее. В предпоследней главе мы дополнительно обсудим выгоды издержек программ и курсов, которые рекомендуются в остальной части книги.

План книги

Многие адепты технологий стремятся к быстрой замене людей в областях, где нам не хватает данных и алгоритмов, чтобы эффективно выполнять работу. В то же время политики склоняются к фатализму, привычно жалуясь на то, что регулирующие ведомства и суды не могут поспеть за технологическим прогрессом. В этой книге будет обсуждаться как триумфализм технологического сообщества, так и минимализм политиков и стратегов; задача этого обсуждения в том, чтобы изменить публичное понимание роли государства в культивации технологического развития. Я предлагаю анализ программ развития, демонстрирующий силу нарратива и качественного суждения, управляющих развитием технологий, которые ныне подчинены алгоритмическим методам и количественным метрикам. Основная задача книги – извлечь накопленные знания из многих областей и позиций, чтобы представить их общественности, которая получит возможность ими пользоваться. В идеальном случае книга заложит основания для того, что Алондра Нельсон называет «предсказательным социальным исследованием», призванным оформлять технологическое развитие, а не только реагировать на него[80].

Перевод задач в код – не просто технологическая задача. Скорее, это приглашение определить то, что на самом деле важно в процессе обучения, в медицинском уходе, уходе за душевнобольными, журналистике и множестве других областей. Хотя есть искушение установить во всех этих сферах простые количественные показатели успеха и оптимизировать алгоритмы так, чтобы они им удовлетворяли (методом проб и ошибок, переработки накопленных данных или за счет применения каких-либо иных стратегий); определение того, что считать успехом или неудачей в подобных областях, остается крайне спорным вопросом. Обосновывать решение каким-то одним показателем – значит исключать все остальные. Никто не может «управляться» данными вообще. Некоторые данные имеют значение, но определение того, что считать значимым (а что отвергать в качестве нерепрезентативного), – это вопрос политический.

Среди специалистов по этике, занимающихся проблемами ИИ, возникло определенное противостояние прагматиков (которые работают с небольшими и обозримыми реформами вычислительных систем, призванными снизить их склонность к дискриминационным или иным нечестным суждениям) и футуристов, беспокойство которых вызвано развитием неподконтрольных систем и саморазвивающегося ИИ (который, как они опасаются, вскоре станет «умнее» или, по крайней мере, смертоноснее своих создателей – людей). Прагматики обычно отмахиваются от футуристов, которых преследуют призраки, тогда как футуристы считают, что задачи прагматиков слишком скучны в своей ограниченности. Я полагаю, что каждая из этих двух сторон нуждается в другой. Страшные предсказания футуристов, вполне вероятно, сбудутся, если мы уже сегодня не будем активно требовать прозрачности и подотчетности автоматизированных систем. Но мы вряд ли справимся с этой серьезной задачей, если не сумеем учесть фундаментальные вопросы человеческой природы и свободы, которые ставят футуристы.

Эти вопросы