Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл

Четвертого ноября 2010 года де Креспиньи был вынужден вникнуть в систему, поскольку столкнулся с критической ситуацией сродни той, которая произошла с командой рейса Air France, но в какой-то мере намного более угрожающей. Он летел на самолете «Аэробус A-380» – гигантском двухпалубном лайнере с четырьмя двигателями – из Сингапура в Австралию. Через четыре минуты после взлета один из двигателей взорвался. Осколки от разрушившейся турбины повредили множество топливных, гидравлических и электрических магистралей в крыле воздушного судна, выведя из строя контуры управления. Из пробоин в топливных баках фонтаном начало бить топливо.

Электронный централизованный бортовой монитор – выдаваемые компьютером сигналы тревоги отвлекли внимание экипажа самолета Air France – начал выстреливать в де Креспиньи очередями сообщений, каждое из которых требовало от пилотов выполнения перечня проверочных операций, но едва они успевали пройти один из них, как появлялся следующий. «Мы выполняли один перечень за другим, а они все прибывали – серьезные перечни, просто ужасные». В целом на пилотов за два часа свалилось 130 аварийных сообщений о незначительной неисправности и 120 основных предупреждающих сигналов.

Де Креспиньи был настолько перегружен, реагируя на предупреждения компьютера, что не мог распознать причину этого постоянного потока поломок. «Это было как участие в военном эксперименте по стрессоустойчивости. …Мы пытались угнаться за компьютерной программой, – писал де Креспиньи, – а возможно, должны были просто взять управление самолетом на себя и приземлиться».

В конце концов, де Креспиньи вспомнил действия ведущего руководителя полетом Джина Кранца во время аварии на «Аполлоне-13»: не зацикливаться на поломках, выяснить, что работает, и действовать с работающей аппаратурой так, чтобы благополучно вернуться. Де Креспиньи привел в порядок оставшиеся у него ресурсы, сосредоточился, и команда благополучно приземлила борт рейса QF32 в Сингапуре, при этом никто даже не получил травм.

Каждый раз, когда из-за человеческой ошибки гибнут люди, мы можем вспомнить случаи, когда жизни были спасены благодаря здравому смыслу и умениям людей. Рейс QF32 и «чудесное» приземление самолета US Airlines в реку Гудзон в 2009 году, выполненное капитаном Чесли Салленбергером, показывают, что опытные, хорошо подготовленные, сметливые люди – критически важные составляющие безопасности этих систем, от которых зависят наши жизни. Это последняя линия обороны, когда машины отказывают.

Случай с рейсом 447 авиакомпании Air France и другие подобные истории разрушают эти надежды. Летом 2013 года пилоты рейса 214 авиакомпании Asiana Airlines не смогли посадить современный «Боинг-777» в аэропорту Сан-Франциско в идеально ясный день. При аварийной посадке погибли три человека и многие получили травмы. Обозреватели задавались вопросом: не атрофировались ли из-за автоматизации их летные навыки, необходимые теперь только в критической ситуации?

Технические изменения по своей природе вызывают такие проблемы. Новые поколения авиалайнеров, кажется, изобилуют возросшим количеством предохранительных систем, и сложность всех этих систем увеличивается. Цифровое бортовое оборудование и программное обеспечение, конечно, сделали шаг вперед в плане упрощения и улучшения интерфейсов. У них образцовые показатели безопасности, и благодаря им самолеты стали безопаснее в целом. Но они же делают пилотирование самолетов сложнее. Яркий пример: системы управления полетом – компьютеры, контролирующие все плановые полетные задания, – имеют громоздкий интерфейс клавиатуры в стиле 1980-х, который вовлекает пилотов в процесс «синтаксических конструкций, последовательностей и процедур, а не образного мышления».

Авиации свойственен парадокс: по мере увеличения автоматизации возрастает безопасность во многих аспектах, но на пилотов в то же время ложится больший груз. Каждая техническая система может в какой-то момент отказать, а люди в эти критические минуты будут вынуждены вмешаться. Но, слишком отдалившись от своей машины, они, вероятнее всего, растеряли свои навыки, и тогда их вмешательство может привести к беде. Именно это случилось с рейсом 447 авиакомпании Air France. Но просто обвинить пилотов и объяснить все эти аварии и несчастные случаи «человеческими ошибками» не значит понять суть проблемы.

Несколько десятилетий ученые изучают этот вопрос, и полученные ими ответы нельзя назвать простыми. Джон Лаубер, авторитетный инженер по авиационной безопасности, который долгое время работал в Национальном управлении безопасности перевозок США, с иронией подводит итоги этих исследований следующим образом:

«Сюрпризы автоматизации», «зависимость от автоматизации» и «предубежденность по поводу автоматизации» были изучены учеными. Один пилот, у которого я брал интервью, отзывался о компьютерах своего самолета как «о кобре, замершей перед прыжком… Пока у меня есть хорошая длинная палка и я могу в нее тыкать, – добавлял он, – со мной, возможно, все будет хорошо, но я не могу быть уверен, что она не набросится на меня и не укусит».

На видео, записанном в 1990-е годы, мы можем увидеть учебный семинар авиакомпании American Airlines, где опытный пилот-инструктор сокрушается по поводу «детей пурпура» – пилотов, которые стали столь зависимы от автоматизации, что просто откидываются на спинку кресла и позволяют компьютеру вести самолет по курсу, который на мониторе показывается пурпурной линией.

Тем не менее большинство современных пилотов, как де Креспиньи, проходили обучение и начинали работать в традиционных кабинах с круглыми циферблатами и только потом переходили на компьютеризированные самолеты. Но современные молодые пилоты, которые делают карьеру сегодня, никогда не летали на воздушном судне с традиционным альтиметром или указателем воздушной скорости. Являются ли они другими людьми? Как признался мне один молодой пилот: «Кажется, сейчас все изменилось… это обычная работа. Ты садишься, включаешь компьютер, потом возвращаешься на землю, выключаешь компьютер и едешь домой».

Каким же стал новый опыт этой профессии, появившейся сто лет назад?

«Что он сейчас делает?» – это вопрос, который все пилоты задают по поводу своих компьютеров в тот или иной момент (исследователи называют это явление «режимом узнавания»). «Каждый раз, когда я говорю это, я ощущаю досаду, – рассказывает один пилот, – потому что я очень хорошо знаю, что 99 % времени он делает именно то, что я велел делать, а я велю ему делать то, чего сам не понимаю». Существует мнение, что только неопытные пилоты задают вопрос «Что он сейчас делает?». Опытный пилот просто пожмет плечами и скажет: «Ну, он так иногда делает». В этом ответе скрыто покорное смирение перед новой реальностью. Третьи вообще сердито заявляют: «Почему он это делает? – неправильный вопрос. Если ты хочешь задать вопрос, ты должен спросить: "Почему я позволил ему контролировать меня?" Избавься от него. Верни себе самолет».