Человек + машина - Джеймс Уилсон

Таблица 1. Ответственный и устойчивый искусственный интеллект: новые факторы, которые должны учитывать эксперты по устойчивости систем искусственного интеллекта

В будущем возрастет роль искусственного интеллекта в обеспечении того, чтобы передовые системы действовали согласно этическим принципам и моральным нормам человеческого сообщества. Исследователи Школы интерактивных вычислений Технологического института Джорджии Марк Ридл и Брент Харрисон создали прототип системы искусственного интеллекта Quixote, которая способна усваивать этические принципы (например, что нельзя воровать) при чтении прозы. По словам Ридла и Харрисона, эта система умеет обнаружить ценности, анализируя художественные тексты, где люди взаимодействуют друг с другом. Такие произведения описывают культуру и общество, кодируя тем самым «общие знания, социальные протоколы, примеры надлежащего и ненадлежащего поведения, а также стратегии преодоления трудностей»[104]. Так, «прочитав» множество историй, система Quixote узнала о том, что стремление к эффективности весьма похвально, за исключением тех случаев, когда это противоречит другим важным факторам. Однако даже при наличии таких инноваций менеджерам по соблюдению этических норм все равно необходимо будет осуществлять мониторинг и обеспечивать надлежащее функционирование сложных систем такого рода.

Система искусственного интеллекта может быть технически совершенной и этичной, но все же оказывать негативное воздействие на организацию. Именно поэтому компаниям понадобятся специалисты по этике автоматизации, в обязанности которых будет входить оценка неэкономического воздействия систем искусственного интеллекта. Один из важных аспектов — общий уровень принятия новых технологий сотрудниками компании. Разумеется, они боятся потерять работу из-за автоматизированной прикладной системы, которая способна функционировать так же хорошо, как человек, если не лучше.

Сильные эмоциональные реакции могут возникать в ответ на внедрение роботизированных систем искусственного интеллекта. Изучая, как мы реагируем на роботов, японский специалист по робототехнике Масахиро Мори обнаружил одну любопытную закономерность. Чем реалистичнее робот, тем выше наша эмоциональная близость и эмпатия, но до определенного момента. Когда робот становится еще более похожим на нас, любые изъяны или отклонения начинают вызывать у нас отторжение. Однако если эти изъяны убрать, робота будет почти не отличить от человека, он снова начнет вызывать у нас положительные эмоции, и со временем уровень эмпатии к такому роботу сравнится с уровнем эмпатии к человеку. Резкое снижение эмпатии, которое Мори обозначил термином «зловещая долина», может стать препятствием на пути успешного взаимодействия человека и машины[105]. Специалисты по этике автоматизации должны знать об этом феномене.

В целом эффективно функционирующие системы искусственного интеллекта целесообразно продвигать, а их варианты дублировать и внедрять в других подразделениях компании. С другой стороны, необходимо ограничить функции систем искусственного интеллекта, работающих неудовлетворительно, а если усовершенствовать их невозможно, то снимать с эксплуатации. Решением этих задач будут заниматься менеджеры по связям с машинами — специалисты с функциями, как у HR, только контролировать они будут не сотрудников, а системы искусственного интеллекта. Эти специалисты будут работать в «отделе по связям с машинами» и регулярно проводить аттестацию всех систем искусственного интеллекта, внедренных в организации. В ходе такой аттестации нужно будет проанализировать множество факторов, в том числе объективную производительность системы, а также опосредованные цели, например стремление следовать корпоративным ценностям, таким как повышение разнообразия и забота об окружающей среде.

Вопросы, которые мы подняли в этой главе, лишь начало. Мы рассказали только о нескольких новых профессиях, появляющихся по мере того, как искусственный интеллект охватывает все больше бизнес-процессов. Описанный здесь функционал — малая часть множества новых профессий, которые возникнут в будущем. Действительно, по мере того как организации развиваются вместе со своими командами людей и машин, в них неизбежно будут появляться должности, сходные по функционалу со специалистами по обучению, разъяснению и устойчивости систем искусственного интеллекта. В связи с возникновением новых профессий (которые демонстрируют важность навыков человека в «недостающей середине») руководители должны иначе подходить к потребностям команд людей и машин. (Речь идет о таких аспектах нашей модели MELDS, как мышление и лидерство.) В частности, новые профессии потребуют определенного образования, профессиональной квалификации и опыта. Например, специалистам по обучению эмпатии не обязательно обладать традиционным дипломом о высшем образовании. Людей со средним образованием, от природы наделенных состраданием, можно обучить необходимым навыкам в рамках корпоративных программ профессиональной подготовки. Многие новые профессии могут привести к появлению «безворотничковой» рабочей силы, которая будет постепенно формироваться на основе традиционных «синих воротничков» в области промышленного производства и в других секторах экономики.

С другой стороны, представителям некоторых новых профессий (таких как менеджер по соблюдению этических норм) понадобятся высшее образование и специальные навыки. Например, большинство ведущих компаний уже сейчас адаптируют свои программы профессиональной подготовки к тем специальностям, о которых мы говорили выше, внедряя методы из психологии детского развития.

Главный вывод: компаниям, внедряющим технологии искусственного интеллекта, необходимо переосмыслить свои стратегии формирования базы талантливых специалистов, чтобы более эффективно привлекать, обучать, управлять и удерживать таких сотрудников. Очевидно, внедрение систем искусственного интеллекта потребует новых подходов и процессов, причем не только в области информационных технологий, но и во всех остальных. Мы обсудим соответствующие управленческие вопросы более подробно в главе 7. В конце концов, во многих случаях проблемы зачастую связаны с людьми, а не с технологиями.

Три способа выхода на новый уровень продуктивности с помощью искусственного интеллекта

Если вы хотите сделать стул с нуля, вам придется сначала создать Вселенную. Не такая уж простая задача, верно? Мы перефразировали Карла Сагана, который в своем знаменитом изречении говорил о выпечке яблочного пирога, а не о создании стула, но его подход верен и в нашем случае. Саган имел в виду, что ни одну на первый взгляд простую задачу невозможно решить без знания законов природы, лежащих в ее основе. Иначе говоря, каждый яблочный пирог и каждый стул содержит в себе целую Вселенную с ее законами физики и математики. К счастью для пекарей и столяров, их творческий процесс подразумевает, что большинство полезных свойств Вселенной уже разгаданы. Более сложные аспекты (такие как алхимическое сочетание ингредиентов или углы ножек стула) носят скрытый характер — они включены, скажем, в проверенный временем рецепт или в программное обеспечение системы автоматизированного проектирования.