Искусственный интеллект – надежды и опасения - Джон Брокман

усилий самодеятельных творцов».

68

Имеется в виду теория статистической механики, разработанная американским ученым У. Гиббсом.

69

То есть рабочие и служащие соответственно.

70

Имеются в виду многочисленные технологические компании и стартапы, базирующиеся в Калифорнии.

71

В доме по этому адресу А. Эйнштейн проживал с 1935 по 1955 г. Сегодня там находится мемориальный музей «Дом Эйнштейна».

72

Science, 4 August 1972, Vol. 177, No. 4047, pp. 393–96. – Примеч. автора.

73

Гипотезу об инфляции (расширении) Вселенной на ранней стадии Большого взрыва выдвинул в 1981 г. американский физик А. Гут. Сегодня считается, что проверить эту гипотезу удастся, когда исследователи смогут «приблизить» свои эксперименты к моменту Большого взрыва.

74

Мысленного эксперимента (нем.). Обычно «изобретение» этого термина приписывается немецкому философу Э. Маху, который описывал воображаемое проведение некоего физического эксперимента – и затем просил своих студентов воспроизвести такой эксперимент в реальности.

75

Несведущие, не разбирающиеся в чем-либо (ит.).

76

Vincent C. Müller & Nick Bostrom, «Future Progress in Artificial Intelligence: A Survey of Expert Opinion», in Fundamental Issues of Artificial Intelligence, Vincent C. Muller, ed. (Springer International Publishing Switzerland, 2016), pp. 555‐72. https://nickbostrom.com/papers/survey.pdf. – Примеч. автора.

77

Upton Sinclair, I, Candidate for Governor: And How I Got Licked (Berkeley CA: University of California Press, 1994), p. 109. – Примеч. автора.

78

https://futureoflife.org/ai-principles/ – Примеч. автора.

79

Равновесие Нэша – одно из ключевых понятий теории игр, позиция, когда невозможно улучшить свой результат, если другие участники игры не меняют стратегий; американский математик Дж. Нэш доказал необходимость такого равновесия для всех конечных игр с любым числом игроков.

80

См., например: Hannah Arendt, Eichmann in Jerusalem: A Report on the Banality of Evil (New York: Penguin Classics, 2006). – Примеч. автора. Рус. пер.: Арендт Х. Банальность зла. Эйхман в Иерусалиме. М.: Европа, 2008.

81

См. Elizabeth Kolbert, The Sixth Extinction: An Unnatural History (New York: Henry Holt, 2014). – Примеч. автора.

82

Перевод В. Рогова. У. Хенли – английский поэт и литературный критик, друг Р. Л. Стивенсона.

83

Ирвинг Дж. Гуд – британский математик, вместе с А. Тьюрингом в годы Второй мировой войны трудился в Блетчли-парке, а после войны участвовал в разработке вычислительных машин.

84

Хью Прайс – австралийский философ-«неопрагматист», преподает в Кембриджском университете, с 2015 г. возглавляет Центр будущего интеллекта.

85

Тж. «песенная» и «поющая» революция, принятое в странах Балтии обозначение мирных акций конца 1980-х и начала 1990-х г., проводившихся с целью восстановления государственного суверенитета Латвии, Литвы и Эстонии.

86

Напечатано после смерти Тьюринга: Phil. Math. (3) vol. 4, 256‐60 (1966). – Примеч. автора.

87

Irving John Good, «Speculations concerning the first ultraintelligent machine», Advances in Computers, vol. 6 (Academic Press, 1965), pp. 31–88. – Примеч. автора.

88

Katja Grace, et al., «When Will AI Exceed Human Performance? Evidence from AI Experts», https://arxiv.org/pdf/1705.08807.pdf. – Примеч. автора.

89

Эту притчу Д. Адамс озвучил на конференции по цифровой биологии в Кембридже в 1998 г.

90

Американский инженер, теоретик молекулярной робототехники, автор апокалиптического сценария «торжества серой слизи» как итога развития ИИ.

91

DeepMind – британская компания в области искусственного интеллекта, разработчик программы AlphaGo и нейронной сети для видеоигр. OpenAI – американская некоммерческая организация в области ИИ (среди ее учредителей – И. Маск), декларирует своей целью создание «дружественного искусственного интеллекта». О проекте Google Brain см. выше.

92

Перечисляются апокалиптические сценарии гибели человеческого имущества и самого человечества из мифологии, классической литературы, современной поп-культуры и науки: Пандора в греческой мифологии – первая женщина, открыла запретный ящик с дарами богов, из-за чего на людей обрушились неисчислимые беды; в легенде о Фаусте любознательность ученого ведет к низвержению в ад (спасение души – более поздняя версия); в балладе И.-В. Гете «Ученик чародея» нерадивый подмастерье мага заставляет предметы обихода заниматься уборкой по дому – и едва не разрушает дом; ученый в романе М. Шелли «Франкенштейн» оживляет искусственного человека, который впоследствии принимается преследовать своего создателя; HAL (ХЭЛ или ЕАЛ 9000) – самообучающийся компьютер из цикла произведений «Космическая одиссея» А. Кларка, пытается умертвить экипаж звездолета; накануне 2000 г. в СМИ и в научной среде высказывались опасения, что при пересечении «рубежа столетий» компьютеры перестанут функционировать из-за нарушения логики; серая слизь – самореплицирующиеся наноботы, которые, как описывал в своей книге «Машины сознания» (1996) Э. Дрекслер, способны уничтожить все живое.

93

Жизненного духа (фр.).

94

Отсылка к знаменитым литературным произведениям – романам Дж. Оруэлла («1984») и А. Кларка («2001: Космическая одиссея»).

95

Neil Gross & Solon Simmons, «The Social and Political Views of American College and University Professors», in N. Gross & S. Simmons, eds., Professors and Their Politics (Baltimore: Johns Hopkins University Press, 2014). – Примеч. автора.

96

Отсылка к знаменитой одноименной книге Д. Карнеги.

97

Steven Pinker, «Safety», Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (New York: Penguin, 2018). – Примеч. автора.

98

Квантовый алгоритм, один из первых алгоритмов для квантового компьютера.

99

Польский физик, специалист в области квантовых вычислений.

100

Кубит – квантовый разряд / наименьшая единица хранения информации в квантовом компьютере.

101

Перевод Ю. Корнеева.

102

Обезьянничанье (имитация конкретного поведения без понимания) использует «системные» функции, например зеркальную нейронную систему. Но поведение, имитируемое таким образом, существенно ограничено по сложности. См.: Richard Byrne, «Imitation as Behaviour Parsing», Phil. Trans. R. Soc., B 358:1431, 529‐36 (2003). – Примеч. автора.

103

Karl Popper, Conjectures and Refutations (1963). – Примеч.