Искусственный интеллект – надежды и опасения - Джон Брокман

например, устанавливать, выявлялись (усваивались) ли подобные признаки ранее, определять, «высокочастотны» они (по аналогии со звуковыми колебаниями) или «низкочастотны» (тяготеющие к непрерывности, как реальные признаки реального мира), и т. д.

Только потому, что системы ИИ порой достигают локальных минимумов, не следует делать вывод, будто в силу этого они менее похожи на естественные. Люди – не исключено, все формы жизни вообще – частенько застревают на локальных минимумах.

Возьмем наше понимание игры в го, которую люди изучали, осваивали и оптимизировали на протяжении тысячелетий. ИИ понадобилось менее трех лет, чтобы сообразить, что мы все время играли неправильно, что существуют лучшие, почти «инопланетные» тактики игры, которые мы никогда не рассматривали – прежде всего потому, что наш мозг не обладает «процессорной мощностью» на просчет стольких ходов вперед.

Даже в шахматах, которые значительно проще и которые считались давно понятными, «брутфорсные»[118] машины способны одолеть нас с использованием наших собственных стратегий. Шахматы, когда их изучили системы искусственного интеллекта на основе нейронных сетей, тоже, как выяснилось, предполагают совокупность «чуждых» стратегий выигрыша, которые мы никогда не рассматривали (скажем, пожертвовать ферзем в дебюте партии, чтобы получить неочевидное долговременное преимущество). Такое впечатление, будто до сих пор мы играли в двумерные версии игр, а на самом деле измерений намного больше.

Если что-то из сказанного выше звучит знакомо, причина в том, что физика пытается преодолеть эти топологические трудности вот уже многие десятилетия. Идея многомерного пространства и сведение математики к постижению геометрии и взаимодействий «мембран», недоступных нашим чувствам, – таков предел, за который уходят после смерти приверженцы великой теории всего на свете[119]. В отличие от многомерной теоретической физики, ИИ есть то, с чем можно экспериментировать в реальности.

Вот что мы собираемся сделать. Следующие несколько десятилетий ознаменуются прорывными исследованиями способов мышления, которые не удалось обнаружить за 7 миллионов лет эволюции. Мы собираемся оставить за спиной локальные минимумы и отыскать более глубокие минимумы, возможно, даже глобальные. Когда это произойдет, мы, быть может, научим машины разумности комаров – навсегда понизив космические градиенты до конечной цели, какой бы та ни была.

Глава 15

«Информация» по Винеру, по Шеннону и… И по нашим нынешним представлениям

Дэвид Кайзер

профессор-стипендиат по истории науки и профессор физики Массачусетского технологического института, руководитель программы МТИ по науке, технологиям и обществу, автор книг «Как хиппи спасли физику: наука, контркультура и квантовое возрождение» и «Американская физика и пузырь холодной войны» (готовится к печати).

Дэвид Кайзер – «атипичный» физик, интересующийся и пишущий о пересечениях его «родной» дисциплины с политикой и культурой.

На первой нашей встрече (в Вашингтоне, штат Коннектикут), предшествовавшей появлению настоящего сборника, он подробно рассказал, как менялось восприятие термина «информация» со времен Винера, то есть с военно-промышленной эпохи и периода холодной войны. Винер уподоблял информацию энтропии – в том отношении, что ее невозможно сохранить (и монополизировать); по его мнению, благодаря этому обстоятельству наши атомные секреты и прочие тайны недолго будут оставаться таковыми. Сегодня, хотя, как и предполагал Винер, информация, правдивая и ложная, быстро распространяется по всему другому Вашингтону[120], в экономическом пространстве она действительно накапливается, коммодифицируется и монетизируется.

Эта ситуация, как говорит Дэвид, «не совсем хороша и не совсем плоха; насколько я могу судить, все определяется тем, сильно ли вас раздражает онлайн-реклама носков или европейских речных круизов, вылезающая в браузере через несколько минут после того, как вы ввели соответствующий поисковый запрос».

Если оставить в стороне распространение информации, Дэвид жаловался тем из нас, кто присутствовал на первой встрече, что во времена Винера физикам не составляло особого труда изучить содержание журнала «Физикал ревью». Экземпляры всех номеров укладывались на стол аккуратной стопкой. А сегодня «на нас обрушивается водопад в пятьдесят тысяч открытых научных журналов за минуту», и кто разберет, о чем они пишут? Винер, по утверждению Дэвида, ничего подобного не предвидел, и поневоле возникает вопрос, не пора ли озаботиться новым набором руководящих метафор.

В «Грезящих наяву», обширной истории научной мысли от древних времен до эпохи Возрождения, Артур Кестлер[121] показал, какое напряжение вызывало наиболее драматические рывки нашего космологического воображения. По его утверждению, сегодня, когда мы перечитываем великие произведения Николая Коперника и Иоганна Кеплера, нас поражает не только их удивительное невежество (погруженность в магию и мистицизм раннего периода), но и не менее удивительная современность взглядов.

Я обнаруживаю ту же двойственность – зигзагообразные складки оригами старого и нового – в классической книге Норберта Винера «Человеческое применение человеческих существ». Впервые опубликованная в 1950 году и переработанная в 1954 году, эта работа во многом оказалась пророческой. Винер, полимат[122] из МТИ, раньше многих других наблюдателей осознал, что «понимание общества возможно исключительно посредством изучения сообщений и используемых для их передачи средств связи». Винер утверждал, что контуры обратной связи, главное звено его кибернетической теории, будут играть определяющую роль в социальной динамике. Эти контуры не только объединят людей, но и помогут связать людей с машинами, а также, что особенно важно, свяжут машины с машинами.

Винер предвидел мир, в котором информацию станет возможным отделить от окружающей среды. Люди или машины смогут обмениваться сообщениями через огромные расстояния и использовать их для создания новых предметов в конечных точках, без «перемещения… крупицы материи с одного конца линии на другой». Это предвидение сегодня реализуется в форме сетевых 3D-принтеров. Еще Винер воображал циклы обратной связи в машинах, ведущие к прорывам в области автоматизации, даже для задач, которые прежде подразумевали исключительно человеческую деятельность. «Машина, – писал он, – не отдает предпочтения ни физическому труду, ни труду «белых воротничков».

При этом многие основные положения «Человеческого применения человеческих существ» кажутся ближе к XIX, чем к XXI столетию. В частности, пусть Винер и ссылался при любой возможности на новые для того времени исследования Клода Шеннона по теории информации, сам он, похоже, не до конца разделял шенноновское представление об информации как совокупности минимальных и лишенных значения битов. Впоследствии теория Шеннона успела стать основой для достижений в области обработки больших данных и глубинного обучения, что дополнительно побуждает к ревизии и пересмотру кибернетических воззрений Винера. Чем будет отличаться завтрашний искусственный интеллект, если практики ИИ переосмыслят винеровское представление об «информации»?

* * *

Когда Винер писал свою книгу, он опирался на относительно свежий опыт военных исследований и моральной неопределенности (как ему казалось) интеллектуальной деятельности в рамках военно-промышленного комплекса. Всего несколькими годами ранее он заявил со страниц журнала «Атлантик мансли», что не намерен «публиковать никаких будущих работ, способных нанести