Парадоксы эволюции. Как наличие ресурсов и отсутствие внешних угроз приводит к самоуничтожению вида и что мы можем с этим сделать - Алексей Аркадьевич Макарушин

Рис. 18. Схема марковского ограждения. В байесовской сети марковское ограждение узла А формируют его «родительские» узлы, узлы «детей» и другие «родительские» узлы его детей

Фактически марковское ограждение узла является единственным и исчерпывающим знанием, необходимым для предсказания поведения узла и его «детей».

Термин марковского оргаждения, введенный израильским и американским ученым-информатиком Джудой Перл (Judea Pearl) в 1988 году для описания открытых им особых свойств так называемых байесовских сетей – множеств переменных и их вероятностных зависимостей по Байесу, то есть позволяющих оценить по априорным вероятностям взаимозависимых событий (до совершения событий) апостериорные вероятности (после совершения части событий). Эти сети в модели Перла обладают марковским свойством, то есть их условное распределение вероятностей будущих состояний зависит только от нынешнего состояния, но не от последовательности предшествующих событий, что отличает эту модель, например, от пригожинских диссипативных структур, концепции динамического хаоса и СОК.

Именно марковские свойства – «отсутствие памяти» – связаны с экспоненциальным распределением вероятности, в отличие от СОК со степенными распределениями, что ведет к отсутствию «критичности» и катастрофических «хвостов». Здесь можно сделать весьма важное замечание: как указывалось, СОК предполагает биологические системы как неэргодические, то есть их динамика определяется совокупностью всех предыдущих состояний. Карл Фристон рассматривает для ПСЭ эргодические системы, то есть среднее по времени любой измеримой функции такой системы сходится за достаточный промежуток времени. Среднее количество времени, в течение которого занимается определенное состояние, можно интерпретировать как вероятность того, что система находится в этом состоянии при случайном наблюдении. Наиболее существенным в любом случае представляется то, что и неэргодичность в СОК, и эргодичность в теории Фристона обеспечивают так или иначе необратимость системы и продолжительность ее существования во времени. Фристон в строгой математической форме доказывает, что «жизнь – или биологическая самоорганизация – является неизбежным и эмерджентным (то есть возникающим только в системе, отсутствующим у отдельного элемента системы) свойством любой эргодической случайной динамической системы, обладающей марковским ограждением». Можно сказать, что марковское ограждение обеспечивает индивидуальность, а эргодичность – необратимость. Для обеспечения выживания во взаимодействии с окружающей средой биологическая система должна минимизировать неопределенность в причинах динамики входных сигналов из окружающей среды (Friston K. et al., 2012).

В ответ на неожиданность биологическая система оказывается должной поступать двумя способами – активно воздействовать на локальное окружение или/и изменять в себе его внутреннюю модель. Данный алгоритм позволяет сводить к минимуму свободную энергию и в конечном счете избегаемую неожиданность (минимизировать ошибку в предсказании).

С некоторыми оговорками априорную информацию (Prior belief по Фристону), на основе которой формируется предсказание, сравниваемое с «фактическими» сенсорными данными системы (Likelihood) и происходит апостериорное обновление (Posterior belief), можно соотнести с ценной информацией тезауруса и его пересмотром.

О сложности и случайности

Из всего сказанного выше можно сделать, на мой взгляд, грустный вывод в отношении искусственного интеллекта как потенциальной формы жизни: предиктивная способность компьютеров пока не сопровождается их автономностью (способностью обеспечивать свой гомеостаз), основанной на широком обмене не только информацией, но веществом и энергией с окружающей средой, то есть достаточной встроенностью во всеобъемлющий контекст Природы (что является достаточно условным и, возможно, скоро преодолимым ограничением) и в информационном смысле не основывается пока на наличии самостоятельной цели (что также не выглядит фундаментальным запретом). Грустным этот вывод делают неясные перспективы неизбежной конкуренции нескольких форм живого с совершенно разными, и хорошо, если не противоположными целями.

Саму сложность по совокупности вышеприведенных рассуждений можно понимать и как меру способности системы к локальным (подсистемным) уменьшениям энтропии (минимизация наблюдаемой энтропии). С другой стороны, еще со времени прорывных работ А. Н. Колмогорова и П. Мартина-Лефа, выполненных в МГУ в 1965-1966 годах (Martin-Lӧf P., 1966), показавших идентичность последовательностей с максимальной сложностью случайным последовательностям, становится больше свидетельств того, что случайность и сложность неразличимы. По этой линии рассуждений, система, стремящаяся достичь максимальной сложности, должна иметь [в себе] источник случайности. Другим основанием необходимости источника случайности внутри открытой, обрабатывающей входящую информацию динамической системы может быть феномен внутренних неоправданных искажений входящей информации при ее разложении на бинарные сигналы (а значительная доля молекулярно-биологических систем работает именно по этому принципу – «да-нет» на выходе вне зависимости от особенностей входящего сигнала), в силу, например, возникновения корреляции между «шумом квантования» (то есть бинарным разложением сигнала, а не квантовым физическим процессом) и обрабатываемым сигналом. Наложение случайного шума определенного спектра на квантованный сигнал может снизить нелинейные искажения и «улучшить качество» сигнала. Подобный прием (дизеринг, наложение псевдослучайного шума) применяется и при цифровой обработке звуков и изображений, позволяя значительно снижать объем передаваемой информации без значительного ухудшения качества звучания или изображения. В живых системах случайный шум создается, конечно, и термодинамическими взаимодействиями с молекулами окружения (воды), но, возможно, его интенсивность и спектр не вполне соответствуют требуемым характеристикам для «биодизеринга». В этом отношении, например, если митохондрии функционируют на основе квантовых механизмов – квантового туннелирования и квантовой когерентности, определенно случайных процессов в самом чистом виде, то этим самым могут обретать наибольшую функциональную сложность, служить субъектом мастеринга всей входящей информации и становиться ведущим управляющим элементом клетки.

Развитие понятия функциональной сложности приводит к известному закону необходимого разнообразия Уильяма Эшби, в нематематической формулировке сводимого к следующему высказыванию: качество управления иерархической системой возрастает с увеличением разнообразия управляющего воздействия и уменьшением потерь от неоднозначности управления. И далее в популярной интерпретации Седова-Назаретяна, что «обеспечение роста разнообразия верхнего уровня системы достигается за счет снижения разнообразия нижних иерархических уровней». С учетом возможного приравнивания сложности, в т. ч. управления, к случайности, при наличии механизмов купирования «неоднозначности управления», можно посчитать, что оптимальное выполнение верхнеуровневого управленческого функционала сводится к генерированию случайности управляющих воздействий. Добавление «смысла», «логики», «миссии» и «идеи» в алгоритм принятия решений может уводить, и достаточно далеко, от оптимальности управления. В этом отношении и практика гаданий древних царей, и случайный набор слов в предсказаниях древних оракулов, и фраза, приписываемая М. Е. Салтыкову-Щедрину, что «российская власть должна держать народ в состоянии постоянного изумления», приобретают новое наполнение, особенно когда решительность такого управления вполне компенсирует его неоднозначность.

Кроме того, в рамках данного подхода акцент с вероятности возникновения сложных/случайных структур смещается к вероятности возникновения алгоритмов, генерирующих такие структуры. Эту идею, помимо прочих авторов, прекрасно описывает Виктор Пелевин в «iPhuck10» – от вероятности написания «Войны и мира» гигантским числом обезьянок с печатными машинками за неограниченное время к вероятности написания ими алгоритма, который будет создавать тексты,