Всё об искусственном интеллекте за 60 минут - Питер Дж. Бентли

Судя по этому примеру, высокие шансы быть спасенными с «Титаника» имели мальчики, девушки и женщины из кают первого или второго класса.

Деревья решений популярны, потому что их легко понять. В отличие от нейросетевых подходов, которые являются своего рода черным ящиком (вы не знаете, как хранится информация или как принимаются решения), в деревьях решений вы всегда видите, что происходит. Если ваше дерево представляет собой решение того, какие слова и предложения при каких обстоятельствах употреблять, значит, вы сделали простой чат-бот.

Хотя эти методы работают относительно хорошо, наши языки все еще слишком сложны для такого простого машинного обучения. Исследователи поняли, что изучение огромного массива данных позволяет выявить статистическую вероятность ответов на любое утверждение. Это может использоваться для управления целым рядом приложений – от языкового перевода до прогнозирования текста и ответов в чат-ботах.

Статистические подходы показали неплохие результаты, за которыми последовала новая волна разработки моделей нейронных сетей. Word2Vec стал одним из самых популярных алгоритмов, использующих простую нейронную сеть с большим количеством данных, чтобы выяснить, какие комбинации слов имеют тенденцию появляться в непосредственной близости друг от друга. Зная набор контекстных слов, он способен предсказать, каким может быть следующее слово, или, если есть текущее слово, – набор возможных контекстных слов.

С помощью подобных умных алгоритмов удалось достигнуть реальных успехов. ИИ теперь способны сами выучить грамматику на достаточном количестве текстовых примеров. Они могут помечать части речи (глаголы, существительные), разбивать предложения на слова (сложная задача в случае с китайским языком, где границы слов не отмечены пробелами). Они могут распознавать именованные сущности, когда имена собственные обозначают места, имена или организации, а также определять логические значения предложений, переводя их в логические выражения. Они даже способны «почувствовать» настроение текста – это позитивная или негативная статья? Технологии, лежащие в основе этих достижений, все чаще используют варианты глубокого обучения со сверточными нейронными сетями, обучения с подкреплением и другие типы, такие как рекуррентные нейронные сети, рекурсивные нейронные сети, механизмы внимания и генеративные модели, помогающие компьютерам понимать концепты, занимающие несколько предложений, и генерировать более качественные ответы.

Чат-бот глубокого обучения может лучше понимать темы из нескольких предложений:

Некоторые из наиболее заметных достижений в обработке естественного языка пришли с потребительскими и бытовыми товарами, которые способны распознавать речь, осуществлять обработку естественного языка, а затем сообщать нам свои ответы.

Хотя понимание текста чрезвычайно полезно, люди – социальные животные. Нам нравится говорить. Любой робот, чтобы приспособиться к нам, должен уметь на самом деле понимать наши слова и отвечать. Это сложно, потому что мы создаем много посторонних шумов, соответствующих словам, и нам нравится выстраивать слова в предложениях по-разному, тем самым несколько меняя их значение. Возможно, неудивительно, что ИИ, с которыми мы разговариваем (например, Siri от Apple, Cortana от Microsoft, Amazon Echo и Google Assistant), представляют собой комбинацию одних из самых сложных алгоритмов из тех, что у нас есть. Первая часть их работы состоит в том, чтобы распознать произнесенные нами слова. Для этого может использоваться контролируемое обучение с нейронными сетями – почти таким же образом, каким выполняется распознавание изображений (см. главу 5).

Но звук – это шум, поэтому его не всегда удается четко расслышать. Чтобы преодолеть эту путаницу, ИИ исправляет свои первоначальные предположения на нечто более вероятное, поскольку большинство людей каждый день говорят одно и то же. Скорее всего, вы сказали «я в парке», а не «я в палке», даже если ИИ показалось, что он услышал последнее. После обработки вашей реплики чат-бот генерирует текстовый ответ. Он проходит через синтезатор речи: становится все больше алгоритмов ИИ, которые анализируют высказывания и используют контекст для изменения слов и их синхронизации, чтобы они произносились и звучали правильно и естественно. Все эти операции должны быть выполнены мгновенно в режиме реального времени.