Искусственный интеллект (ИИ)

Искусственный интеллект (AI) создает системы, выполняющие задачи, обычно требующие человеческого интеллекта — распознавание речи и изображений, перевод, игры, вождение, генерация текста. Большинство современного ИИ использует машинное обучение — алгоритмы, которые учатся паттернам из данных, а не программируются шаг за шагом. Внутри него глубокое обучение, использующее нейронные сети со множеством слоев, является доминирующим с 2010-х годов.

Гуманоидный робот помещает многие из этих способностей в одно тело: он использует ИИ, чтобы видеть лица, понимать речь и двигать лицом и руками реалистичным образом.

Многие задачи ИИ расположены на графе — узлах (состояния, места), соединенных ребрами (ходы, отношения).

• поиск пути: дороги образуют граф; кратчайший маршрут — поиск по графу (алгоритм Дейкстры, алгоритм A*).
• игры: каждая позиция на доске — узел, каждый ход — ребро; минимакс с альфа-бета отсечением ищет дерево игры.
• поиск в пространстве состояний: задача планирования — это перемещение между состояниями с применением операторов для достижения цели.
• представление знаний: семантическая сеть имеет концепции в виде узлов и отношения в виде рёбер («собака IS-A животное»); граф знаний хранит факты о мире для поисковых систем и ассистентов.

Стандартные инструменты обхода графов включают поиск в ширину и поиск в глубину.

«Опишите назначение и структуру графа в системе ИИ». Назначение: представить задачу в виде множества состояний (или мест) и возможных ходов между ними, чтобы алгоритм мог выполнить поиск решения, например, кратчайшего или наименее дорогостоящего маршрута, или лучшего следующего хода. Структура: множество узлов (вершин), каждый из которых представляет состояние, локацию или объект, соединённых рёбрами, представляющими связи между ними; каждое ребро может иметь вес (стоимость, расстояние или время), а рёбра могут быть направленными (однонаправленными) или ненаправленными. «Объясните использование графов для содействия ИИ»: граф является моделью, на которой работают алгоритмы поиска ИИ: алгоритмы A* и Диjkстры находят оптимальные пути через него (навигация, маршрутизация), позиции игр образуют дерево, которое обходится для нахождения лучшего хода, а знания, представленные в виде графа, позволяют системе рассуждать о том, как связаны факты.

Алгоритм Диjkстры. Он находит кратчайшее расстояние от старта до каждого узла. Ведите таблицу наилучшего найденного на данный момент расстояния до каждого узла (старт 0, все остальные бесконечность). Повторяйте взятие непосещённого узла с наименьшим расстоянием, помечайте его посещённым, и для каждого соседа проверяйте, даёт ли прохождение через этот узел меньшее расстояние; если да, обновите его и запишите, откуда оно пришло. Останавливайтесь, когда все узлы посещены (или достигнута цель).

Разобранный пример. Найдите кратчайшие расстояния от H до каждого другого узла на графе выше.

Кратчайшие расстояния: A 4, B 3, D 8, C 9, G 10, а путь до G — H–A–D–G (читайте метки «пришел из» в обратном порядке). На шаге 3 A предлагает D расстояние $4 + 4 = 8$, что лучше, чем 9, найденное через B, поэтому D обновляется; на шаге 5 C мог бы достичь G за $9 + 3 = 12$, что хуже, чем 10, поэтому ничего не меняется. Демонстрация этих сравнений — это «рабочий процесс», который требует вопрос.

Алгоритм A.* Диjkстра исследует во всех направлениях. A* добавляет эвристику $h$, оценку оставшегося расстояния, и всегда расширяет узел с наименьшим $f = g + h$, где $g$ — пройденное расстояние на данный момент. При разумной эвристике (никогда не переоценивающей), он находит тот же кратчайший путь, рассматривая гораздо меньше узлов, поэтому его используют навигаторы и игры. На экзамене дается $h$ для каждого узла и таблица для заполнения.

Разобранный пример. Найдите путь от H до G с помощью A*, показывая рабочий процесс.

Путь H–A–D–G, длина 10, тот же, что и у Диjkстры, но C так и не был расширен. Каждый раз, когда узел достигается вторым путем, сохраняйте меньшее $g$; поиск заканчивается, когда цель является узлом с наименьшим $f$. Укажите значения $g$, $h$ и $f$ в каждой строке: это баллы.

ИНС вдохновлена нейронами мозга. Искусственный нейрон:

• принимает несколько входных значений, умножает каждое на вес и суммирует их с членом смещения.
• применяет функцию активации (нелинейную функцию, такую как ReLU) к сумме.
• выдает результат, который питает последующие нейроны.

Нейроны расположены слоями: входной слой, один или несколько скрытых слоев (где изучаются полезные внутренние паттерны) и выходной слой. При наличии многих скрытых слоев это глубокая нейронная сеть, а её обучение называется глубоким обучением.

ИНС позволяют моделям усваивать сложные паттерны непосредственно из сырых данных (пикселей, аудио, текста) без ручного проектирования признаков — обеспечивая прорывы в распознавании изображений, распознавании речи, машинном переводе и игре в игры. Они хорошо справляются с большими объемами данных, шумным или очень сложным входом и паттернами, которые слишком трудно захватить с помощью явных правил.

«Объясните, что понимается под искусственной нейронной сетью». Модель сети нейронов мозга, состоящая из слоёв соединённых узлов: входного слоя, одного или нескольких скрытых слоёв и выходного слоя. Каждое соединение имеет вес; каждый узел суммирует взвешенные входы и передаёт результат через функцию активации на следующий слой. «Объясните, как ИНС обеспечивают машинное обучение» (три балла): сеть обучается на большом количестве примеров; для каждого примера вывод сравнивается с ожидаемым результатом, и ошибка используется для корректировки весов (обратное распространение ошибки), чтобы уменьшить ошибку; после обработки достаточного количества примеров веса кодируют паттерны в данных, и сеть может классифицировать или предсказывать для новых данных, которые она ранее не видела. «Укажите причину наличия нескольких скрытых слоёв»: каждый дополнительный слой объединяет признаки, найденные предыдущим слоем, в более сложные, более абстрактные признаки, так что сеть может изучать более сложные зависимости (края, затем формы, затем объекты); именно это делает сеть глубокой.

Машинное обучение

Обобщающий термин — любой алгоритм, обучающийся на данных. Три парадигмы:

• обучение с учителем — данные имеют метки (изображения помечены «кошка»/«собака»); алгоритм учится входу → метке. Используется для классификации (категории) и регрессии.
• обучение без учителя — нет меток; алгоритм находит структуру, например, кластер похожих клиентов.
• обучение с подкреплением (ниже).

Используйте ML, когда явные правила были бы непрактичными (фильтры спама, рекомендации, обнаружение мошенничества).

«Опишите обучение с учителем и обучение без учителя» (указанные формулировки). Обучение с учителем: алгоритм обучается на помеченных обучающих данных, каждый пример сопоставлен с правильным выходом (целевым значением); он учит зависимости между входами и выходами и использует её для классификации или предсказания для новых входов; ответы известны во время обучения, поэтому ошибку можно измерить. Обучение без учителя: данные не помечены, правильные ответы не даны; алгоритм самостоятельно ищет паттерны, структуру или группировки в данных (кластеризация похожих элементов, поиск ассоциаций); результатом является набор категорий или связей, которые не были определены заранее. Как они отличаются: помеченные против непомеченных данных; известные выходы против открытой структуры; обучение с учителем используется для предсказания (классификация, регрессия), обучение без учителя — для исследования (кластеризация, обнаружение аномалий). Оба являются категориями машинного обучения; третья — обучение с подкреплением.

Глубокое обучение

Подмножество ML, использующее глубокие нейронные сети. Нижние слои учат простые паттерны (края, фонемы), верхние слои объединяют их в абстрактные концепции. Требует больших объёмов данных и большой вычислительной мощности (GPU); для малых наборов данных более простые методы ML часто работают лучше.

«Объясните, что понимается под глубоким обучением» (три балла). Машинное обучение, использующее искусственные нейронные сети с многими скрытыми слоями (глубокие сети); сеть обучается на очень больших объёмах данных, и каждый слой извлекает признаки из выхода нижнего слоя, так что сеть сама учит необходимые ей признаки, вместо того чтобы они задавались программистом. Причины использования: она может решать задачи, слишком сложные для ручных правил или поверхностных моделей (распознавание лиц, понимание речи, перевод текста); она улучшается по мере появления больше данных; устраняет необходимость человеческой разработки признаков; и может обрабатывать неструктурированные данные, такие как изображения, звук и текст. Как сделать её более эффективной: больше (и лучше помеченных) обучающих данных; больше слоёв или узлов в пределах переобучения; большая вычислительная мощность (GPU) и время обучения; настройка скорости обучения и других параметров. Примеры: распознавание речи в голосовых помощниках, распознавание изображений в медицинских снимках и беспилотных автомобилях, машинный перевод, системы рекомендаций.

Обучение с подкреплением

В обучении с подкреплением агент действует в среде; каждое действие меняет состояние и возвращает вознаграждение. Агент учит политику (стратегию), максимизирующую общее вознаграждение со временем, методом проб и ошибок без предварительных меток. Используется для задач последовательного принятия решений — игр, управления роботами, автономного вождения.

«Объясните, что означает «обучение с подкреплением» (три балла).»** Агент обучается, взаимодействуя со своей средой: он выполняет действие, среда переходит в новое состояние и возвращает вознаграждение (или штраф), а агент корректирует своё поведение, чтобы максимизировать суммарное вознаграждение во времени. Для обучения не требуется размеченные данные: агент учится методом проб и ошибок, выявляя, какие действия эффективны на основе получаемых им вознаграждений, и постепенно формирует стратегию (политику), определяющую действия в каждом состоянии. Применяется там, где правильный ответ не известен заранее, но результат действия можно оценить: компьютерные игры (шахматы, го), управление роботами, регулировка работы светофоров, распределение ресурсов. Компьютер, играющий в настольную игру против пользователя, обучается таким образом или использует поиск по дереву игры с алгоритмом минимакс для выбора хода, обеспечивающего наилучший возможный исход в худшем случае.

Настоящим примером является беспилотный автомобиль. Датчики Lidar и камеры (вращающийся модуль на крыше) создают живое изображение дороги, а обученная стратегия принимает решения о безопасном рулении, ускорении и торможении.

Обучение заключается в настройке весов так, чтобы выходы соответствовали целевым значениям. Стандартным методом является обратное распространение ошибки (backpropagation) с использованием спуска по градиенту. Для каждого примера из обучающей выборки:

1. прямой проход — подача входных данных через сеть к выходу.
2. вычисление ошибки с помощью функции потерь (одно число, отражающее степень отклонения выхода от цели).
3. обратный проход — распространение ошибки назад, вычисление градиента каждого веса (вклад которого в ошибку) с использованием правила дифференцирования сложной функции.
4. обновление весов на небольшой шаг (определяемый скоростью обучения), который уменьшает ошибку.

Процесс повторяется для множества примеров и множество проходов (эпох) до тех пор, пока ошибка перестанет уменьшаться. Название «обратное» происходит от шага 3: ошибка течет от выхода назад к входу, поэтому градиент каждого веса находится за один проход. После обучения для получения прогноза по новому входному данным требуется лишь один прямой проход.

«Опишите метод обратного распространения ошибки» (четыре балла).» (1) Входные данные подаются напрямую через сеть, и их выход сравнивается с ожидаемым (целевым) выходом; (2) разница является ошибкой; (3) ошибка проходит назад через сеть, слой за слоем от выхода к входу, и для каждого веса вычисляется его доля в ошибке; (4) веса корректируются пропорционально их вкладу, в направлении, которое уменьшает ошибку; (5) процесс повторяется с множеством примеров, пока ошибка не станет достаточно малой. Суть метода заключается в том, что сеть со скрытыми слоями не имеет прямого способа узнать, какой именно внутренний вес вызвал ошибку на выходе; обратное распространение распределяет ответственность.

Некоторые задачи предсказывают число (цену дома, температуру завтра) — это регрессия, в отличие от классификации (категории).

Линейная регрессия аппроксимирует прямую линию (или гиперплоскость):

Необходимо выбрать коэффициенты для минимизации суммы квадратов ошибок относительно обучающих данных. Применяйте этот метод, если зависимость выглядит примерно линейной и вам нужна интерпретируемая модель. Для криволинейных данных используйте полиномиальную, дерево решений или нейросетевые методы регрессии — та же идея: определить модель, задать функцию потерь и настроить параметры для её минимизации. И регрессия, и классификация относятся к обучению с учителем; выбор зависит от того, является ли ответ числом или категорией.

«Опишите методы регрессии в машинном обучении» (два балла).» Статистические методы, находящие связь между входными переменными и непрерывным выходом путем подбора функции (прямой или кривой) к обучающим данным с наименьшей суммой ошибок; затем подобранная функция используется для предсказания выхода для новых входных данных. Линейная регрессия подстраивает прямую линию; другие методы подстраивают кривые. Регрессия предсказывает значение (цену, температуру, время); классификация предсказывает категорию, что и является ключевым различием, ожидаемым на экзамене.

Многие экзаменационные сценарии используют одинаковую схему — глубокую модель, обученную на размеченных данных, часто несколько моделей, объединенных в конвейер обработки:

• идентификация клиентов в автоматическом магазине: система обучена на размеченных изображениях лиц; камера фиксирует лицо; распознавание изображений извлекает его представление; оно сопоставляется с зарегистрированными клиентами; наиболее близкое совпадение идентифицирует человека.
• чтение текста с изображений: распознавание изображений находит области с текстом; оптическое распознавание символов извлекает символы; машинный перевод преобразует их; синтез речи озвучивает их вслух.
• проверка товаров при кассе: искусственный интеллект для обнаружения объектов, обученный на размеченных изображениях продуктов, определяет, какие товары кладутся в корзину, и списывает деньги со счета.

К моменту взаимодействия пользователя с системой модель работает быстро — она выполняет только прямой проход (инференс); вся «интеллектуальность» заложена в паттернах, изученных во время обучения.

Ответы на вопросы по сценариям. Камера парковки считывает номера автомобилей: камера фиксирует изображение; ИИ, обученный на множестве размеченных изображений номерных знаков, находит знак на снимке; распознавание символов (классификатор глубокого обучения, также обученный на размеченных символах) превращает номер в текст; текст сохраняется вместе со временем и сопоставляется при выезде автомобиля. Система видеонаблюдения обнаруживает и отслеживает человека: программное обеспечение для распознавания изображений, обученное на размеченных фото людей, идентифицирует человека на каждом кадре; система сравнивает последовательные кадры, чтобы проследить его движение; необычное поведение может вызвать тревогу. Голосовые команды: распознавание речи, обученное на множестве записанных голосов, преобразует звук в текст; система сопоставляет текст с набором известных команд; она улучшается по мере коррекций. Камера с автофокусом по лицам: модель обнаружения лиц, обученная на размеченных портретах, находит область лица, и объектив фокусируется на этой зоне. Вход в банк через распознавание лица: приложение захватывает лицо, нейросеть выделяет его признаки, которые затем сравниваются с сохраненными данными этого клиента. В каждом случае принцип один: обучение на размеченных примерах, извлечение признаков, сопоставление или классификация нового ввода.

Разобранный пример. Для каждой задачи определите, требуется ли регрессия или классификация, и как выглядит выходной слой нейросети: (a) предсказать температуру завтра; (b) определить, является ли письмо спамом. Задайте вопрос: что именно предсказывается? (a) Температура — это число на непрерывной шкале, значит, это регрессия, а выходной слой содержит один нейрон, хранящий это значение. (b) Спам или неспам — это категория, значит, это классификация, а выход показывает вероятность для каждого класса. Оба случая относятся к обучению с учителем: для каждого нужны размеченные примеры, а обучение корректирует весы методом обратного распространения ошибки для снижения погрешности. Решающий вопрос прост: число или категория — независимо от того, насколько сложной кажется задача.

Вопросы на определение оцениваются по фиксированной формулировке. Выучите их точно и дайте только один ответ.

• Ответы по графам называют узлы, ребра и веса, объясняют их значение, затем описывают алгоритм. Дейкстра: таблица расстояний, выбор наименьшего, обновление соседей. A*: $g$, $h$ и $f = g + h$ в каждой строке, расширение узла с наименьшим $f$.
• Ответы по нейросетям называют слои, взвешенные связи и процесс обучения; глубокое обучение добавляет много скрытых слоев, большие данные и автоматическое извлечение признаков, требует обоснования и примера.
• Три категории в одной строке каждая: размеченные данные и известные выходы; неразмеченные данные и выявленная структура; агент, среда, действия и вознаграждения.
• Обратное распространение: сравнение с целевым значением, ошибка движется назад через слои, корректировка весов для снижения погрешности, повторение. Регрессия предсказывает значение; классификация предсказывает категорию.
• Вопросы по сценариям требуют описания конвейера: обучение на размеченных примерах, извлечение признаков, распознавание или классификация нового ввода; указать тип ИИ (распознавание изображений, распознавание речи, глубокое обучение).

Распространенные ошибки

• Описание графа как «диаграммы»; в ИИ это узлы и ребра.
• Выполнение алгоритма Дейкстры путем выбора ближайшего соседа текущего узла вместо узла с наименьшим общим нерассмотренным расстоянием; или забвение об обновлении узла при появлении более короткого маршрута.
• Добавление $h$ к $g$ для следующего шага в A*; $g$ — это только реальное расстояние, $h$ пересчитывается из таблицы.
• Утверждение, что глубокое обучение — это «много учиться»; речь идет о множестве скрытых слоев.
• Путаница между обучением без учителя и подкрепляющим обучением: первое выявляет структуру в данных, второе учится на основе вознаграждений.
• Описание обратного распространения без сравнения с ожидаемым выходом или без указания того, что веса корректируются.
• Называние предсказания цены «классификацией»; непрерывное значение — это регрессия.