Классическое машинное обучение

Обучение с учителем

При обучении с учителем у каждого обучающего примера есть известный целевой ответ. Для прошлой доставки известен фактический срок, а для обращения — тема, которую отметил сотрудник. «Учителем» называют эти ответы: человеку не нужно подсказывать модели при каждом новом прогнозе.

По примерам модель учится связывать признаки с ответом. Затем ей передают новое обращение или заказ, для которого ответ ещё неизвестен. Качество проверяют на отдельных примерах, которые не использовали при обучении. Хорошо запомнить прошлые данные недостаточно: важно справляться с новыми случаями.

Обучение без учителя

При обучении без учителя нет заранее заданного целевого ответа для каждого примера. Есть сведения о покупках или характеристиках товаров, а метод ищет в них структуру: похожие группы, частые сочетания или более компактное представление.

Отсутствие учителя не означает отсутствие человека. Нужно выбрать данные, определить, какие признаки учитывать, настроить метод и проверить смысл результата. Найденное разделение покупателей может оказаться полезным для работы магазина, а может отражать лишь случайную особенность выбранного периода.

Чем обучение с учителем отличается от обучения без учителя

Рассмотрим один интернет-магазин. Он хочет прогнозировать повторную покупку и понять, какие группы покупателей есть в его истории заказов. Предметная область общая, но вопросы к данным разные.

В первом случае нельзя давать модели сведения из будущего, например сумму заказов за тот месяц, который она должна предсказать. Во втором не получится просто сравнить группы с заранее известным правильным ответом: оценивают их устойчивость, различия и полезность для задачи.

Какие методы используются

Задача определяет нужный результат, а алгоритм — способ его получить. Классификация не равна дереву решений: её можно решать разными методами. И один метод иногда подходит для нескольких типов задач.

• Линейная регрессия. Прогнозирует число, складывая вклады признаков с подобранными при обучении весами. Подходит как исходный простой вариант, например для оценки срока по расстоянию и другим характеристикам доставки; сложные зависимости такое описание может не передать.
• Логистическая регрессия. Несмотря на название, используется для классификации. Она оценивает вероятность категории, например того, что обращение связано с оплатой. На основе оценки выбирают категорию или решают передать случай человеку.
• Дерево решений. Последовательно проверяет условия: например, способ доставки, затем диапазон расстояния. В конце получает категорию или число. Небольшое дерево можно проследить шаг за шагом, а слишком сложное способно запомнить особенности обучающих примеров.
• Метод ближайших соседей. Ищет похожие примеры среди сохранённых данных. Для категории можно использовать голосование соседей, для числа — среднее их ответов. Результат зависит от того, какие признаки считаются важными и как измеряется сходство.
• k-means, или метод k-средних. Делит объекты на заранее выбранное число групп. Поочерёдно относит их к ближайшим центрам и пересчитывает центры как средние значения признаков внутри групп. Нужное число групп и пригодность такого способа разделения оценивает человек.
• PCA, или метод главных компонент. Создаёт новые признаки как сочетания исходных и сохраняет направления с наибольшим разбросом данных. Его используют для уменьшения размерности. Большой разброс не обязательно означает пользу для конкретного прогноза, поэтому результат преобразования проверяют.

Ансамблевые методы объединяют несколько моделей, например деревьев, в общий прогноз. Они связаны с классическим машинным обучением, но на общей карте выделены отдельно. В этой статье карта сохраняет фокус на двух способах обучения и пяти типах задач.

Где применяется классическое машинное обучение

Ниже — возможные постановки задач, а не описание реальных внедрений. В каждой полезно заранее назвать входные данные, результат и действие, для которого он нужен.

• Определение темы обращения. На входе — признаки текста сообщения, на выходе — категория. Её можно использовать для выбора очереди поддержки; при проверке важно учитывать, какие ошибки направления обходятся дороже.
• Прогноз срока доставки. На входе — характеристики заказа и перевозки, на выходе — число часов или дней. Оценку сравнивают с фактическими сроками новых доставок, прежде чем использовать в обещаниях клиентам.
• Группировка покупателей. На входе — история покупок, на выходе — группы со сходными характеристиками. Аналитик изучает различия между ними, чтобы выбрать дальнейшие вопросы или проверить идеи предложений.
• Поиск совместных покупок. На входе — состав корзин, на выходе — повторяющиеся сочетания товаров. Они дают идеи для подборок, но сами по себе не доказывают, что подборки увеличат продажи.
• Компактное представление признаков. На входе — множество измерений, на выходе — несколько обобщённых показателей. Их можно передать следующей модели или использовать для обзора данных, проверив потери информации.

Когда классические методы удобнее нейросетей и LLM

Нейросети тоже относятся к машинному обучению. Большая языковая модель, или LLM, — нейросетевая модель для работы с языком. Сравнивать стоит конкретные решения одной задачи: например, компактный классификатор обращений и языковую модель, которой поручили выбирать те же категории.

Классические методы удобно рассмотреть, когда нужен определённый результат, есть подходящие признаки и накоплены примеры. Если требуется лишь выбрать тему из известного списка, создание развёрнутого текста может быть лишней работой. При этом классический метод может ошибаться на сложных формулировках, а готовая LLM иногда помогает начать работу, когда размеченных примеров ещё мало.

• Вычисления и скорость. У простой линейной модели или небольшого дерева расчёт ответа может быть коротким. Но измерять нужно весь путь: подготовку данных, сам прогноз и, для облачного сервиса, обмен запросом и ответом. Сложная классическая модель тоже может работать долго.
• Объяснимость. У небольшого дерева можно показать последовательность условий, а у линейной модели — вклады признаков. Это облегчает разбор отдельных решений, но не доказывает причинных связей и не делает любую классическую модель понятной.
• Требования к данным. Для обучения с учителем нужны примеры с корректными ответами, похожие на будущие случаи. Подготовка признаков и разметки требует труда. Готовая LLM уже прошла обучение, но её пригодность для нужного языка, тем и формата ответа всё равно проверяют на своих примерах.
• Границы задачи. Для пересказа документа или свободного диалога языковая модель даёт возможности, которых нет у обычного классификатора. Для прогноза числа или группировки объектов такие возможности могут не понадобиться. Выбор зависит от качества, ресурсов и требований к сопровождению.