Модель это не магия, а способ провести линию через данные. Разница между методами в том, какую форму этой линии они допускают. Ниже типы задач, таблица моделей, интерактив про переобучение и порядок проверки.
| Задача | Что предсказываем | Пример |
|---|---|---|
| Классификация | Метку из конечного набора | Есть осложнение или нет |
| Регрессия | Число | Длительность наблюдения |
| Кластеризация | Группы без известных меток | Поиск похожих профилей |
| Ранжирование | Порядок объектов | Очередь на обследование |
Тип задачи определяет и модель, и метрику. Ошибка на этом шаге делает бессмысленными все дальнейшие расчёты.
| Модель | Когда берут | Что важно знать |
|---|---|---|
| Линейная и логистическая регрессия | Нужна прозрачность, данных немного | Коэффициенты читаются, форма связи задана жёстко |
| Дерево решений | Нужны простые правила | Одно дерево нестабильно, легко переобучается |
| Случайный лес | Табличные данные, нужна устойчивость | Усредняет много деревьев, даёт важность признаков |
| Градиентный бустинг | Табличные данные, нужна точность | Сильная базовая модель, требует настройки и контроля переобучения |
| Ближайшие соседи | Простые случаи, мало признаков | Чувствителен к масштабу, медленный на больших данных |
| Нейронная сеть | Изображения, текст, сигналы | Нужны большие данные и вычислительные ресурсы |
На табличных данных бустинг и случайный лес обычно не хуже нейросетей, а обучаются быстрее. Нейросети выигрывают там, где данные не табличные.
Ползунок задаёт сложность модели: степень полинома. Зелёные точки это данные, на которых модель учится, серые отложенные, которых она не видела. Оранжевая линия это модель. Ниже видно, что происходит с ошибкой на обучении и на отложенных данных.
Обучать модели и сравнивать их на своих таблицах удобнее в АвИ Орбита.
Для классификации распространён ориентир: не менее десяти событий нужного класса на каждый настраиваемый параметр. События, а не строки: если исход редкий, строк может быть много, а событий мало.
Для нейросетей ориентир выше, и оценка зависит от задачи. В любом случае сначала считают, сколько событий есть, и только потом выбирают модель.