F2. rules, Classic ML, LLM, RAG или RecSys — что выбрать
Карта подходов: prediction, generation, retrieval, recommendation — и как выбрать под продуктовую задачу.
- ✓Понимать разницу между prediction, generation, retrieval и recommendation
- ✓Выбирать подход под продуктовую задачу
- ✓Не путать RAG и fine-tuning
Четыре типа задач, из которых всё вырастает
Прежде чем спорить о технологиях, назовите вслух, что именно система должна сделать — почти всё остальное вытекает отсюда:
- Предсказание (prediction) — прикинуть число или повесить ярлык по набору признаков: уйдёт ли клиент, давать ли кредит, сколько закажут на неделе, мошенничество ли это. Ровно про такое классический ML (обычные алгоритмы на табличных данных)
- Генерация (generation) — сочинить текст или контент: письмо, ответ, черновик поста. Здесь на сцену выходят LLM (большие языковые модели)
- Поиск ответа по своим знаниям (retrieval) — выудить нужное из документов и собрать из кусочков связный ответ. Это работа для RAG
- Рекомендация (recommendation) — выстроить объекты в правильном порядке под конкретного человека. Этим живёт RecSys (рекомендательные системы)
Шпаргалка по подходам
| Подход | Когда он в своей тарелке | Что может подвести |
|---|---|---|
| Правила и эвристики | Логика раскладывается по полочкам, нужна предсказуемость | Спотыкается на сложных, размытых зависимостях |
| Классический ML | Предсказать ярлык или число по таблице | Нужны размеченные примеры и аккуратно собранные признаки |
| LLM на одном промпте | Сочинять и переписывать текст, своей базы знаний нет | Может выдумывать, берёт деньги за каждый запрос, отвечает не мгновенно |
| RAG | Отвечать по своей базе знаний, где важна свежесть | Всё держится на качестве поиска и нарезки текста, нужны ссылки на источник |
| Fine-tuning (дообучение) | Нужен устойчивый стиль или формат в узкой теме | Дорого, требует данных, легко переучить до потери гибкости |
| RecSys | Личная подборка из огромного каталога | Новичка не на чем рекомендовать, легко скатиться в однообразие, нужна обратная связь |
RAG и fine-tuning — вот где чаще всего спотыкаются
- RAG — модели прямо в момент ответа подсовывают подходящие документы, и она отвечает, опираясь на них. Берут, когда знания часто обновляются и надо показать, откуда взят ответ (расшифровывается как retrieval-augmented generation — «генерация с подтягиванием знаний»)
- Fine-tuning (дообучение) меняет не то, что модель знает, а то, как она себя ведёт — тон, манеру, формат. Берут, когда нужный формат одним промптом никак не выбить
Продакту в девяти случаях из десяти нужен именно RAG, а не дообучение. «Зашьём базу знаний внутрь модели дообучением» — красивая и очень дорогая иллюзия
Гибрид — это норма, а не костыль
Живые продукты почти всегда соединяют несколько подходов: RecSys набрасывает кандидатов, а бизнес-правила потом отсекают неуместное; RAG отвечает по базе, а простой классификатор решает, в какую очередь отправить обращение; LLM-агент по ходу дела дёргает калькулятор и лезет в базу за цифрами. Не загоняйте себя в «или-или» там, где выигрывает связка
Как выбрать: короткое дерево
- Задача про живой текст? Нет → классический ML или RecSys
- Текст, но нужна своя вечно свежая база знаний? → RAG
- Надо расставить объекты по порядку под человека? → RecSys
- Достаточно просто генерировать, своей базы не требуется? → LLM на одних промптах
- Стабильный формат одним промптом не выбивается? → присмотреться к fine-tuning
Частые ошибки
- Тянут LLM в обычную классификацию, где классика и точнее, и дешевле в разы
- Затевают дообучение вместо RAG, когда не хватает знаний, а вовсе не манер
- Напрочь забывают про самый скучный вариант — правила
🧠 Запомни: RAG докладывает модели знания, fine-tuning меняет её повадки. Перепутаете эти две вещи — перепутаете и архитектуру, и смету проекта
Коротко
Подход рождается на пересечении трёх вопросов: какого типа задача, какие есть данные и что для вас дороже — точность, скорость или цена. Это первое серьёзное решение в проекте, и именно оно тянет за собой всю архитектуру и метрики
Стартап делает приложение для изучения языков. Пользователь пишет предложение — получает исправление и объяснение ошибки на родном языке. Команда спорит: правила, classic ML или LLM?
Какой подход выбрать и почему?
Так эту тему спрашивают на интервью на AI/ML Product Manager. Нажми на вопрос, чтобы увидеть эталонный ответ.