Файнтюнинг — дообучение готовой модели
Дообучение существующей модели на своих примерах, чтобы закрепить стиль, формат или узкую задачу. Нужен реже, чем кажется, и требует данных.
Также встречается как: fine-tuning, дообучение
Коротко. Файнтюнинг — дополнительное обучение готовой модели на вашем наборе примеров. Модель не получает новых знаний о мире, но начинает устойчиво вести себя нужным образом.
Когда он действительно нужен
Стабильный формат вывода. Модель должна всегда отвечать по строгой структуре, и промптом это не добивается.
Специфический стиль или тон. Особенно если его сложно описать словами, но легко показать примерами.
Узкая повторяющаяся задача. Классификация, извлечение полей, разметка — здесь дообученная модель поменьше часто работает и лучше, и дешевле большой.
Экономия на длинных инструкциях. Если в каждый запрос уходит страница правил, дообучение переносит их «внутрь» модели и сокращает стоимость.
Когда не нужен
Если задача — отвечать по актуальным документам компании, файнтюнинг не поможет: знания подставляются в запрос, а это RAG. Дообучение учит форме, а не фактам.
Зачем фаундеру
Порядок действий почти всегда один: сначала промпт, потом RAG, и только потом файнтюнинг. Каждый следующий шаг дороже предыдущего и требует данных, которых на ранней стадии обычно нет.
Где ошибаются
Начинают с дообучения. Дорого, долго и обычно решается промптом.
Берут мало примеров. Сотни качественных пар «вход → выход» — минимум для заметного эффекта.
Забывают про поддержку. Дообученную модель придётся переучивать при смене базовой версии.
Разобрать это на своём проекте
Мы доводим идеи фаундеров до работающего MVP за долю в компании. Расскажите про свою — посмотрим на цифры вместе.