К содержимому
AI и данные

Промпт-инжиниринг — работа над запросом

Систематическая доводка запросов к модели: структура, примеры, формат вывода и проверка на наборе случаев. Самый дешёвый способ поднять качество.

Также встречается как: prompt engineering, инженерия промптов

Коротко. Промпт-инжиниринг — не подбор «волшебных слов», а инженерная работа: сформулировать задачу, дать примеры, задать формат, измерить результат, повторить.

Приёмы, которые действительно работают

Роль и правила в системной инструкции. Кто отвечает, чего делать нельзя, что считается хорошим ответом.

Несколько примеров (few-shot). Два-три образца «вход → выход» обычно поднимают качество сильнее, чем страница объяснений.

Явный формат вывода. Опишите структуру ответа и проверяйте её программно. Свободный текст разбирать дорого и ненадёжно.

Разбиение на шаги. Одна большая задача, разложенная на два-три последовательных запроса, почти всегда даёт результат лучше одного сложного.

Место для «не знаю». Явное разрешение отказаться от ответа заметно снижает галлюцинации.

Зачем фаундеру

Это самый дешёвый рычаг из всех. Прежде чем думать о дообучении модели или о своей модели, имеет смысл выжать из промпта всё — обычно там остаётся большой запас.

Где ошибаются

Меряют на глаз. Без набора тестовых случаев улучшение одного ответа маскирует ухудшение десяти.

Переусложняют. Инструкция на две страницы с противоречиями работает хуже короткой и ясной.

Пишут промпты в интерфейсе и забывают. Промпт — часть продукта: его место в репозитории, рядом с кодом.

Разобрать это на своём проекте

Мы доводим идеи фаундеров до работающего MVP за долю в компании. Расскажите про свою — посмотрим на цифры вместе.

Оставить заявку

Рядом в словаре

Промпт

Всё, что отправлено модели в одном обращении: инструкция, контекст, данные и примеры. Единственный способ управлять её поведением без обучения.

Evals

Набор примеров с ожидаемым результатом, на котором проверяют модель после каждого изменения. Замена «на глаз вроде стало лучше» на измерение.

Файнтюнинг

Дообучение существующей модели на своих примерах, чтобы закрепить стиль, формат или узкую задачу. Нужен реже, чем кажется, и требует данных.

Векторная база

База данных, которая хранит векторы и быстро находит ближайшие к запросу. Инфраструктурный слой поиска по смыслу и RAG-систем.

Галлюцинация

Правдоподобный, но неверный ответ модели: несуществующие факты, ссылки и цитаты. Свойство технологии, а не поломка, — с ним работают, а не чинят.

Дистилляция

Обучение компактной модели на ответах крупной, чтобы получить близкое качество на узкой задаче за меньшие деньги и с меньшей задержкой.