Структура few-shot промпта
Классический формат: инструкция → примеры (2–10 пар) → новый запрос. Например, для классификации тональности отзывов: «Определи тональность отзыва (позитив / негатив / нейтрально). Отзыв: "Всё прекрасно" → Позитив. Отзыв: "Долго ждал" → Негатив. Отзыв: "Обычный сервис" → Нейтрально. Отзыв: [новый текст] →». Модель продолжает паттерн.
Сколько примеров нужно
Для большинства задач достаточно 3–5 примеров. Более 10 примеров редко дают значимый прирост точности, но существенно увеличивают расход токенов (а значит, стоимость). Примеры должны быть разнообразными — не берите 5 примеров одного класса. Включайте пограничные случаи, на которых модель чаще всего ошибается.
В проекте классификации обращений для колл-центра добавление 5 few-shot примеров к zero-shot промпту подняло точность с 87% до 96% на пограничных категориях «жалоба» и «предложение». Стоимость запроса выросла всего на 8%.
Few-shot в системном промпте vs в диалоге
Примеры можно добавлять в системный промпт (они применяются ко всем запросам в сессии) или передавать в истории диалога как пару user/assistant. Второй подход гибче — примеры можно динамически подбирать из библиотеки под конкретный тип запроса. Такой динамический few-shot работает на 5–15% точнее статических примеров в системном промпте.
Связанные термины
- Zero-shot промптинг — работа без примеров
- Промпт-инжиниринг — системный подход к проектированию инструкций
- Fine-tuning — альтернатива few-shot при наличии 1000+ примеров
- LLM — языковая модель, обучающаяся из контекстных примеров
Где применяется
Хотите повысить точность вашего ИИ-ассистента? Обсудим задачу.
Связаться с нами