Приклади в AI-запитах: скільки потрібно для ідеального результату?

Так — добре дібрані приклади у вашому запиті (few-shot промптинг) є одним із найефективніших прийомів для підвищення якості відповідей AI. Few-shot промптинг надає моделі демонстрації в запиті, скеровуючи її до кращої продуктивності та налаштовуючи її відповідь на основі наведених зразків . Дослідження показують, що оптимальна кількість прикладів зазвичай становить 2–5, оскільки додавання надто великої кількості може призвести до зменшення або навіть негативного ефекту .

Основні висновки

• Приклади значно підвищують точність. Наприклад, модель Claude 3 Haiku досягла лише 11% правильності без прикладів, але 75% із трьома прикладами — це рівень набагато більших моделей без прикладів .
• 2–5 прикладів — науково обґрунтований оптимум. Посібники з промптингу часто називають few-shot промптингом використання 2–5 прикладів, а дослідження підтверджують цей діапазон як найкращий .
• Більше — не завжди краще. Дослідження з arXiv виявило проблему «надмірного промптингу», коли велика кількість прикладів знижує продуктивність моделі .
• Якість прикладів важливіша за кількість. Різноманітні, високоякісні та добре дібрані приклади можуть бути ефективнішими, ніж просте збільшення їх кількості; невідповідність у прикладах може навчити модель непослідовності .
• Для завдань, що потребують міркувань, почніть без прикладів. Не припускайте, що приклади завжди потрібні; перевірте zero-shot проти few-shot, оскільки надмірний промптинг може знизити продуктивність .

Практичні рекомендації

Сценарій	Рекомендований підхід
Завдання, чутливі до формату (JSON, мітки, тон)	Використовуйте 2–5 чітких, різноманітних прикладів; приклади можуть закріпити формат, тон і мітки .
Стандартне генерування тексту / класифікація	Почніть із 2–3 високоякісних прикладів; few-shot демонстрації можуть скерувати модель до кращої продуктивності .
Завдання з міркуваннями	Почніть без прикладів; додайте 1–2 приклади лише для контролю формату та перевірте, чи допомагають вони .
Складне вилучення даних	Використовуйте невеликий набір репрезентативних прикладів, які точно відображають завдання .
Якщо сумніваєтеся	Почніть із 3 прикладів, тестуйте та коригуйте; 2–5 — загальновизнаний діапазон, а надмірна кількість може спричинити зниження ефективності .

Головне: Використовуйте приклади, тримайтеся 2–5 штук і надавайте перевагу якості та різноманіттю над кількістю . Тестуйте, чи виграє ваша конкретна модель від few-shot у порівнянні з zero-shot, особливо для завдань, що вимагають міркувань .