דוגמאות בפרומפט: כלי עוצמתי — אבל במינון נכון

בהחלט כן — שילוב דוגמאות מובחרות בפרומפט שלך (Few-Shot Prompting) הוא אחת הטכניקות היעילות ביותר לשיפור איכות הפלט של מודלי שפה גדולים. Few-Shot Prompting מספק הדגמות בתוך הפרומפט עצמו, ומכוון את המודל לביצועים טובים יותר על ידי התניית תגובתו בדוגמאות המסופקות . נקודת האופטימום היא בדרך כלל 2–5 דוגמאות, עם ראיות לכך שהוספת דוגמאות רבות מדי עלולה להוביל לתשואה פוחתת או אפילו לפגיעה בביצועים .

ממצאים עיקריים

• דוגמאות משפרות דרמטית את הדיוק. לדוגמה, מודל Claude 3 Haiku השיג 11% דיוק בלבד ללא דוגמאות, אך זינק ל-75% דיוק עם שלוש דוגמאות בלבד — ביצועים המשתווים למודלים גדולים בהרבה .
• 2–5 דוגמאות הוא האופטימום המחקרי. מדריכים לכתיבת פרומפטים מגדירים Few-Shot Prompting כשימוש בכ-2–5 דוגמאות, ומחקר אחד מציין ש-2–5 הוא הטווח האופטימלי האופייני .
• יותר זה לא תמיד טוב יותר. מחקר מ-arXiv זיהה תופעת "Over-Prompting", שבה יותר מדי דוגמאות דווקא פוגעות בביצועי המודל, ומאתגר את ההנחה שיותר דוגמאות תמיד מועילות .
• איכות הדוגמאות חשובה יותר מכמותן. דוגמאות מגוונות, איכותיות ומובנות יכולות להביא לתוצאות טובות יותר מאשר פשוט הוספת עוד דוגמאות, בעוד שדוגמאות לא עקביות עלולות ללמד את המודל דפוסים לא רצויים .
• במשימות הדורשות חשיבה, נסו קודם ללא דוגמאות. אל תניחו שדוגמאות תמיד נחוצות; השוו ביצועים עם 0 דוגמאות לעומת ביצועים עם דוגמאות (Zero-Shot מול Few-Shot), כי Over-Prompting עלול לפגוע בביצועים במקרים מסוימים .

המלצות מעשיות

תרחיש	גישה מומלצת
משימות רגישות לפורמט (JSON, תוויות, טון)	השתמשו ב-2–5 דוגמאות נקיות ומגוונות, שכן דוגמאות יכולות לעגן את הפורמט, הטון והתוויות .
יצירת טקסט/סיווג סטנדרטי	התחילו עם 2–3 דוגמאות איכותיות, שכן הדגמות Few-Shot יכולות לכוון את המודל לביצועים טובים יותר .
משימות הדורשות חשיבה	התחילו עם 0 דוגמאות; הוסיפו 1–2 דוגמאות רק אם אתם זקוקים לשליטה חזקה יותר בפורמט, ובחנו האם הדוגמאות עוזרות או מזיקות .
משימות חילוץ מידע מורכבות	השתמשו במספר קטן של דוגמאות מייצגות שמשקפות היטב את המשימה .
כשלא בטוחים	התחילו ב-3 דוגמאות, בחנו והתאימו, שכן 2–5 דוגמאות הוא טווח מומלץ, ויותר מדי דוגמאות עלולות לגרום ל-Over-Prompting .

בשורה התחתונה: השתמשו בדוגמאות, הגבילו אותן ל-2–5, והעדיפו איכות וגיוון על פני כמות . בחנו האם המודל הספציפי שלכם מרוויח מ-Few-Shot לעומת Zero-Shot, במיוחד במשימות חשיבה שבהן דוגמאות נוספות לא תמיד מועילות .