AI 프롬프트 예시, 넣는 게 좋을까? 몇 개가 적당할까?

AI 프롬프트, 예시를 넣으면 정말 좋아질까?

정답은 '그렇다'입니다. 하지만 아무 예시나 많이 넣는다고 좋은 건 아닙니다. AI에게 프롬프트를 작성할 때 원하는 형태의 예시를 2~5개 정도 포함시키는 '퓨샷 프롬프팅(Few-shot Prompting)'은 출력 품질을 확연히 높여주는 검증된 기술입니다 .

예시 하나가 바꾸는 극적인 차이

연구 결과는 놀랍습니다. 예를 들어, AI 모델 'Claude 3 Haiku'는 특정 작업에서 예시 없이(제로샷) 11%의 정확도를 보였습니다. 하지만 단 3개의 예시만 넣어주자 정확도가 75%로 수직 상승했습니다. 이는 훨씬 더 큰 모델들이 예시 없이 낸 성능과 맞먹는 수준입니다 .

그렇다면 예시는 몇 개가 적당할까?

결론부터 말하면, 2~5개가 황금비율입니다 . 많은 가이드와 연구에서 퓨샷 프롬프팅의 전형적인 예시 개수로 2~5개를 꼽습니다.

그런데 여기서 중요한 점은 '많을수록 좋다'는 공식이 통하지 않는다는 사실입니다. arXiv에 발표된 한 연구는 '오버 프롬프팅(over-prompting)' 현상을 지적합니다. 예시를 너무 많이 넣으면 오히려 모델의 성능이 떨어질 수 있다는 뜻입니다 .

시나리오	추천 방법
JSON, 라벨, 톤 등 형식이 중요한 작업	깔끔하고 다양한 2~5개의 예시 사용. 예시가 형식과 톤을 고정시켜줍니다 .
일반 텍스트 생성/분류	2~3개의 고품질 예시로 시작. 예시가 모델을 더 나은 방향으로 유도합니다 .
추론(Reasoning)이 중요한 작업	일단 예시 없이(제로샷) 시도. 형식 제어가 필요할 때만 1~2개 추가하고, 예시가 도움이 되는지 꼭 테스트해보세요 .
복잡한 정보 추출 작업	작업과 최대한 유사한 소수의 대표 예시 사용 .
잘 모르겠다면?	3개부터 시작해서 테스트하며 조정하세요. 2~5개 범위를 넘지 않는 것이 좋습니다 .

핵심은 '양'보다 '질'과 '다양성'

무작정 예시 개수를 늘리는 것보다, 고품질의 다양한 예시를 고르는 것이 훨씬 중요합니다. 엉성한 예시를 넣으면 모델이 그 '엉성함'까지 그대로 배워버립니다 .

결론: 예시는 반드시 활용하세요. 단, 2~5개로 유지하고, 양보다 질과 다양성에 집중하세요 . 그리고 추론이 중요한 작업이라면, 예시가 정말 도움이 되는지 먼저 테스트해보는 현명함이 필요합니다 .