인간 친화적: 마크다운은 인간과 AI 모델 모두에게 프롬프트와 지침 파일을 더 명확하게 만드는 방법으로 널리 권장됩니다 . 오픈AI의 Playground 자체도 프롬프트 생성 시 H1 헤딩이 포함된 마크다운을 제시합니다
.
주요 단점: 마크다운 헤딩은 비교적 '약한 경계'입니다. 모델이 ## Input. 한 보안 연구원은 분류가 필요한 입력을 구분하는 데 마크다운을 사용하는 것을 구체적으로 권장하지 않으며, XML 태그를 사용하면 모델이 "속을 가능성이 더 낮다"고 언급했습니다
.
XML 스타일 태그는 <instructions>, <schema>, <input>처럼 명시적인 열림-닫힘 표식을 사용하여 프롬프트 섹션을 구분합니다. 앤트로픽(Anthropic)의 공식 가이드는 복잡한 프롬프트의 주요 구조 도구로 XML 태그를 명시적으로 권장하며, 이러한 태그가 모호함을 줄이는 명확한 경계를 만든다고 설명합니다 .
보안 이점: XML은 명시적인 열림-닫힘 경계를 제공하므로, 주입된 콘텐츠가 섹션 사이로 새어 나가기 어렵습니다 . 특히 AI 에이전트의 경우, XML 태그가 지침, 예시, 참조 데이터, 사용자 질문을 분리하는 데 마크다운 헤더보다 더 효과적이라는 의견이 있습니다
.
항상 좋은 것은 아니다: 짧고 단순한 프롬프트에서는 XML이 오히려 정확도를 약간 떨어뜨릴 수 있습니다. 한 실험에서 일반 텍스트 프롬프트는 97.6%의 정확도를 보인 반면 XML은 96.4%로 1.2% 포인트 낮았으며, 환각(hallucination) 비율에는 차이가 없었습니다 . 같은 실험에서 XML을 사용하면 입력 토큰 오버헤드가 31% 증가했습니다
. XML의 이점은 프롬프트의 품질이 아니라 복잡성에 비례합니다. 구체적으로는 프롬프트가 약 500토큰을 넘고 논리적 섹션이 3개 이상일 때 XML이 도움이 됩니다
.
| 제공사 | 권장 형식 |
|---|---|
| 앤트로픽 (Claude) | 복잡한 프롬프트에 XML 태그를 명시적으로 권장; 주요 구조 도구로 XML 스타일 태그 제안 |
| 오픈AI (GPT) | Playground에서 H1 헤딩이 포함된 마크다운 제안; 엄격한 경계가 필요할 때는 XML도 유용 |
| 일반 업계 가이드 | 복잡/다중 섹션 프롬프트와 안전 중요 작업에는 XML; 가독성을 위해서는 마크다운 권장 |
많은 실무자들은 하이브리드 방식을 사용합니다. 전체 구조에는 마크다운 헤딩을 사용하고, 사용자 입력 블록 주변에는 XML 스타일 태그나 코드 펜스를 추가하는 것입니다 . 이 방법은 마크다운의 가독성과 XML의 보안 경계를 결합합니다.
예를 들어, 다음과 같이 사용할 수 있습니다:
## Instructions
[지침을 여기에 작성]
## Context
[배경 정보]
## User Input
<UserInput>
[실제 사용자 입력]
</UserInput>이 패턴은 두 세계의 장점을 모두 제공합니다. 인간이 읽기 쉬운 명확한 레이블 섹션과 프롬프트에서 신뢰할 수 없는 부분을 둘러싼 단단한 경계를 동시에 확보할 수 있습니다.
Comments
0 comments