싱가포르의 AI 테스터 인증 프로그램(AI TAP)이란?

싱가포르의 **AI 테스터 인증 프로그램(AI Tester Accreditation Programme·AI TAP)**은 AI 시스템을 외부에서 기술적으로 점검하는 기업을 대상으로 한 자율 인증 제도입니다. AI 시스템의 안전성, 신뢰성, 거버넌스 위험을 평가할 역량과 운영 준비를 갖춘 제3자 테스팅 기업을 인증하는 것이 핵심입니다.

AI TAP은 2026년 5월 18일 조세핀 테오 싱가포르 디지털개발·정보부 장관이 발표했으며, 2026년 3분기 출범이 예정돼 있습니다. 싱가포르는 이를 아시아 최초의 관련 인증 프로그램으로 소개했습니다.

왜 만들어졌나

AI를 실제 업무에 도입하려는 조직은 출시 전에 시스템의 약점과 오작동 가능성을 점검해야 합니다. 하지만 전문적인 AI 보증 테스트를 수행할 수 있는 기업은 아직 많지 않고, 어떤 업체가 충분한 역량을 갖췄는지 판단할 공통 기준도 분명하지 않았습니다.

AI Verify Foundation은 이러한 공백을 줄이기 위해 AI TAP을 마련했습니다. 이 재단은 싱가포르 정보통신미디어개발청(IMDA)이 전액 소유한 비영리 자회사입니다. 프로그램의 목표는 의료, 금융, 채용, 공공서비스 등 다양한 분야에서 AI를 평가할 수 있는 신뢰할 만한 테스팅 기업군을 육성하고, 기술적 AI 보증 테스트의 실무적 기준을 세우는 것입니다.

인증 기업은 자신이 수행할 수 있는 테스트 범위를 문서화하고, 해당 범위 안에서 역량을 인정받게 됩니다. AI를 도입하려는 조직은 이를 바탕으로 독립적인 외부 테스터를 비교·선택할 수 있습니다. 결과적으로 배포 기업과 이해관계자, 최종 이용자가 AI 시스템에 대해 추가적인 신뢰를 확보하는 데 도움이 될 수 있다는 구상입니다.

다만 AI TAP 인증이 특정 AI 시스템의 완전한 안전이나 무위험을 보증하는 것은 아닙니다. 실제 배포 환경, 다른 시스템과의 연동, 새롭게 등장하는 위협에서 비롯되는 위험은 여전히 남을 수 있습니다. 최종적인 거버넌스, 위험 수용 여부와 추가 완화 조치를 결정할 책임은 AI를 배포하는 조직에 있습니다.

테스터는 무엇을 검사하나

인증 대상 기업은 이른바 레드팀(red team) 테스트를 수행할 수 있습니다. 이는 공격자의 관점에서 AI 시스템을 시험해 방어 장치의 허점을 찾는 방식입니다.

대표적인 방법이 프롬프트 인젝션과 **탈옥(jailbreak)**입니다. 프롬프트 인젝션은 사용자의 입력이나 외부 문서 등에 삽입된 악성 지시로 AI의 원래 지침을 흔드는 공격을 뜻합니다. 탈옥은 모델의 안전장치를 우회해 정책 위반이나 유해한 응답을 끌어내려는 시도입니다.

테스트 범위에는 다음과 같은 위험이 포함될 수 있습니다.

• 사실과 다른 답변이나 조작된 정보를 생성하는 환각·부정확성
• 의사결정 과정에서 특정 집단에 불리한 결과를 내는 편향과 공정성 문제
• 개인정보나 민감한 정보가 노출되는 데이터 유출
• 시스템 또는 애플리케이션의 보안 취약점
• 유해하거나 부적절한 콘텐츠 생성
• 프롬프트 인젝션과 탈옥 시도에 대한 방어력, 특히 생성형 AI와 에이전트형 AI 애플리케이션의 회복탄력성

인증을 받으려면

신청 기업은 단순히 테스트 도구를 보유했는지가 아니라, 실제 서비스를 제공할 수 있는 기술·조직 역량을 함께 평가받습니다. 주요 기준은 다음과 같습니다.

• 기술 역량: 신청한 특정 테스트 서비스를 수행할 수 있다는 증거를 제시해야 합니다. 평가에는 IMDA의 ‘안전성과 신뢰성을 위한 대규모언어모델(LLM) 기반 애플리케이션 테스트 스타터 키트’와 같은 지침이 활용됩니다.
• 거버넌스와 사업 신뢰도: 관련 업무 경험과 양호한 사업 평판을 갖추고, 싱가포르에서 사업 활동을 이어가겠다는 의지가 있어야 합니다.
• 재무 지속가능성: 서비스를 지속적으로 운영할 수 있는 재무적 기반이 필요합니다.
• 운영 준비도: 제안한 테스트 서비스를 제공할 충분한 인력·프로세스 등 운영 역량을 갖춰야 합니다.
• 명확한 업무 범위: 기업이 신고한 서비스 범위가 실제로 입증된 역량과 일치해야 합니다.

IMDA 스타터 키트가 제시한 5대 LLM 위험

IMDA의 스타터 키트는 LLM 기반 애플리케이션의 기본적인 안전성과 신뢰성을 점검하기 위한 자율 지침입니다. 모든 위험을 포괄하는 강제 표준이라기보다, 애플리케이션에 관련된 위험을 식별하고 적절한 수준의 테스트를 설계하도록 돕는 실무 자료입니다.

지침이 제시한 주요 위험 영역은 다음 다섯 가지입니다.

1. 환각과 부정확성
2. 의사결정 편향
3. 바람직하지 않은 콘텐츠
4. 데이터 유출
5. 취약점 및 적대적 프롬프트에 대한 취약성

비용과 인증 기간은

AI Verify Foundation은 참여 장벽을 낮추고 AI 보증 테스트 시장을 확대하기 위해 신청 수수료와 인증 수수료를 받지 않을 예정이라고 밝혔습니다. 인증은 12개월 동안 유효하며, 이후에는 변화하는 표준과 위협 환경에 맞춰 기업이 역량을 유지하고 있음을 보여주며 갱신해야 합니다.

초기 참여 의향을 보인 기업으로는 Advai, AIDX, Ernst & Young, Knovel Engineering, PwC, Resaro, Vulcan이 언급됐습니다.

업계에 미칠 수 있는 영향

AI TAP이 의도하는 효과는 외부 AI 테스트 시장의 기준을 보다 일관되고 신뢰할 수 있게 만드는 것입니다. 테스터의 역량에 대한 공통 기대치를 세우고, 테스트 범위와 결과를 문서화하며, 각 조직의 AI 사용 목적과 위험 수준에 맞춘 평가를 가능하게 하는 방식입니다.

자료에 업계 관계자들이 맞춤형 테스트, 거버넌스 개선, AI 안전성에 대한 신뢰 향상을 구체적으로 어떻게 평가했는지는 포함돼 있지 않습니다. 다만 프로그램 설계상 구매자는 역량을 검증받은 테스터를 찾기 쉬워지고, 테스터는 평가 범위를 명확히 제시할 수 있습니다. 배포 기업 입장에서도 독립적인 외부 평가를 추가로 확보할 수 있다는 점에서 실질적인 보증 수단이 될 수 있습니다.