싱가포르, 15만 공무원용 AI에 ‘등록부’와 안전장치 심는다

이런 장치가 필요한 이유는 AI 에이전트가 단순히 문장을 생성하는 데 그치지 않기 때문이다. 권한과 시스템 연동 방식에 따라 에이전트는 판단을 내리고, 외부 도구를 호출하거나, 사람보다 훨씬 빠른 속도로 작업을 실행할 수 있다. 등록부는 따라서 일반적인 소프트웨어 카탈로그라기보다 ‘디지털 근로자’의 현황과 책임 소재를 확인하는 장부에 가깝다.

GovTech가 구상하는 AI Assistant Desk는 공무원이 안전한 환경에서 디지털 비서를 사용할 수 있도록 하는 플랫폼이다. 예상되는 활용 분야에는 보고서 작성, 일정 관리, 코딩, 조사와 같은 반복 업무가 포함된다.

핵심 통제는 모델이 아니라 시스템 주변에 둔다

싱가포르가 제시한 방식은 개별 AI 모델의 안전성에만 의존하지 않고, AI가 작동하는 시스템 자체에 규칙을 적용하는 것이다. 현재 알려진 통제 장치는 다음과 같다.

• 기관이나 업무별로 설정할 수 있는 규칙
• 기관이 승인한 AI 도구
• 파일 삭제나 외부 이메일 발송 같은 행동의 차단
• 무분별한 배포나 스팸을 줄이기 위한 수신자 제한
• 공격적 표현 등 문제가 있는 프롬프트와 출력물을 자동으로 확인하는 위생 검사

이는 ‘최소 권한’ 원칙과 맞닿아 있다. AI 에이전트에는 맡은 업무를 수행하는 데 필요한 범위만큼의 접근 권한과 행동 권한을 부여해야 한다는 뜻이다. 여러 AI 모델을 함께 사용하거나 에이전트를 민감한 정부 시스템에 연결할 때 특히 중요한 접근법이다.

결국 질문은 “이 모델을 믿을 수 있는가”에만 머물지 않는다. “이 에이전트가 무엇에 접근할 수 있고, 어떤 행동을 할 수 있으며, 누가 그 결과를 확인하는가”가 함께 관리돼야 한다.

모델이 바뀌어도 안전장치는 유지되도록 설계

GovTech의 AI Guardian은 AI 애플리케이션을 위한 별도의 안전성·거버넌스 계층이다. 여기에 포함된 두 구성요소는 서로 다른 시점을 담당한다. Litmus는 실제 배포 전에 적대적 테스트를 통해 안전성과 보안 위험을 평가하고, Sentinel은 서비스가 운영되는 동안 실시간 콘텐츠 조정과 출력 필터링을 수행한다.

안전 기능을 기반 모델과 분리하면 특정 AI 공급업체에 대한 의존도를 낮출 수 있다. GovTech는 제3자 AI 도구를 추가하거나 교체하더라도 AI Assistant Desk의 보안 보호 기능이 유지되도록 아키텍처를 설계했다고 설명했다.

이 구분은 중요하다. AI 모델은 바뀔 수 있지만 데이터 보호, 허용된 행동, 모니터링, 출력 안전성에 관한 정부의 요구사항까지 함께 바뀔 필요는 없기 때문이다. GovTech의 책임 있는 AI 프레임워크는 안전성, 견고성, 보안과 개인정보 보호, 설명 가능성, 투명성을 핵심 요건으로 제시한다.

AI 도입과 인력 역량 강화는 함께 진행된다

싱가포르의 공공 AI 전략은 자율형 에이전트에만 초점을 맞추지 않는다. GovTech의 Pair는 정부 지급 기기에서 글쓰기, 조사, 요약과 분석을 지원하며, 상용 챗봇으로는 처리하기 어려운 민감한 정부 데이터와 함께 사용할 수 있도록 승인된 도구다.

GovTech는 AI를 활용한 소프트웨어 개발과 로우코드 방식도 개발하고 있다. 이를 통해 기술팀과 공무원이 업무 흐름을 더 빠르게 시제품화하거나 자동화하고, 아이디어를 안전한 운영 환경으로 옮길 수 있도록 하려는 것이다. 과거 GovTech의 발표에는 AI 코드 보조 도구, AI 지원 엔지니어링, 기관의 시제품 개발을 돕는 도구 계획이 포함됐다.

교육 역시 이 인프라의 일부다. GovTech는 공무원이 데이터와 AI를 학습할 수 있는 자료를 제공하고 있으며, 싱가포르의 broader workforce 계획에는 자동화된 코딩과 에이전트형 시스템을 개발하는 기술 인력을 위한 AI 역량 프로그램도 포함돼 있다. 정부는 2029년까지 4만 명의 기술 전문가가 AI 역량을 갖추도록 한다는 목표를 제시했다.

실무적인 목표는 내부 역량을 쌓는 데 있다. 공무원은 언제 AI를 사용해야 하는지 판단해야 하고, 기술팀은 직접 만든 시스템을 평가하고 보호할 수 있어야 한다. 각 기관이 서로 단절된 실험을 반복하는 대신 공통 플랫폼을 활용해야 하는 이유도 여기에 있다.

실제 공공 프로젝트가 보여주는 ‘평가’의 중요성

GovTech의 LangBuddy 프로젝트는 AI 애플리케이션을 실제 목적에 맞춰 평가해야 한다는 점을 보여준다. LangBuddy는 학생들이 대화를 통해 모국어를 연습하도록 돕는 AI 음성 챗봇이다.

이런 제품은 챗봇이 유창하게 대답하는지만 봐서는 충분하지 않다. GovTech의 평가 작업은 안전성, 환각 위험, 정해진 교육 규칙을 따르는지 여부를 함께 검토한다. 예를 들어 문장 자체는 그럴듯하지만 질문과 무관한 답을 내놓는다면 교육 도구로서는 실패일 수 있다.

이 원칙은 다른 공공서비스에도 적용된다. 기관은 AI가 설계된 업무를 제대로 수행하는지, 설정된 제약을 지키는지, 실제 사용 환경에서 받아들일 수 있는 방식으로 작동하는지를 시험해야 한다. 단지 답변이 설득력 있게 들리는지만 확인해서는 안 된다.

사이버보안은 AI의 전제이자 활용 분야

GovTech의 사이버보안 전략에서도 같은 철학이 나타난다. GovTech는 정부 시스템과 애플리케이션을 안전하게 설계하고, 레드팀 훈련, 침투 테스트, 외부 보안 연구자의 취약점 제보 프로그램, 위협을 탐지·대응하는 블루팀 역량을 운영한다고 설명한다.

동시에 AI를 활용한 침투 테스트와 보안관제센터의 자동화된 사건 분류도 시험하고 있다. AI가 한쪽에서는 취약점을 찾고, 다른 쪽에서는 방어자가 어떤 보안 사건부터 처리할지 우선순위를 정하도록 돕는 구조다.

일부 보도는 싱가포르 정부의 2,000개 이상 디지털 시스템과 보안 테스트 확대를 함께 언급한다. 다만 현재 확인 가능한 자료가 뒷받침하는 것은 레드팀 활동, 침투 테스트, AI 지원 보안 운영이라는 큰 방향이다. 이 자료만으로 2,000개 시스템 전체에서 지속적인 AI 테스트가 이미 운영되고 있다고 단정할 수는 없다.

싱가포르의 wider AI 전략에서 갖는 의미

이들 사업을 종합하면 싱가포르의 목표는 세 가지로 정리된다.

1. 공공서비스 개선: 보고서 작성, 분석, 코딩과 반복적인 업무 흐름을 자동화해 공무원이 더 복잡한 문제와 시민 응대에 집중하도록 한다.
2. 내부 기술 역량 강화: 공통 플랫폼, 평가 도구, 보안 계층과 교육을 구축해 특정 모델 공급업체나 상용 제품에 전적으로 의존하지 않도록 한다.
3. 공공 신뢰와 국가 시스템 보호: 등록부, 권한 관리, 감사 가능성, 안전성 테스트와 사이버 방어를 통해 AI가 정부 업무와 데이터에 접근할 때 감독 체계를 유지한다.

가장 중요한 교훈은 AI를 안전하게 확산하는 일이 모델 선택만의 문제가 아니라 아키텍처의 문제라는 점이다. 싱가포르는 AI를 공공 부문 전반에서 사용할 수 있도록 문을 넓히는 동시에, 소유권·권한·테스트·활동 기록을 정부 기관이 확인할 수 있는 형태로 남기려 하고 있다.