AI도 비행기처럼 믿고 쓸 수 있을까? 싱가포르가 만드는 안전장치

비행기를 탈 때 승객은 항공기 한 대의 성능만 믿는 것이 아니다. 제작과 정비의 기준, 운항 절차, 훈련받은 인력까지 함께 작동하리라 기대한다. 싱가포르의 디지털개발정보부 장관 조세핀 테오는 AI도 사용 범위와 능력이 커질수록 이처럼 여러 겹의 안전장치로 신뢰를 쌓아야 한다고 본다. 2026년 9월 17일 제시한 비유는 이미 그런 체계가 완성됐다는 선언이 아니라, 앞으로 갖춰야 할 방향에 가깝다. 31924

항공 비유의 핵심은 ‘누가 책임지느냐’다

테오는 항공기 제작사를 AI 모델 개발사에 빗대면서도, 안전을 제작사 한 곳의 책임으로만 돌릴 수 없다고 설명했다. AI 역시 모델의 성능만 따질 것이 아니라 시험·평가, 책임 있는 도입, 담당 인력의 역량과 운영 기준을 함께 살펴야 한다는 취지다. 1924

이 문제는 AI가 사람에게 중요한 판단에 쓰일 때 더 선명해진다. 테오는 AI를 활용한 대출 승인 결정을 예로 들며 고객이 편향 없는 판단을 받는다고 어떻게 확신할 수 있을지 물었다. 인간의 감독이 약해지거나 편향이 개입할 가능성도 우려해 왔다. 싱가포르는 AI 시험 체계를 갱신하면서 민감정보 유출, 사실과 다른 답변인 ‘환각’, 유해한 출력 등을 다루고 있다. 별도의 9월 발언 보도에서는 사이버공격과 생물학적 악용 가능성도 위험으로 거론됐다. 이는 대비해야 할 위험을 뜻하며, 각각이 테오의 제안과 연결된 실제 사고로 확인됐다는 의미는 아니다. 25262739

테오는 다른 안전 논의에서 유해한 AI 생성 이미지와, 통지를 받은 서비스가 해당 콘텐츠를 삭제해야 하는 의무도 언급했다. 다만 제공된 자료만으로는 특정한 최근 사건이 항공 비유의 직접적인 계기였다고 단정할 수 없다. 13

지금 싱가포르가 마련한 것은 무엇인가

싱가포르의 AI Verify는 AI를 책임 있게 시험하고 결과를 투명하게 살피기 위한 프레임워크와 도구다. 테오는 AI를 도입하는 조직이 평가자를 신뢰할 수 있도록 독립적인 제3자 AI 시험·평가자를 인증하는 프로그램도 발표했다. 827

기술적 평가 방법도 다듬는 중이다. ‘글로벌 AI 보증 시범사업’에서는 생성형 AI 응용 서비스의 신뢰성을 어떻게 시험할지 연구했고, 그 결과는 싱가포르 정보통신미디어개발청(IMDA)의 시험 방법 입문 자료에 반영됐다. 또 싱가포르는 더 높은 자율성을 갖고 행동할 수 있는 ‘에이전트형 AI’를 위한 모델 거버넌스 프레임워크를 내놓으며 위험 관리와 인간의 감독을 강조했다. 299

왜 아직 ‘항공 수준’이라고 할 수 없나

AI 제품과 서비스는 국경을 넘나든다. 싱가포르가 서로 다른 나라의 규제 환경에서도 활용할 수 있는, 근거에 기반한 평가 방법과 국제 협력을 강조하는 이유다. 테오 역시 국제적으로 인정받는 규칙과 표준이 중요하지만 형성되기까지 시간이 걸린다고 말했다. 따라서 항공 비유의 결론은 현 체계를 완성된 것으로 믿자는 것이 아니다. AI를 도입하는 동시에 시험하고, 배운 점을 반영해 안전장치를 강화해야 한다는 것이다. 6730