AI에 맡길 일과 사람이 결정할 일, 어떻게 나눌까

기업의 AI 정책을 “AI 사용 가능”이나 “사람이 감독한다”는 한 문장으로 끝내면 실제 업무에서 어디까지 맡겨도 되는지 알기 어렵습니다. 싱가포르 법원의 접근법에서 참고할 점은 AI 제품 자체에 일률적인 등급을 붙이기보다, AI에 넘기는 업무와 책임의 수준에 따라 선을 긋는 것입니다. 싱가포르 법원은 생성형 AI를 법원 문서 작성에 활용하는 것을 허용하되, 제출 자료가 정확하고 적절한지 독립적으로 확인할 책임은 이용자에게 둡니다. 기업도 이 원칙을 참고할 수 있지만, 사내 기준은 업무와 위험에 맞춰 설계해야 합니다. 법원의 지침이 일반 기업에도 그대로 적용되는 규칙이라는 뜻은 아닙니다. 36

도구가 아니라 업무를 기준으로 나누기

같은 AI 도구라도 문서 초안을 다듬는 일에는 유용할 수 있지만, 사람에게 영향을 미치는 결정을 내리는 데는 적절하지 않을 수 있습니다. 싱가포르 법원은 AI 사용을 ‘초록·주황·빨강’ 신호등에 빗대 설명해 왔습니다. 초록은 정보를 이해하는 데 도움을 주는 번역이나 요약 같은 용도, 주황은 더 신중한 검토가 필요한 용도, 빨강은 법원이 사용 대상으로 고려하지 않는 영역을 가리킵니다. 638

기업은 이 구분을 실무 정책의 틀로 활용할 수 있습니다. 다만 아래 예시는 보편적으로 정해진 분류가 아니라 출발점입니다. 실제 업무, 입력 정보, 오류가 미칠 결과를 함께 살펴야 합니다.

초록: 일상 업무를 보조하게 하기

문서 서식 정리, 번역, 정보 분류, 초안 작성처럼 상대적으로 위험이 낮은 업무에는 승인된 AI 도구를 사용할 수 있도록 정할 수 있습니다. 어떤 도구를 쓸 수 있는지, 직원이 어떤 정보를 입력해도 되는지, 결과물을 사용하기 전에 확인해야 하는지도 정책에 담으세요. AI가 만든 초안만으로 회사의 공식 입장이나 결정이 확정되는 것은 아니라는 점도 분명히 해야 합니다.

주황: 준비는 돕되 결정은 맡기지 않기

중요한 업무에서는 AI가 자료를 정리하거나 기록을 요약하고 선택지를 제시하도록 할 수 있습니다. 다만 결과가 사람에게 영향을 주기 전에는 담당자를 지정해 주요 주장과 내용을 원자료에 대조하고, 빠진 맥락이 없는지 살핀 뒤 승인하도록 해야 합니다.

독립 검증은 첫 번째 AI의 답을 다른 AI에 다시 물어보는 것이 아닙니다. 근거가 되는 자료나 권위 있는 기록을 직접 확인하는 것입니다. 싱가포르 법원의 지침도 법원에 제출하는 자료를 독립적으로 검증하고 정확하며 진실하고 적절한지 확인할 책임을 법원 이용자에게 둡니다. 3

빨강: 최종 판단은 사람이 맡기

기업은 고용, 안전, 필수 서비스 이용처럼 사람에게 중대한 영향을 줄 수 있는 결정을 사람이 직접 내리도록 정할 수 있습니다. 이 경우 AI는 자료 정리나 검토를 도울 수 있지만, 최종 결정을 내리거나 자동으로 실행해서는 안 됩니다. 책임자는 사안을 직접 검토하고 AI의 제안을 거부할 권한을 가져야 하며, 결정 이유도 설명할 수 있어야 합니다.

이는 기업을 위한 권고적 안전장치이지, 싱가포르 법원이 모든 기업에 이 규칙을 요구한다는 뜻은 아닙니다. 싱가포르 사법부는 AI가 판사의 자료 읽기와 정리를 도울 수 있다고 밝혔지만, 현재는 증거의 무게를 판단하거나 사실에 법을 적용하거나 재량을 행사하는 데 AI를 배치하지 않고 있습니다. 40

정책은 공개하고, 업무별로 구체화하기

‘책임 있는 AI를 사용한다’는 포괄적인 선언보다 어떤 업무에서 무엇을 허용하는지 적은 정책이 더 실용적입니다. 허용된 용도마다 다음 질문에 답하는 간단한 안내를 공개해 보세요.

• 이 업무에서 AI가 할 수 있는 일과 해서는 안 되는 일은 무엇인가?
• 직원은 어떤 정보를 도구에 입력할 수 있는가?
• 누가 결과를 확인하며, 어떤 원자료와 대조해야 하는가?
• 최종 결정은 누가 내리는가?
• 직원이나 영향을 받은 사람이 오류를 알리거나 결정에 이의를 제기하려면 어떻게 해야 하는가?

내부적으로는 어떤 AI 도구를 어떤 업무에 썼는지, 어떤 자료를 확인했는지, 누가 승인했는지를 업무 위험에 맞게 기록해 두세요. 검토자에게 결과에 반대할 시간과 권한도 줘야 합니다. 그렇지 않으면 사람의 검토는 실질적인 안전장치가 아니라 형식적인 서명 절차가 될 수 있습니다.

분류를 다시 살피고, 직원의 판단력을 지키기

업무별 신호등 분류는 한 번 정하면 끝나는 표지가 아니라 주기적으로 다시 확인할 기준입니다. 해당 도구를 실제 업무 흐름에서 시험하고, 오류를 살펴 통제를 강화할지 사용을 중단할지 판단하세요. 특정 모델에 대한 일반적인 성능 주장이 모든 업무에도 적용된다고 가정해서는 안 됩니다.

직원이 AI가 돕는 기본 업무를 직접 연습할 기회도 남겨 두어야 합니다. 싱가포르 대법원장은 AI가 젊은 변호사들이 기본기를 익히는 데 활용해 온 반복적인 법률 업무의 형태를 바꿀 수 있다는 우려를 제기했습니다. 2335 기업에서도 마찬가지로, 직원이 업무의 기초를 이해하고 오류를 발견하며 독립적으로 판단할 경험이 있어야 AI의 결과를 제대로 검토할 수 있습니다.

업무마다 답할 수 있어야 할 질문

신호등 분류가 실효성을 가지려면 색깔에 따라 실제 운영이 달라져야 합니다. AI가 어디까지 할 수 있는지, 사람이 무엇을 검증해야 하는지, 누가 책임지는지, 결정에 어떻게 이의를 제기할 수 있는지를 업무별로 공개하세요. 도구와 업무 방식이 바뀌면 기준을 다시 점검하고, 중요한 판단은 필요한 권한과 역량을 갖춘 사람이 맡도록 하는 것이 핵심입니다.