AIに任せる仕事、人が決める仕事——企業向け「信号機型」ルールの作り方

シンガポールの裁判所のAI利用ルールから企業が参考にできるのは、「AIを使ってよいか」を一律に決めるのではなく、仕事の内容とリスクに応じて任せる範囲を分ける考え方です。シンガポールの裁判所は、生成AIによる裁判書類の作成を一定の条件のもとで認めていますが、提出する内容の正確性などを確かめる責任は利用者側にあります。3 この考え方は企業のルール作りにもヒントになります。ただし、裁判所の指針が企業に同じルールを課しているわけではありません。自社の業務やリスクに合わせた設計が必要です。

ツールではなく「業務」で線を引く

同じAIでも、文書の下書きには役立つ一方、人に影響を及ぼす判断に使うには慎重さが必要な場合があります。シンガポールの裁判所は、AIの使い方を「緑・黄・赤」に分ける信号機型の考え方を示しています。緑は情報の翻訳や要約など、人が内容を理解する助けとなる利用、黄はより慎重な評価が必要な利用、赤は裁判所が利用を検討しない領域を指します。638

企業でも、この分類を運用ルールの土台にできます。以下はあくまで出発点です。実際の業務、使う情報、誤りが生じた場合の影響を踏まえて分類してください。

緑：定型業務を補助する

承認済みのAIを、書式の調整、翻訳、情報の整理、文書の初稿作成など、比較的リスクの低い仕事に使えるようにします。利用できるツールや入力してよい情報、出力を利用前に確認する必要があるかを明記しましょう。AIが作った草案だけでは、会社として承認された判断や見解にはならないことも示します。

黄：準備には使えても、判断は任せない

影響の大きい仕事では、AIに証拠や記録の整理、要約、選択肢の洗い出しをさせることはできても、出力をそのまま判断に使わないようにします。担当者を明確にし、重要な主張を元の記録と照合し、関連する背景を確認したうえで、本人に影響が及ぶ前に承認する手順を設けます。

「独立した検証」とは、別のAIに最初のAIの答えが正しいか聞くことではありません。元資料や信頼できる記録に立ち返って確かめることです。シンガポールの裁判所のガイドも、裁判所に提出する内容について、独立して検証し、正確で真実かつ適切なものにする責任を利用者に求めています。3

赤：最終判断は人が行う

雇用、安全、重要なサービスの利用可否など、人への影響が大きい決定を「人が判断する領域」として定める方法があります。こうした場面では、AIは準備を補助しても、最終決定を下したり、自動的に決定を実行したりしない設計にします。責任者は個別の事情を確認し、AIの提案を退けられる権限を持ち、判断の理由を説明できる必要があります。

これは企業に推奨する安全策であり、シンガポールの裁判所が企業に同じルールを定めているという意味ではありません。シンガポールの司法当局は、裁判官が資料を読み、内容を把握するためにAIを補助として使う可能性を示す一方、現時点では証拠の評価、事実への法律の適用、裁量の行使にはAIを導入していないと説明しています。40

ルールは公開し、業務ごとに具体化する

「責任あるAIを使います」という一般的な方針だけでは、社員も利用者も実際の境界を判断しにくいものです。承認した用途ごとに、次の点を短く公開すると、ルールが具体的になります。

• この業務でAIに任せてよいこと、任せてはいけないことは何か
• どの情報をツールに入力してよいか
• 誰が出力を確認し、何と照合するのか
• 最終決定を行うのは誰か
• 社員や影響を受ける人が、懸念や誤りをどう申し立てられるか

社内では、利用したツールと業務、確認した資料、承認者を、リスクに応じて記録しておきます。確認する社員に、十分な時間と異議を唱える権限を与えることも大切です。形式的な承認だけでは、人による確認が実質的な安全策になりません。

分類を見直し、社員の判断力を育てる

一度決めた色分けを固定せず、ツールや業務の変化に応じて見直します。特定のツールを特定の業務で試し、誤りを調べ、管理策の変更や利用の一時停止が必要か判断しましょう。AIの能力についての一般的な説明を、すべての業務に当てはめないことも重要です。

AIの導入後も、社員がAIに任せる元の仕事を経験できる機会を保つ必要があります。シンガポールの最高裁判所長官は、AIが若手法律家の基礎力を養ってきた定型業務を変える可能性に懸念を示しています。2335 企業にとっての教訓も同じです。AIの出力を意味のある形で確認するには、社員自身が仕事の中身を理解し、誤りに気づき、独立して判断できなければなりません。

色分けを実際の手順につなげる

信号機型の分類が役立つのは、色によって実務上の対応が変わる場合です。AIに何を任せるか、人が何を検証するか、誰が責任を負うか、誤りをどう申し立てられるかを業務ごとに明確にし、ツールや仕事の進め方が変われば見直す。影響の大きい判断は、それを担う権限と能力を持つ人に残す——これが企業のAIルールを実効性あるものにする基本です。