AIの危険性をめぐる対立は残ったまま、ホワイトハウスで安全協定

9月29日のホワイトハウス会合では、AIのリスクをめぐる企業間の意見の違いが表面化する一方、参加企業とドナルド・トランプ大統領は安全対策の自主協定を発表した。報道によると、別室での協議では複数の幹部がAnthropicのダリオ・アモデイCEOの警告に異議を唱えた。会合後、アモデイ氏はAIには「非常に現実的なリスク」があるとしたうえで、どう対処するかは引き続き議論中だと述べた。協定への署名は、リスク評価や政府規制の必要性について各社の見解が一致したことを意味しない。 2

会合で何が起きたのか

報道では、会合中の小規模な協議の場で、企業幹部らがアモデイ氏のリスク警告に反論したと伝えられている。ただし、提供された資料だけでは、やり取りの詳しい内容や、誰がどの発言をしたのかまでは確認できない。また、その場で雇用への影響が具体的に議論されたとも断定できない。

よりはっきりしているのは、AIの監督を誰が担うべきかをめぐる隔たりだ。アモデイ氏は、最先端のAIシステムに独立監査を義務づける規制を求めてきた。一方、トランプ氏は新たな連邦規制に反対し、企業による自主的な管理を重視する姿勢を示した。 4 会合後、アモデイ氏はリスクが現実に存在すると改めて述べ、対処の仕組みはまだ議論中だと説明した。 2

自主協定が掲げた対策

「ホワイトハウス・スーパーインテリジェンス協定」は、企業内の管理体制や安全性の確認を約束に盛り込んだ。AIシステムが開発者の意図どおりに動作するかを独立監査人と評価することや、許可されていない侵入・アクセスを防ぐ対策も含まれる。 315

トランプ氏は協定を「道義的拘束力がある」と表現し、企業が自らを監督すると説明した。しかし報道では、協定は自主的な取り組みであり、法的な強制力はないとされている。つまり、新たな連邦規制ではなく、業界側の約束という位置づけだ。 411

この違いは重要だ。協定は監督や確認の手順を掲げているものの、第三者によるルールを法律で義務づけるのか、違反をどう取り締まるのか、約束を将来の法制度に盛り込むのかまでは決めていない。報道では、対策を将来的に法制化する可能性は残されている。

なお残る監督体制の疑問

トランプ氏は、業界を監督する10人規模の委員会を設ける案にも言及した。ただし、確認できる報道が示しているのは検討中の案であり、委員会が実際に設置されたことではない。 210

また、別途検討されていたとされる業界の自主規制機関が取りやめになったという説明や、その構想と今回の協定がどう関係するのかについても、提供された資料では裏付けがない。Anthropicの参加を、政権との関係修復やIPOに向けた戦略と結びつける根拠も確認できず、IPOが差し迫っていたとも言えない。 45

合意したのは対策の枠組み、規制の答えはまだ

会合では安全対策に関する共通の文言がまとまったものの、政府の役割について合意に達したわけではない。独立監査を法律で求めるべきだというアモデイ氏の立場と、企業の自主的な監督を優先するトランプ氏の姿勢。その違いは、AIの安全基準を誰が定め、どう実効性を持たせるのかという問いを残している。 4

したがって今回の協定は、企業が自主的に取り組むための枠組みと見るのが妥当だ。AIのリスクの大きさについて各社が一致した証拠でも、自主規制だけで十分だという結論でもない。