国連人権高等弁務官、最先端AIに拘束力ある国際ルールを要請

国連人権高等弁務官のフォルカー・テュルク氏は、能力が急速に高まるAIの開発競争に対し、企業主導の約束だけでは足りないと警告した。公開書簡で、国際人権法に基づく緊急の多国間対応を呼びかけ、企業による自主規制は「到底不十分（nowhere near sufficient）」だと述べた。7

ここでいう「最先端AI（frontier AI）」とは、性能面で開発の最前線にあるAIシステムを指す。テュルク氏の主張の軸は、社会が引き受けるリスクを少数の開発企業だけに決めさせてはならない、という点にある。7

各国とAI企業に何を求めたのか

報道および国連のAI関連指針で強調された対応は、主に次の4点だ。

• 人権に基づく拘束力ある統治：各国は企業の任意の誓約に依存せず、規制を強化するべきだとした。国ごとの制度の違いが抜け穴にならないよう、国際協調も必要になる。7
• 継続的な人権デュー・デリジェンス：開発企業は、AIのライフサイクル全体で、現実に生じている、または生じうる人権への影響を特定し、対処する必要がある。一度きりの審査ではなく、リスクの把握、対応、実効性の追跡、説明を繰り返す継続的なプロセスだ。
• 独立した技術評価・検証：企業自身の「安全だ」という説明をそのまま受け入れるのではなく、外部から確認できる安全措置が必要だと訴えた。7
• 緊急の多国間行動：最先端AIの統治は一国だけで完結する問題ではない。ルールや安全保証を、各国・国際機関が連携して整備する必要がある。79

なぜ今、警告を発したのか

書簡の背景には、より自律的で、自己改善の可能性も議論されるAIへと開発が加速するなか、業界内で安全性への不安が改めて表面化している状況がある。

AnthropicとOpenAIの両社で働いた経験を持つ研究者、ジェイコブ・コクソン氏は2026年9月にAnthropicを辞任した。同氏は両社が自己改善型の超知能に向けて競争し、「私たちの命を賭けている」と批判した。68 また、一部の開発関係者が、AIが今世紀末までに「私たち全員を殺しかねない」と真剣に考えているとも述べた。ただし、これはコクソン氏らが示した懸念・警告であり、確立された予測ではない。6

同時に、従業員主導の取り組み「Pacing the Frontier」は、AIの進歩が人類の安全な監督能力を上回った場合、開発速度を意図的に抑えるための技術・ガバナンス手段を国際的に整備するよう、米政府に支援を求めた。同サイトには、最先端AI企業の従業員1,386人が署名者として掲載されている。15

こうした「ペースを管理する」考え方への支持の広がりは重要だ。しかし、責任の所在という問題は解決しない。テュルク氏の立場は、業界の従業員や経営層が支持する任意の取り組みであっても、法的に執行可能な公的安全策の代わりにはならない、というものだ。7

既に起きている害と、長期的なリスクを同じ枠組みで扱う

テュルク氏は、この問題を遠い将来の人類絶滅シナリオだけとして扱ってはいない。自主規制では、既に生じている害への対応にも、高度な自律型モデルが人間による安全措置を迂回する事態の防止にも不十分だと指摘した。7

入手可能な報道には、書簡が指す「既存の害」を項目別に確定できる詳しい列挙はない。そのため、特定の被害類型を同書簡の内容として断定することはできない。一方で明確なのは、AIの設計、導入、評価、統治のすべての段階で、人権を中心に据えるべきだという同氏の基準である。7

業界の自主対応と政治の間にある隔たり

AI業界の一部と国連の警告には、共通点もある。能力開発の速度を意図的に管理する必要性や、独立した評価の重要性を認めている点だ。715

ただし、未解決なのは政治的な隔たりである。業界主導の声明は協調を促せても、それ自体が共通の基準を定めるわけではない。情報開示や独立評価を義務づけることも、被害が起きた場合の救済や説明責任を確保することもできない。

テュルク氏が各国に求めているのは、国際人権法に基づく緊急の多国間規制によって、この空白を埋めることだ。79

政策担当者やAIを導入する組織にとっての実務的な含意は明快である。安全性の主張は、開発企業の任意の約束だけでなく、継続的な人権リスク評価、外部の検証、そして明確な説明責任を示す証拠とともに評価されるべきだ。