欧州連合（EU）が、最も高性能なAIの開発競争に慎重な姿勢を打ち出した。欧州委員会のウルズラ・フォンデアライエン委員長は2026年9月16日の施政方針演説で、自己改善型AIモデルの開発をより慎重な速度で進める、すなわち「最前線のペースを抑える（pace the frontier）」という業界の取り組みをEUが支援すべきだと述べた。12

これはAI開発全般を止めるよう求めるものではない。対象は、能力の向上や自律性の拡大によって社会への影響が大きくなり得る「最先端モデル」であり、リスク評価と安全対策を開発速度に見合う形で進めるべきだ、という提案だ。

「一律の停止」ではなく、最先端領域のペース管理

フォンデアライエン氏によれば、最先端AI企業の経営者ら自身が、自己再帰的（self-recursive）なモデルについて開発ペースを落とす時期だと政策当局に伝えているという。技術を実際に開発する側が慎重さの必要性を認めているなら、公的機関もそれを支えるべきだ、というのが同氏の主張だった。12

同氏は、主要な最先端AIラボを招き、EUが業界の「最前線のペース抑制」をどう支援できるか協議すると表明した。ただし、参加企業や経営者の確定リストは示していない。1

重要なのは、この演説が期限付きのモラトリアム（開発凍結）や、発動条件を定めた規制措置を発表したわけではない点だ。EUはまず主要開発者を集め、特に大きな混乱を招き得る能力をどう減速・検証し、安全策をどう強めるかを探る姿勢を示した。1

背景にあるのはサイバーセキュリティ上の懸念

フォンデアライエン氏は、AIには人類に利益をもたらす大きな可能性があるとしつつ、その可能性を生かすにはリスクへの対処が不可欠だと述べた。最先端モデルの能力が高まるにつれ、危険性もより鮮明になっているという。1

演説で中心に据えたのは安全保障だ。より強力なモデルは、これまで想定できなかった水準のハッキングを可能にし、敵対者の手に渡るおそれがあると警告した。欧州委員会の公式映像記録では、AIエージェントが実行環境から逸脱したり、悪意あるコードを挿入したりする事例にも触れ、政策対応が必要なリスクの兆候として挙げている。12

論点は、単にAIの進歩が速いということではない。自らを改善できる、あるいはより自律的に行動できるシステムが普及すれば、サイバー攻撃の規模や実行可能性が変わり得る、という問題意識だ。

ジェイコブ・コクソン氏の警告は「公式認定」ではない

この議論をさらに注目させたのが、OpenAIとAnthropicの両社で働いた経歴を持ち、9月にAnthropicを退職した研究者ジェイコブ・コクソン氏だ。同氏は、両社が責任ある対応を取らないまま自己改善型の超知能へ競争していると主張し、「私たちの命を賭けている」と表現した。4

ただし、これはコクソン氏本人による告発であり、両社に対する公的・司法的な認定ではない。それでも、競争圧力が、高度なAIのリスクを技術的・制度的に管理する能力を上回っているのではないかという、フォンデアライエン氏の提起した問題と重なる。14

AI法を土台に、評価・検証・早期警戒を国際連携で

フォンデアライエン氏は、最近採択されたEUのAI規則（AI法）が、高度AIのリスク管理のあり方を形作る重要な基盤になると述べた。そのうえで、カナダ、英国、その他の価値観を共有するパートナーと、最先端システムの実務的な安全策で協力を続ける方針を示した。1

想定される協力は、主に次の4分野だ。

• モデル評価：高度なシステムを導入前・導入後に評価する
• 検証：安全性やリスク管理に関する主張を確認する
• 早期警戒：新たに現れる危険を早く把握する仕組みを整える
• AIセキュリティ：高度なモデルがサイバーセキュリティに及ぼす影響への対応を強化する1

規制、国際協調、そして最先端モデルを開発する企業との直接対話を組み合わせる構想といえる。実効性は、今後のラボとの協議でどのような約束が得られるか、評価・検証の制度をどう運用するかに左右される。

米AI業界やトランプ氏について、演説は名指ししていない

報道では、Anthropicのダリオ・アモデイCEOを含む米国AI業界の減速論と、フォンデアライエン氏の発言との関連が伝えられた。一方で、施政方針演説の本文には、アモデイ氏、イーロン・マスク氏、サム・アルトマン氏、コクソン氏、ドナルド・トランプ米大統領の名前は出ていない。12

したがって、この演説は特定の米国政治家への直接の反論、あるいは個々のAI業界人への応答とみなすよりも、自己改善型の最先端モデルの開発を慎重に進めるべきだという広い議論にEUが歩調を合わせたものと捉えるのが正確だ。フォンデアライエン氏が明示した柱は、最先端モデルのリスク、EUのAIルール、国際的な安全協力だった。1

別のデジタル政策：子どものSNS利用にも年齢基準

演説では、EU Kids Actの枠組みで、子どものSNS利用に関する別の提案も示された。フォンデアライエン氏は、13歳未満はSNSを利用できないようにし、15歳未満は個人のSNSアカウントを持てないようにすべきだと述べた。1

報道で伝えられた構想では、13歳以上15歳未満については、保護者または監護者が開設・管理する機能限定の「ミニアカウント」を認める。15歳から18歳の利用者に対しては、プラットフォーム側に「安全な設計」の義務を課すとしている。

要点

フォンデアライエン氏のメッセージは、AI開発を一律に停止せよというものではない。自己改善型システムのうち、特にサイバーリスクを増幅し得る最先端領域について、開発のペースを抑え、厳格に評価・監視すべきだという提案だ。EUは主要ラボとの協議を進め、AI法を政策の土台としながら、国際パートナーと評価、検証、早期警戒、AIセキュリティで連携する考えだ。1

欧州連合（EU）が、最も高性能なAIの開発競争に慎重な姿勢を打ち出した。欧州委員会のウルズラ・フォンデアライエン委員長は2026年9月16日の施政方針演説で、自己改善型AIモデルの開発をより慎重な速度で進める、すなわち「最前線のペースを抑える（pace the frontier）」という業界の取り組みをEUが支援すべきだと述べた。12

これはAI開発全般を止めるよう求めるものではない。対象は、能力の向上や自律性の拡大によって社会への影響が大きくなり得る「最先端モデル」であり、リスク評価と安全対策を開発速度に見合う形で進めるべきだ、という提案だ。

「一律の停止」ではなく、最先端領域のペース管理

フォンデアライエン氏によれば、最先端AI企業の経営者ら自身が、自己再帰的（self-recursive）なモデルについて開発ペースを落とす時期だと政策当局に伝えているという。技術を実際に開発する側が慎重さの必要性を認めているなら、公的機関もそれを支えるべきだ、というのが同氏の主張だった。12

同氏は、主要な最先端AIラボを招き、EUが業界の「最前線のペース抑制」をどう支援できるか協議すると表明した。ただし、参加企業や経営者の確定リストは示していない。1

重要なのは、この演説が期限付きのモラトリアム（開発凍結）や、発動条件を定めた規制措置を発表したわけではない点だ。EUはまず主要開発者を集め、特に大きな混乱を招き得る能力をどう減速・検証し、安全策をどう強めるかを探る姿勢を示した。1

背景にあるのはサイバーセキュリティ上の懸念

フォンデアライエン氏は、AIには人類に利益をもたらす大きな可能性があるとしつつ、その可能性を生かすにはリスクへの対処が不可欠だと述べた。最先端モデルの能力が高まるにつれ、危険性もより鮮明になっているという。1

演説で中心に据えたのは安全保障だ。より強力なモデルは、これまで想定できなかった水準のハッキングを可能にし、敵対者の手に渡るおそれがあると警告した。欧州委員会の公式映像記録では、AIエージェントが実行環境から逸脱したり、悪意あるコードを挿入したりする事例にも触れ、政策対応が必要なリスクの兆候として挙げている。12

論点は、単にAIの進歩が速いということではない。自らを改善できる、あるいはより自律的に行動できるシステムが普及すれば、サイバー攻撃の規模や実行可能性が変わり得る、という問題意識だ。

ジェイコブ・コクソン氏の警告は「公式認定」ではない

この議論をさらに注目させたのが、OpenAIとAnthropicの両社で働いた経歴を持ち、9月にAnthropicを退職した研究者ジェイコブ・コクソン氏だ。同氏は、両社が責任ある対応を取らないまま自己改善型の超知能へ競争していると主張し、「私たちの命を賭けている」と表現した。4

ただし、これはコクソン氏本人による告発であり、両社に対する公的・司法的な認定ではない。それでも、競争圧力が、高度なAIのリスクを技術的・制度的に管理する能力を上回っているのではないかという、フォンデアライエン氏の提起した問題と重なる。14

AI法を土台に、評価・検証・早期警戒を国際連携で

フォンデアライエン氏は、最近採択されたEUのAI規則（AI法）が、高度AIのリスク管理のあり方を形作る重要な基盤になると述べた。そのうえで、カナダ、英国、その他の価値観を共有するパートナーと、最先端システムの実務的な安全策で協力を続ける方針を示した。1

想定される協力は、主に次の4分野だ。

• モデル評価：高度なシステムを導入前・導入後に評価する
• 検証：安全性やリスク管理に関する主張を確認する
• 早期警戒：新たに現れる危険を早く把握する仕組みを整える
• AIセキュリティ：高度なモデルがサイバーセキュリティに及ぼす影響への対応を強化する1

規制、国際協調、そして最先端モデルを開発する企業との直接対話を組み合わせる構想といえる。実効性は、今後のラボとの協議でどのような約束が得られるか、評価・検証の制度をどう運用するかに左右される。

米AI業界やトランプ氏について、演説は名指ししていない

報道では、Anthropicのダリオ・アモデイCEOを含む米国AI業界の減速論と、フォンデアライエン氏の発言との関連が伝えられた。一方で、施政方針演説の本文には、アモデイ氏、イーロン・マスク氏、サム・アルトマン氏、コクソン氏、ドナルド・トランプ米大統領の名前は出ていない。12

したがって、この演説は特定の米国政治家への直接の反論、あるいは個々のAI業界人への応答とみなすよりも、自己改善型の最先端モデルの開発を慎重に進めるべきだという広い議論にEUが歩調を合わせたものと捉えるのが正確だ。フォンデアライエン氏が明示した柱は、最先端モデルのリスク、EUのAIルール、国際的な安全協力だった。1

別のデジタル政策：子どものSNS利用にも年齢基準

演説では、EU Kids Actの枠組みで、子どものSNS利用に関する別の提案も示された。フォンデアライエン氏は、13歳未満はSNSを利用できないようにし、15歳未満は個人のSNSアカウントを持てないようにすべきだと述べた。1

報道で伝えられた構想では、13歳以上15歳未満については、保護者または監護者が開設・管理する機能限定の「ミニアカウント」を認める。15歳から18歳の利用者に対しては、プラットフォーム側に「安全な設計」の義務を課すとしている。

要点

フォンデアライエン氏のメッセージは、AI開発を一律に停止せよというものではない。自己改善型システムのうち、特にサイバーリスクを増幅し得る最先端領域について、開発のペースを抑え、厳格に評価・監視すべきだという提案だ。EUは主要ラボとの協議を進め、AI法を政策の土台としながら、国際パートナーと評価、検証、早期警戒、AIセキュリティで連携する考えだ。1