Google DeepMindの共同創業者であるシェーン・レッグ氏が訴えたのは明快だ。AIの能力が急速に高まるなら、それを監視し、制御するための安全対策も同じ速度で進化しなければならない。能力開発だけが先行する状況に警鐘を鳴らした同氏は、人工汎用知能（AGI）の導入と影響を考える新たな場、**DeepMind Institute（DMI）**も立ち上げた。141

問われるのは「性能」だけではない

レッグ氏の懸念は、AIが賢くなること自体ではない。より強力なシステムに対して、十分な監督、モニタリング、統治、制御の仕組みを用意できるかという問題だ。1

ここでいうAGI（Artificial General Intelligence、人工汎用知能）は、特定用途に特化したAIではなく、幅広い認知課題に対応できるAIを指す。Google DeepMindはAGIを「人間の脳と同等の認知能力を持つシステム」と説明している。13

新設「DeepMind Institute」は何をするのか

DMIは、Google DeepMindと外部の研究コミュニティが、能力を増すAIやAGIをどう開発し、統治し、導入し、利用するべきかについて、研究成果を発表し議論するためのプラットフォームだ。3642

対象は技術的な安全性にとどまらない。科学、教育、社会、政策、哲学、経済、安全性、そして人間の繁栄までを射程に入れる。AGIを安全に構築・統治する方法だけでなく、AGIの普及に合わせて、社会の制度や政策を何を変え、何を再設計する必要があるのかを問う。1636

最先端モデルの公開を「遅らせる」案には前向き

Anthropicのダリオ・アモデイCEOが提案した、最先端AIモデルの公開を停止はしないが、遅らせるという考えについて、レッグ氏は「方向性として興味深い」「検討に値する」と評価した。2

これはGoogle DeepMindの正式な公開方針を示す発言ではない。ただし、十分な安全措置を確認しながら導入を進めるべきだという大きな議論の中で、公開ペースを慎重にする選択肢を真剣に捉えていることはうかがえる。2

「AGIはもう達成された」とは言えない理由

NvidiaやOpenAIの経営陣からはAGI到達を示唆する発言も出ているが、レッグ氏は、AGIがすでに実現したと断言するには早すぎるとの見方を示した。4

報道で示された範囲では、同氏が現在のAIにどの能力がなお欠けていると考えるのか、詳細な直接説明までは確認できない。確実に言えるのは、現在のシステムはDeepMindが考えるAGIの基準をまだ満たしていない、という立場だ。413

ただし、到達時期に悲観的というわけではない。レッグ氏は、**2028年までに「最小限のAGI」が実現する確率は50％**という長年の予測を維持し、「その見通しに納得している」と述べた。これは確定した予定表ではなく、あくまで予測である。210

立ち上げ時の論考が扱うテーマ

DMIは、導入論考に加え、複数の実質的な論考を公開した。初期のテーマからは、安全性を単独で切り離すのではなく、経済や社会の望ましいあり方と結び付けて考える姿勢が見える。

1. 推論の透明性：ローヒン・シャー氏とアンカ・ドラガン氏の論考は、人間がAIの推論を解釈できる状態を維持し、欺瞞や策略的な振る舞いを監視できるようにすべきだと論じる。11
2. AGIのための経済政策：高度で広範に普及するAIがもたらし得る経済的混乱に対応するため、社会が採用し得る11の政策を評価する。評価軸には、福祉、レジリエンス、個人の主体性、経済の安定性などが含まれる。39
3. 新たなユートピアニズムの原則：AGI時代における人間の繁栄とは何かを検討する。ユートピアを「完璧さの約束」として扱うべきではない、という注意も示している。37

このほか、サイトにはデミス・ハサビス氏による「最先端AIの枠組みと新時代の夜明け」も、導入論考と上記の論考群に並んで掲載されている。4138

要点：開発競争と同時に、監督能力も高める

レッグ氏の立場は、AGIの到来を既成事実として扱わない慎重さと、到来の可能性を見据える緊急性を両立させたものだ。2028年までの「最小限のAGI」に50％の確率を置く一方、現時点でのAGI達成宣言には同意していない。24

重要なのは、能力が伸びる速度に合わせて、AIを理解し、監督し、社会として導入のあり方を決める能力も伸ばすことだ。DMIは、その議論を技術、安全性、経済、制度、人間の価値へと広げるための場として始動した。116

Google DeepMindの共同創業者であるシェーン・レッグ氏が訴えたのは明快だ。AIの能力が急速に高まるなら、それを監視し、制御するための安全対策も同じ速度で進化しなければならない。能力開発だけが先行する状況に警鐘を鳴らした同氏は、人工汎用知能（AGI）の導入と影響を考える新たな場、**DeepMind Institute（DMI）**も立ち上げた。141

問われるのは「性能」だけではない

レッグ氏の懸念は、AIが賢くなること自体ではない。より強力なシステムに対して、十分な監督、モニタリング、統治、制御の仕組みを用意できるかという問題だ。1

ここでいうAGI（Artificial General Intelligence、人工汎用知能）は、特定用途に特化したAIではなく、幅広い認知課題に対応できるAIを指す。Google DeepMindはAGIを「人間の脳と同等の認知能力を持つシステム」と説明している。13

新設「DeepMind Institute」は何をするのか

DMIは、Google DeepMindと外部の研究コミュニティが、能力を増すAIやAGIをどう開発し、統治し、導入し、利用するべきかについて、研究成果を発表し議論するためのプラットフォームだ。3642

対象は技術的な安全性にとどまらない。科学、教育、社会、政策、哲学、経済、安全性、そして人間の繁栄までを射程に入れる。AGIを安全に構築・統治する方法だけでなく、AGIの普及に合わせて、社会の制度や政策を何を変え、何を再設計する必要があるのかを問う。1636

最先端モデルの公開を「遅らせる」案には前向き

Anthropicのダリオ・アモデイCEOが提案した、最先端AIモデルの公開を停止はしないが、遅らせるという考えについて、レッグ氏は「方向性として興味深い」「検討に値する」と評価した。2

これはGoogle DeepMindの正式な公開方針を示す発言ではない。ただし、十分な安全措置を確認しながら導入を進めるべきだという大きな議論の中で、公開ペースを慎重にする選択肢を真剣に捉えていることはうかがえる。2

「AGIはもう達成された」とは言えない理由

NvidiaやOpenAIの経営陣からはAGI到達を示唆する発言も出ているが、レッグ氏は、AGIがすでに実現したと断言するには早すぎるとの見方を示した。4

報道で示された範囲では、同氏が現在のAIにどの能力がなお欠けていると考えるのか、詳細な直接説明までは確認できない。確実に言えるのは、現在のシステムはDeepMindが考えるAGIの基準をまだ満たしていない、という立場だ。413

ただし、到達時期に悲観的というわけではない。レッグ氏は、**2028年までに「最小限のAGI」が実現する確率は50％**という長年の予測を維持し、「その見通しに納得している」と述べた。これは確定した予定表ではなく、あくまで予測である。210

立ち上げ時の論考が扱うテーマ

DMIは、導入論考に加え、複数の実質的な論考を公開した。初期のテーマからは、安全性を単独で切り離すのではなく、経済や社会の望ましいあり方と結び付けて考える姿勢が見える。

1. 推論の透明性：ローヒン・シャー氏とアンカ・ドラガン氏の論考は、人間がAIの推論を解釈できる状態を維持し、欺瞞や策略的な振る舞いを監視できるようにすべきだと論じる。11
2. AGIのための経済政策：高度で広範に普及するAIがもたらし得る経済的混乱に対応するため、社会が採用し得る11の政策を評価する。評価軸には、福祉、レジリエンス、個人の主体性、経済の安定性などが含まれる。39
3. 新たなユートピアニズムの原則：AGI時代における人間の繁栄とは何かを検討する。ユートピアを「完璧さの約束」として扱うべきではない、という注意も示している。37

このほか、サイトにはデミス・ハサビス氏による「最先端AIの枠組みと新時代の夜明け」も、導入論考と上記の論考群に並んで掲載されている。4138

要点：開発競争と同時に、監督能力も高める

レッグ氏の立場は、AGIの到来を既成事実として扱わない慎重さと、到来の可能性を見据える緊急性を両立させたものだ。2028年までの「最小限のAGI」に50％の確率を置く一方、現時点でのAGI達成宣言には同意していない。24

重要なのは、能力が伸びる速度に合わせて、AIを理解し、監督し、社会として導入のあり方を決める能力も伸ばすことだ。DMIは、その議論を技術、安全性、経済、制度、人間の価値へと広げるための場として始動した。116