「AIが次のAIを作る」2028年予測とは──Anthropic共同創業者が警告する本当のリスク

要するに、クラーク氏の警告は「AIが人間のAI開発を手伝う段階」から、「AIが次のAIを作る過程の大部分を担う段階」へ移るかもしれない、というものです 。

「AIが自分の後継を作る」とは何を意味するのか

ここでいう「後継」とは、あるAIモデルの次に開発される、より高性能なシステムを指します。クラーク氏が懸念しているのは、十分に強力なAIが、その次世代システムを作るための重要な研究開発作業に深く関与し、場合によっては自動化してしまうことです 。

これは、今日よく語られる「AIがコードを書く」「AIがエンジニアを補助する」という話とは段階が違います。コード生成は研究開発の一部にすぎません。クラーク氏のシナリオは、モデルの設計、訓練、評価、改善といったフロンティアAI開発のパイプライン全体が自動化に近づく可能性を問題にしています 。

ただし、重要なのは、クラーク氏が「もう実現した」と言っているわけではない点です。これはあくまで、2028年末までに起こり得るという確率的な予測です 。

なぜ「再帰的自己改善」と呼ばれるのか

このシナリオはしばしば「再帰的自己改善」と呼ばれます。AIがより高性能なAIを作り、その次のAIがさらに高性能なAIを作る、というループが生まれる可能性があるためです 。

リスクが大きいとされるのは、単に「AIがソフトウェアを改善する」からではありません。AIを改善するシステム自体が、世代を追うごとに強くなり得るからです。クラーク氏の警告を扱った報道では、この可能性は、AIが次のAIを改善できるようになった時点で能力向上が急加速する「知能爆発」のリスクと結びつけて論じられています 。

もしAI進歩のボトルネックが人間の研究者から「AIを改善するAI」へ移れば、能力向上のペースは人間が監視し、検証し、統治する速度を超えてしまう恐れがあります 。

何が大きなリスクなのか

核心にあるのは、AI開発プロセスに対する人間の監督が薄くなるリスクです。研究から訓練、評価、改善までが自動化されれば、より強力な後継システムが存在する前に人間が介入できるチェックポイントは減りかねません 。

主な懸念は次の3つです。

• 人間による確認の機会が減る。 AIが研究・訓練・改善の十分な部分を自力で進められるようになると、企業や研究者が次のシステムの安全性を評価する時間が短くなる可能性があります 。
• 能力向上が速くなりすぎる。 クラーク氏の警告は、AIがAIを改善し始めることで進歩の速度がさらに上がる可能性と結びついており、報道では「知能爆発」リスクとして扱われています 。
• ガバナンスが追いつかない。 クラーク氏は、自動化されたAI研究開発がもたらす変化は非常に大きく、社会がそれに備えられているか分からない、という趣旨の懸念を示しています 。

つまり、ここで問題になっているのは「ロボットが別のロボットを作る」というSF的な絵ではありません。より強力なAIを作る産業的・研究的なループが高速化し、安全評価、規制、社会的理解の通常のペースを超えるかもしれない、というリスクです 。

まだ分かっていないこと

クラーク氏の「60％超」という数字は、確定した事実ではなく、あくまで確率判断です 。このタイムラインには異論もあります。

ある批判的な見方は、2028年までに人間抜きのエンドツーエンドな再帰的自己改善が起きる可能性は低く、10％未満だとしています。ただし、2036年までのより長い期間であれば、類似のことが可能になる余地はあるとも述べています 。

また、再帰的自己改善が本当に加速的な成果をもたらすのかについても技術的な議論があります。ワシントン大学のコンピューター科学者ペドロ・ドミンゴス氏の見解を紹介した報道では、問題はAIがソフトウェアを生成・改変できるかどうかだけではなく、それが継続的な収穫逓増につながるかどうかであり、その点は明確に示されていないとされています 。

この違いは重要です。「AIがAI研究を手伝う」「AIがAI研究開発の大部分を自動化する」「AIが高速に自己改善して知能爆発を起こす」は、関連していても同じ主張ではありません 。クラーク氏が警告しているのは、その中でも最も影響が大きい展開です 。

結論：本当の論点はスピードと監督

クラーク氏の予測は、2028年末までにAIが人間抜きのAI研究開発を行い、自らの後継システムを構築し得る状態になる可能性は「どちらかといえば高い」というものです 。

もしこの見方が正しければ、問題は単なる技術革新の加速ではありません。より強力なAIを作るプロセスが、人間による監督、安全性テスト、制度設計の速度を上回ることです 。

一方で、この予測はまだ争いのある見通しでもあります。2028年という期限は早すぎると見る批判もあり、現時点では「警告」として受け止めるべき段階です 。