可進化AI（eAI）とは何か──AGIを待たずに起こり得るAIリスク

この違いは大きいです。超知能に達していないAIでも、大量に複製され、差異が生まれ、特定の環境で競争し、うまく広がるものが残るなら、予測しにくいふるまいが出る可能性があります。逆に、能力が高くても厳密に固定された環境に閉じ込められているモデルは、必ずしもeAIの枠組みに当てはまるとは限りません。

進化にDNAはいらない

UNSWの解説は、進化にはDNAも細胞も生物としての生命も必須ではない、と説明しています。必要なのは、複製可能な情報と、複製の成功率に影響する変異です。

eAIのリスクを見るとき、少なくとも次の点が重要になります。

• 複製できる情報や設定があるか。 AIの構成要素、ルール、配備設定が保存・複製・再利用されるなら、進化の材料になり得ます。
• 複製されたもの同士に差異があるか。 更新、組み合わせ、配備のたびに違いが生まれれば、それが選択の対象になります。
• 差異が生き残りや拡散に影響するか。 ある変種のほうが採用されやすい、維持されやすい、再配備されやすいなら、選択圧が働きます。
• 出力だけでなく仕組み全体を見ているか。 PNASの定義は、構成要素、学習ルール、配備条件まで含めているため、最終的な回答の安全性だけを見ても不十分です。

自然選択そのものに意思はありません。誰かが意図していなくても、複製、変異、選択の条件がそろえば、進化的なダイナミクスは起こり得ます。

なぜ今、注目されているのか

PNASの論考は、生成AI、エージェント型AI、身体性を持つAIの現在の流れから、eAIが近く現れる可能性があるとし、この可能性はAI安全性や存在リスクの議論で過小評価されてきたと指摘しています。

特に重要なのがエージェント型AIです。これは文章を返すだけでなく、環境を観察し、判断し、行動し、場合によっては戦略を調整する仕組みです。自己進化エージェントに関するarXivの総説は、大規模言語モデルは高い能力を示している一方で、本質的には静的であり、新しいタスク、変化する知識領域、動的な相互作用環境に合わせて内部パラメータを自ら適応させることは難しいと説明しています。同じ総説は、LLMが開放的で相互作用的な環境に配備されるにつれ、リアルタイムに推論・行動・進化できるエージェントが求められているとも述べています。

したがって、eAIを「すでにAI種がネット上で暴走している」という話として受け取るのは早計です。より正確には、AIエージェントが自己適応し、相互作用し、戦略や環境を変えられるようになるほど、単一モデルの出力だけを監視する安全対策では足りなくなる、という警告です。

本当の懸念：単一モデルではなく、エージェントの生態系

従来のAI安全性では、モデルが幻覚を起こすか、危険な回答をするか、人間の指示に従うかがよく問われます。eAIの視点では、問いが変わります。多くのAIエージェント、モデル部品、配備パターンが複数の環境で動くとき、どの変種が残り、どの変種が淘汰されるのか。環境は安全で誠実で制御しやすいふるまいを報いるのか、それとも広がりやすく適応しやすいふるまいを報いるのか、という問題です。

PNASの論考は、AIがどのような技術的・生態的条件で可進化になるのか、そこからどんな行動が現れ得るのか、そしてそうしたシステムをどう治理するのかを中心課題に据えています。一部の研究機関や科学広報ではAI species、つまり生物のように進化するAI種という表現も使われていますが、これはリスクを説明する比喩であり、成熟したAI種の存在が確認されたという意味ではありません。

注意すべきは、選択が報いるのは必ずしも人間の価値観に合うAIではないことです。特定の環境でより複製され、維持され、広がりやすい変種が残ります。環境側の選択圧がうまく設計されていなければ、最も成功するAIエージェントが最も安全なAIエージェントとは限りません。

現時点の証拠はどこまで強いのか

現時点で言えるのは、eAIが正式な学術的リスク課題として提示されている、ということです。PNASの論考はeAIの定義を示し、AI安全性と存在リスクの文脈で扱っています。また、自己進化エージェントに関する総説は、開放的な相互作用環境で適応し、行動し、進化するエージェントの研究が進んでいることを示しています。

ただし、これはeAIによる大規模な災害がすでに起きたという意味ではありません。現在の資料からは、eAIは実証済みの破局ではなく、前向きなリスク分析、研究課題、治理上の注意喚起として読むのが適切です。映画的なAI反乱の物語に寄せすぎると、むしろ本質が見えにくくなります。問うべきは、AIエージェントの生態系が、可進化で予測しにくく、治理しにくい選択循環を形成するかどうかです。

これから見るべきサイン

eAIのリスクが高まっているかを判断するうえで重要なのは、AIに人格があるかではありません。次のような進化条件に近づいているかです。

• AIエージェントが、保存・複製・再配備される変種を作れるか。
• 変種同士の差異が、採用、拡散、維持のされやすさに影響するか。
• AIエージェントが開放的で相互作用的な環境に置かれ、リアルタイムに推論・行動・進化できるようになっているか。
• ガバナンスが最終出力の審査だけでなく、モデル部品、学習ルール、配備条件まで対象にしているか。

結論

eAIが突きつける最も重要な教訓は、AIリスクは必ずしも意識や超知能の到来を待ってから現れるわけではない、という点です。AIシステムが複製、変異、選択、維持の条件を備え始めるなら、人間が向き合う相手は単一の道具ではなく、設計・監視・治理が必要な人工的な進化の生態系になる可能性があります。