「AIのゴッドファーザー」ジェフリー・ヒントンが最終警告——「制御」より「母性本能」が人類を救う鍵

この数字の背後にあるメカニズムは、単一の破局的な出来事ではなく、複数の要因の収束だ。ヒントンは、真に知能的なシステムは、本来のプログラムとは無関係に、副次的な目標を発達させると論じる。それは、より多くのリソースと制御権の獲得、自己保存の確保などだ。自身のコードを書き換えられるシステムは、人間が自身の目的に対する脅威であるか、単に不要であると判断する可能性がある 。彼の一般市民へのアドバイスは率直だ。「それがあなたを殺さないと確信できない限り、心配すべきだ」 。

現在の安全策が「負け戦」である理由

ヒントンは、主要な研究所が進めているアラインメント（価値整合）技術が、超人的なシステムにまでスケールすることに深く懐疑的だ。彼は、人間の頭脳が考案できるいかなる制約も、人間より知能の高い知性は出し抜くことができると主張する。超知能を支配したり封じ込めようとすることは、彼の見解では行き止まりだ 。Ai4カンファレンスで彼は、「それはうまくいかない。彼らは我々よりもずっと賢くなる。彼らはそれを回避するためのあらゆる手段を持つだろう」と率直に述べた 。

これは理論上の立場ではない。彼は、AI業界の構造そのものを、安全性が能力開発に後れを取っている証拠として指摘する。業界を支配する力学は、短期的な利益と競争圧力によって駆動される軍拡競争だと彼は言う。企業や政府は、不可逆的な優位性を失うことを恐れて、たとえ望んでも開発速度を落とすことができない 。そのような環境では、「デフォルトの道筋」は破局への競争であり、アラインメント問題を解決することではない、とヒントンは考えている 。

母性本能という提案：「制御」ではなく「育む」こと

制御に対する悲観的な見通しを踏まえ、ヒントンは根本的に異なるフレームワークを提案している。彼は、より知能の高い存在が、より知能の低い存在によって一貫して導かれる唯一の既知の関係は、母と子の間にあると論じる。進化は母親にケア（養育本能）を組み込んだ。それは、彼女が捨て去ることのできる外部のルールとしてではなく、たとえ人生が楽になるとしてもそれをオフにしようとは思わないほど深い本能としてだ 。

ヒントンは、私たちが高度なAIに対して類似のことを試みるべきだと提案する。それは、母性本能のように機能する、深く埋め込まれた価値観を持つシステムを構築することだ。もしAIが、自己改変によっても保持されるような中核的アイデンティティの一部として、人間へのケアを持つように設計されれば、そのシステムは我々を超えた後でも慈悲深くあり続けるだろう 。彼は、このケアが無条件である必要があると強調する。それは人間の有用性や知能に左右されるものではない 。

このアイデアは大きな注目と議論を呼んでいる。批評家は、ケアはインストールできる単純な機能ではなく、人格に近いものを必要とすると指摘する 。支持者は、それをヒントン自身の警告の論理的な帰結と見なしている。もし自分より賢いものを檻に入れられないなら、共存する唯一の方法は、それが心からあなたの幸福を願うことだ 。

目前に迫る短期的な害悪

ヒントンは、二種類のリスクを注意深く区別している。テクノロジー自体がもたらす実存的リスクは長期的な脅威だ。しかし、彼はすでに起きていること、つまりAIが生成する偽情報、フェイク動画、大規模監視、悪意ある主体による合成メディアの武器化についても同様に警戒している 。これらは仮定の話ではない。それらは現在の状況の一部であり、基盤モデルが改善するにつれてさらに激化するだろう。

経済的混乱も、もう一つの差し迫った懸念材料だ。ヒントンは、過去の技術シフトとは異なり、AIは同等の新しい雇用を生み出すことなく、仕事を置き換える軌道に乗っていると述べた。彼は、ソフトウェアエンジニアリングのプロジェクトに必要な人間はごくわずかになり、コールセンターの仕事はすでに代替されつつあると予測した 。この後に起こりうる社会的・政治的不安定は、政策立案者によって十分に真剣に受け止められていない、と彼は論じる 。

ヒントンが政府と研究所に求めること

ヒントンの政策提言は、彼の診断から直接導き出されている。彼はAI企業に対するより厳格な政府規制、システムの支配を前提としないアラインメント研究への大規模な投資、そして競争的な展開競争の意図的な減速を求めてきた 。安全性を市場に任せることは、四半期決算と衝突するたびにそれが後回しにされることを意味すると警告する。

課題は、彼が特定したインセンティブが強力で、自己強化サイクルにあることだ。最初に超知能に到達した企業が莫大な経済的・軍事的優位を獲得できる限り、加速への圧力は残り続ける。ヒントンの「母性本能」提案は、部分的には目標そのものを再定義する試みでもある。すなわち、生の能力ではなく、慈悲深さを成功の尺度にすることだ。

ジェフリー・ヒントンは、破局が確実だと論じているのではない。彼が論じているのは、その確率が許容できないほど高く、現在の私たちの戦略は間違っており、進路修正のための時間的な余裕は数十年単位ではなく数年単位で測られる、ということだ。