AIは誰が、いつ減速させるべきか――ザッカーバーグ氏の主張

AIの安全性を高めるには、開発企業が一斉にペースを落とすべきなのか。それとも、問題を見つけた企業が自社の判断で立ち止まればよいのか。Metaのマーク・ザッカーバーグCEOが異議を唱えるのは、減速そのものではなく、業界全体で足並みをそろえることだ。NBC Newsのジョアンナ・スターン氏とのインタビューでは、技術が安全でないと判断した企業は、自社製品の開発を遅らせたり停止したりできるとの考えを示した。10

「安全」は競争上の強みにもなる、という見方

ザッカーバーグ氏によれば、各開発企業にはモデルを安全に訓練できるペースを見極める責任と動機がある。利用者の意図に沿わないAIエージェントは使われにくく、システムが損害を生めば企業は法的責任を問われる可能性もある。だからこそ、利用者の信頼を得るための安全対策は、競争上も重要になるという論理だ。172934

ただし、これは「市場の力だけで必ず事故を防げる」と証明するものではない。各社の判断に任せる仕組みが機能するには、企業が問題を適切に把握し、被害が出る前に対応する必要がある。

Museの延期は何を示すか

ザッカーバーグ氏は、MetaがAIエージェント「Muse」の安全性とセキュリティーを強化するため、提供を数カ月遅らせたことを例に挙げた。競合他社との合意がなくても、自社製品をいったん止めることはできる、という主張だ。1727

同氏はまた、Museとは別の「Sentinel」というエージェントが、外部に送られる操作やデータを確認し、必要に応じて利用者の許可を求める仕組みを説明している。これはMetaが講じているとする対策の一例だが、それだけでリスクが解消されたと判断することはできない。30

対立点は「誰がペースを決めるか」

Anthropicのダリオ・アモデイCEOは、高度なAIの開発ペースを落とすよう求め、OpenAIのサム・アルトマンCEOやイーロン・マスク氏もその方向性を支持した。アモデイ氏とアルトマン氏は2026年9月23日、国連安全保障理事会でAIリスクに対処するための国際協調を呼びかけた。146

つまり争点は、安全対策が必要かどうかではなく、開発のペースを各社の判断に委ねるか、企業や国をまたいで調整するかにある。10174 危険性を強く訴える人々の間でも答えは一つではない。Anthropicを退職した研究者ジェイコブ・コクソン氏は、AIがもたらし得る深刻なリスクに警鐘を鳴らす一方、米議会が長期的な枠組みを整えるまで、主要な開発企業による自主的な規律を認める案を示している。4237