「新たなAI規制は不要」――ジェンスン・フアン氏とドリームフォースで浮き彫りになった安全性論争

NVIDIAのジェンスン・フアンCEOがSalesforceの年次イベント「Dreamforce 2026」で示した立場は明快だった。AIの急速な進歩と安全性は対立しない。AI業界に新しい法律や規制は必要なく、開発企業がシステムを管理し、厳格に試験し、準備不足の製品を出さない判断をすれば、安全とスピードは両立できるというものだ。

これは、最先端AIの進展速度を誰が決めるべきかという論争の核心に触れている。開発企業の技術的・運用上の責任に委ねるのか。それとも、独立した評価者や政府を含む外部の仕組みで歯止めをかけるのか。

フアン氏の主張：安全性は「工学」の仕事

フアン氏は、速い開発と安全な製品のどちらかを選ばなければならないという見方を「誤った二者択一」と位置づけた。企業は最大限速く走ってよい。ただし、自社のシステムを制御できる状態に保ち、十分なテストを実施し、準備が整っていない製品は世に出さないべきだという。

この考え方では、安全性は軽視されていない。むしろ、最先端モデルを開発するラボが担う技術・運用上の責務とされる。広範な規制で開発を抑える理由ではなく、開発プロセスに組み込むべき課題だ。

フアン氏は、人類滅亡のような極端なシナリオをAIリスク評価の中心に据えることにも懐疑的だった。一方で、外部評価そのものを全面否定したわけではない。報道によれば、実効性のある安全テストを前提に、開発ラボが主導権を保つ形での独立評価者の関与には前向きな姿勢を示している。

All-In Summitでのトランプ氏との電話が示したこと

Dreamforceでの発言は、All-In Summitでの発言とも整合する。フアン氏は当時、「一時停止」や「ペース調整」は、企業が自社システムを制御できなくなったと判断した場合に自主的に行うものだと述べた。

イベント中にフアン氏へ電話をかけたドナルド・トランプ米大統領は、AI開発を遅らせるべきだという警告をさらに強く退けた。両者に共通するのは、米国がAIの勢いを維持すべきであり、包括的な規制でブレーキをかけるべきではないという前提だ。

ただし、これは政策上の選好であって、企業の自主対応だけであらゆるAIリスクを管理できることの証明ではない。激しい競争圧力の下で、企業が収益性の高い製品の投入を自ら確実に延期できるのか――そこが争点となる。

対立する見方：安全対策が追いつくよう能力向上を抑える

Anthropicのダリオ・アモデイCEOは、AI開発の停止ではなく、最先端AIの能力が伸びる速度を抑えるべきだと主張している。安全性研究、監視、ガバナンスが追いつく時間を確保するためであり、より強い安全テストと、主要AI企業に実質的なアクセスを持つ独立評価者を提案した。14

OpenAIのサム・アルトマンCEOとイーロン・マスク氏も、アモデイ氏の慎重論を概ね支持した。アルトマン氏は、従業員に近い水準のアクセスを持つ独立評価者を歓迎すると表明。マスク氏は「ダリオは正しい」と述べた。49

単純な「AI推進派」と「AI反対派」の対立ではない。違いは、主に進展速度と監督の強さにある。

• フアン氏の立場：開発を速く進め、優れた工学、安全テスト、責任あるリリース判断で安全性を確保する。
• アモデイ氏の立場：外部監督と安全対策が追いつくよう、最先端AIの能力向上を意図的にペース調整する。
• アルトマン氏とマスク氏の公表済みの立場：より慎重な姿勢と独立評価を支持する。ただし、業界全体の減速を実際にどう実現するかはなお議論が分かれる。14

独立評価者は重なり得る論点

この論争は完全な二項対立ではない。アモデイ氏の案には、企業が表明した安全慣行を守っているかを確認するため、第三者の評価者が組織内で検証できる仕組みが含まれる。312

フアン氏も評価者の存在に前向きとされるため、限定的ながら接点はある。外部レビューは有益になり得るが、それが直ちに新たな規制制度や開発減速の義務化を意味する必要はない、という考え方だ。

本当の相違は、執行力と権限にある。評価者は企業に助言・監査する役割にとどまるのか。それとも、企業に停止を求められる拘束力ある制度の一部となるのか。

データセンターへの反発は別種の懸念を映す

地域に建設されるデータセンターへの懸念はAI論争と関連するが、最先端モデルの制御喪失をめぐる議論とは別の問題でもある。地域住民が直面するのは、電力需要、水使用量、排出、土地利用、騒音、地域インフラへの負荷といった直接的な影響だ。

こうした懸念は、AIが人類存亡級の脅威だと証明するものではない。一方で、AIインフラ拡大の環境的・社会的コストは地域で引き受けられやすいのに対し、経済的な利益や重要な意思決定は別の場所に集中し得ることを示している。

なお、提供された資料だけでは、この反対運動が国内または世界でどの程度広がっているかを数量的に示すことはできない。

NVIDIAにとっての利害

NVIDIAの事業は、AIの学習と導入への投資が続くことと深く結び付いている。報道されたHugging Faceの129億ドルでの買収合意により、同社はチップとデータセンター基盤に加え、AIモデル、データセット、開発者にとって重要なプラットフォームへと役割を広げることになる。17

したがって、モデル学習、実運用、データセンター建設を実質的に遅らせる規則は、NVIDIAが拡大するAIエコシステム全体の需要に影響し得る、と考えるのは合理的だ。ただし、これは同社の立場に伴う商業上のインセンティブについての推論であり、フアン氏個人の動機や、同氏の安全性に関する主張の誠実さを示すものではない。

結論：問われているのは安全性の重要性ではない

フアン氏のDreamforceでの主張は、開発企業の責任を信頼する立場に立つ。企業が制御を維持し、徹底的に試験し、安全でない製品を出さなければ、AIは高速に進歩できるという見方だ。

対するアモデイ氏の主張は、意図的なペース調整と独立した検証を重視する。最先端AIの能力は、自主的な安全対策だけでは追いつけないほど急速に高まる恐れがあるという。14

未解決なのは、安全性が重要かどうかではない。安全性を主としてAIラボ内部の工学的課題に委ねられるのか、それとも最先端システムの規模と影響を考えれば、次の能力飛躍の前に外部による実効的なチェックが必要なのか、という問題である。