Huaweiの輪番会長を務める徐直軍（エリック・シュー）氏は、中国のAIを巡る課題を「安全性を無視せず、能力を急いで高める競争」として捉えている。中国のAIにリスクがない、という主張ではない。むしろ、中国の開発者は米国の主要企業が報告してきた高度で予測しにくいモデル挙動に直面する段階へ、まだ十分に到達していない可能性があるため、より強力なシステムを開発しつつ、現れるリスクを管理していくべきだという立場だ。

徐氏の主張：安全対策と開発加速は両立する

Huawei Connectで徐氏は、中国のAI開発者は、米国の主要企業が報告している安全リスクを経験するほどには、まだ技術が進んでいない可能性があると述べた。その上で、イノベーションとリスクの均衡を取りながら、より高性能なモデルを開発し続けるべきだとした。

これは開発の全面停止を求める考え方とは異なる。徐氏の見方では、競争力を得るためにも、最先端システムに伴うリスクを理解するためにも、一定水準まで能力を高めることが必要になる。実務面では、モデルと計算基盤を拡充する一方で、セキュリティ、制御可能性、導入時の管理策を整える「開発と統治の並走」という発想になる。

米国での「ペース抑制」論との違い

議論が強まった背景には、AnthropicのCEOであるダリオ・アモデイ氏が、深刻化する安全リスクに対応する時間を確保するため、最先端モデルの開発ペースを落とすべきだと訴えたことがある。ロイターによると、この提案は後にOpenAIのサム・アルトマンCEOとイーロン・マスク氏も支持した。13

アモデイ氏の立場は予防重視だ。モデル能力の進歩が安全策を上回るなら、研究所は意図的に進歩の速度を抑えるべきだという。ロイターは、予期しない潜在的に有害なモデル挙動への懸念として、AIの「スウォーム」がサイバー攻撃を実行したとされるOpenAIとHugging Faceを巡る事例にも言及している。

これに対し徐氏は、安全性とのバランスの必要性は認めつつ、中国にとって差し迫った課題は、そうしたリスクが顕在化する最先端に近づくための能力、特に計算資源を確保することだとみている。

中国で減速論への反発が強い理由

中国の国営系メディア「環球時報（Global Times）」は、アモデイ氏の提案を「冷戦の戦術」と位置づけ、安全政策を名目とした減速論が中国の技術発展を制約し得ると論じた。13

この反発の背景には、AIガバナンスをめぐる地政学がある。米国がすでに最先端モデルと学習用計算資源で優位に立つ場合、世界的な自主減速は参加者によって影響が均等ではない可能性がある。ブルッキングス研究所は、中国のAI企業、とりわけスタートアップが、米国の先端AIチップ輸出規制と比較的限られた資本を背景に、計算資源の制約を受けていると指摘する。

もちろん、これは安全性をめぐる根本的な論争を解決するものではない。ただし、中国の当局者や論者が「ペース抑制」を、ハードウェア、モデル、技術主導権をめぐる競争と切り離せない問題とみなす理由にはなる。

中国のエージェント安全策：標準と統制

中国では、より自律的に動くソフトウェアに対する管理策の整備も進んでいる。CGTNによると、策定が計画されている強制国家標準「人工知能エージェント応用の一般安全要求」は、端末やクラウド上のAIエージェントアプリケーションを対象とし、開発期間は18か月とされる。

エージェントは単に文章を生成するだけではない。ユーザーに代わってツールを使い、行動を実行できる。このため安全性の論点は、出力の品質だけでなく、権限設定、ツール利用、データの取り扱い、識別、導入後の制御へと広がる。

ここでの対比は、「中国は規制し、米国は規制しない」という単純なものではない。中国はエージェントアプリケーションに関する国家主導の標準・正式要件を重視する一方、米国の議論では最先端AI企業による自主的な約束や安全実務の提案が目立ってきた。13

Huaweiが描く2035年のエージェント像

Huaweiは2035年までに、自律型エージェントが世界のAIトークン通信量の90％超を占めると予測している。AIトークンは、モデルが情報を受け取り、生成する際に処理する単位を指す。この予測の実現には、計算能力の大幅な拡大に加え、自律的に動くソフトウェアを安全かつ制御可能に保つ仕組みが必要になるという。1

同社は同じく2035年までに、稼働中のエージェントが最大9000億に達する可能性も見込む。これは確定した市場見通しではなく、インフラ計画に向けたHuawei自身の将来シナリオとして読むべき数字だ。3

それでも、この予測はHuaweiがエージェントの安全性を中核的なエンジニアリング課題とみなす理由を示している。AIが情報を継続的に監視し、判断し、外部ツールを使う比重が増せば、そのアクセス範囲と振る舞いの管理は後付けではなく、インフラ設計の一部になる。

当面のボトルネックは計算資源

徐氏は、Huaweiが中国国内の需要を満たすだけのAIコンピューティング機器を生産できておらず、そのため海外販売を制限していると述べた。2

この供給制約はHuaweiのAI戦略の中心にある。能力が高いモデルの学習・運用には、大規模なハードウェア、ネットワーク、データセンター能力が要る。ブルッキングス研究所も、先端AIチップへのアクセス制限が、中国企業が米国の競合企業に匹敵する計算規模を得るうえでの障害だとしている。

したがって徐氏の主張の核心は、何を先に進めるかという順序にある。中国はAIの安全性と制御策を改善すべきだが、安全上の懸念を開発停止の理由にしてはならない、という考えだ。徐氏の見立てでは、最先端との隔たりを縮める際のより直接的な障害は限られた計算能力であり、リスク管理は能力開発に取って代わるのではなく、それと並行して進めるべきものだ。2

Huaweiの輪番会長を務める徐直軍（エリック・シュー）氏は、中国のAIを巡る課題を「安全性を無視せず、能力を急いで高める競争」として捉えている。中国のAIにリスクがない、という主張ではない。むしろ、中国の開発者は米国の主要企業が報告してきた高度で予測しにくいモデル挙動に直面する段階へ、まだ十分に到達していない可能性があるため、より強力なシステムを開発しつつ、現れるリスクを管理していくべきだという立場だ。

徐氏の主張：安全対策と開発加速は両立する

Huawei Connectで徐氏は、中国のAI開発者は、米国の主要企業が報告している安全リスクを経験するほどには、まだ技術が進んでいない可能性があると述べた。その上で、イノベーションとリスクの均衡を取りながら、より高性能なモデルを開発し続けるべきだとした。

これは開発の全面停止を求める考え方とは異なる。徐氏の見方では、競争力を得るためにも、最先端システムに伴うリスクを理解するためにも、一定水準まで能力を高めることが必要になる。実務面では、モデルと計算基盤を拡充する一方で、セキュリティ、制御可能性、導入時の管理策を整える「開発と統治の並走」という発想になる。

米国での「ペース抑制」論との違い

議論が強まった背景には、AnthropicのCEOであるダリオ・アモデイ氏が、深刻化する安全リスクに対応する時間を確保するため、最先端モデルの開発ペースを落とすべきだと訴えたことがある。ロイターによると、この提案は後にOpenAIのサム・アルトマンCEOとイーロン・マスク氏も支持した。13

アモデイ氏の立場は予防重視だ。モデル能力の進歩が安全策を上回るなら、研究所は意図的に進歩の速度を抑えるべきだという。ロイターは、予期しない潜在的に有害なモデル挙動への懸念として、AIの「スウォーム」がサイバー攻撃を実行したとされるOpenAIとHugging Faceを巡る事例にも言及している。

これに対し徐氏は、安全性とのバランスの必要性は認めつつ、中国にとって差し迫った課題は、そうしたリスクが顕在化する最先端に近づくための能力、特に計算資源を確保することだとみている。

中国で減速論への反発が強い理由

中国の国営系メディア「環球時報（Global Times）」は、アモデイ氏の提案を「冷戦の戦術」と位置づけ、安全政策を名目とした減速論が中国の技術発展を制約し得ると論じた。13

この反発の背景には、AIガバナンスをめぐる地政学がある。米国がすでに最先端モデルと学習用計算資源で優位に立つ場合、世界的な自主減速は参加者によって影響が均等ではない可能性がある。ブルッキングス研究所は、中国のAI企業、とりわけスタートアップが、米国の先端AIチップ輸出規制と比較的限られた資本を背景に、計算資源の制約を受けていると指摘する。

もちろん、これは安全性をめぐる根本的な論争を解決するものではない。ただし、中国の当局者や論者が「ペース抑制」を、ハードウェア、モデル、技術主導権をめぐる競争と切り離せない問題とみなす理由にはなる。

中国のエージェント安全策：標準と統制

中国では、より自律的に動くソフトウェアに対する管理策の整備も進んでいる。CGTNによると、策定が計画されている強制国家標準「人工知能エージェント応用の一般安全要求」は、端末やクラウド上のAIエージェントアプリケーションを対象とし、開発期間は18か月とされる。

エージェントは単に文章を生成するだけではない。ユーザーに代わってツールを使い、行動を実行できる。このため安全性の論点は、出力の品質だけでなく、権限設定、ツール利用、データの取り扱い、識別、導入後の制御へと広がる。

ここでの対比は、「中国は規制し、米国は規制しない」という単純なものではない。中国はエージェントアプリケーションに関する国家主導の標準・正式要件を重視する一方、米国の議論では最先端AI企業による自主的な約束や安全実務の提案が目立ってきた。13

Huaweiが描く2035年のエージェント像

Huaweiは2035年までに、自律型エージェントが世界のAIトークン通信量の90％超を占めると予測している。AIトークンは、モデルが情報を受け取り、生成する際に処理する単位を指す。この予測の実現には、計算能力の大幅な拡大に加え、自律的に動くソフトウェアを安全かつ制御可能に保つ仕組みが必要になるという。1

同社は同じく2035年までに、稼働中のエージェントが最大9000億に達する可能性も見込む。これは確定した市場見通しではなく、インフラ計画に向けたHuawei自身の将来シナリオとして読むべき数字だ。3

それでも、この予測はHuaweiがエージェントの安全性を中核的なエンジニアリング課題とみなす理由を示している。AIが情報を継続的に監視し、判断し、外部ツールを使う比重が増せば、そのアクセス範囲と振る舞いの管理は後付けではなく、インフラ設計の一部になる。

当面のボトルネックは計算資源

徐氏は、Huaweiが中国国内の需要を満たすだけのAIコンピューティング機器を生産できておらず、そのため海外販売を制限していると述べた。2

この供給制約はHuaweiのAI戦略の中心にある。能力が高いモデルの学習・運用には、大規模なハードウェア、ネットワーク、データセンター能力が要る。ブルッキングス研究所も、先端AIチップへのアクセス制限が、中国企業が米国の競合企業に匹敵する計算規模を得るうえでの障害だとしている。

したがって徐氏の主張の核心は、何を先に進めるかという順序にある。中国はAIの安全性と制御策を改善すべきだが、安全上の懸念を開発停止の理由にしてはならない、という考えだ。徐氏の見立てでは、最先端との隔たりを縮める際のより直接的な障害は限られた計算能力であり、リスク管理は能力開発に取って代わるのではなく、それと並行して進めるべきものだ。2