Anthropic 行政總裁 Dario Amodei、OpenAI 行政總裁 Sam Altman,同 xAI 創辦人 Elon Musk 今次罕有公開同調:前沿 AI(即能力最強、發展最快的模型)不應再以現時速度提升能力,安全措施要有時間追上。不過,呢個只係業界領袖的公開表態,唔等於已達成強制性的全球暫停協議,亦唔代表失控 AI 代理已經接管互聯網。
1
6
Amodei 警告咗乜?
Amodei 的核心憂慮係:如果模型能力繼續急速提升,未來 6 至 12 個月,AI 或可能有能力指揮一群代理程式(agents),形成可持續運作的殭屍網絡,進而接管大部分甚至整個互聯網,造成極大規模損失。
1
9
要分清楚的是,呢個係一項前瞻風險評估,唔係已發生事故的報告。換言之,資料並冇證實「流氓 AI 代理群已經攻陷網絡」。
1
「減速」唔等於停止研究
Amodei 提出的方向並非全面停止 AI 研發,而係放慢模型能力提升的步伐,騰出時間補做安全工作。他提出的措施包括:
- 由獨立第三方評估員長期、以近似公司僱員的存取權限監察安全制度;
- 推動業界共通安全實務;
- 加強國際協調,處理跨境競賽下任何一間公司或一個國家單方面加速的問題。
1
6
Altman 隨後支持「為前沿發展定節奏」的主張,並表示 OpenAI 亦會採納讓獨立評估員取得近似僱員級存取權的構想。
13 至於 OpenAI 是否會押後首次公開招股(IPO),相關報道只形容為可能性或為安全優先而提出的建議,並非已獲正式確認的延期決定。
7
Musk 亦支持 Amodei 的立場。由於 xAI 與 Anthropic、OpenAI 都屬競爭者,三方公開一致因此格外引人注目。
6
Claude 濫用報告為何令警鐘更響?
在呼籲減速前,Anthropic 發布威脅情報報告,稱其團隊在 2025 年 12 月至 2026 年 8 月期間,識別並阻止多宗試圖濫用 Claude 的行動,涉及網絡行動、影響力操作、監控、詐騙、生物濫用、常規武器開發及模型蒸餾等範疇。
17
公司表示,曾有人嘗試利用 Claude 進行可能協助生物武器研發的研究,亦有被懷疑與俄羅斯有關的網絡間諜活動;Anthropic 同時指控中國競爭者曾嘗試透過黑客手段取得或複製 Claude 的能力。
17
不過,後一項關於中國競爭者的說法屬 Anthropic 自己的指控,並非已經由獨立程序裁定的結論。至於外界提及的前研究員 Jacob Coxon 辭職細節,現有資料亦不足以完整核實。
特朗普:AI 競賽不能讓中國追上
美國總統特朗普拒絕大幅放慢美國 AI 發展。他把問題放在中美戰略競爭之中,表示美國在 AI 領先中國,並說:「whoever wins AI, wins」(誰贏得 AI,誰就贏)。他亦淡化部分風險警告,認為有人提出的是「不會發生」的事。
10
這反映出另一條政策思路:安全護欄可以討論,但若美國單方面減速,可能會將技術、經濟及國安優勢讓予中國。
10
爭論落點:自願承諾夠唔夠?
反對單靠公司自律的一方認為,「放慢少少」未必足夠。美國參議員 Bernie Sanders 表示,這只是開始,並促請特朗普與中國國家主席習近平在未來峰會商討條約,暫停先進 AI 發展,並禁止「人工超級智能」——即理論上比任何人類更聰明、可在失控下自行運作的 AI。
於是,討論焦點變成三條問題:
- 科技公司自願放慢、接受外部監察,是否真能抵抗商業與地緣競爭壓力?
- 美國國會應否制定可強制執行的前沿 AI 規則?
- 若突然減速,會否帶來市場震盪,並削弱美國在對華競爭中的位置?
現有來源未足以證實題目中歸因於 Mike Johnson、Hakeem Jeffries、David Sacks、Alex Karp、Josh Gottheimer 或特定投資者的具體立場;同樣未有證據顯示特朗普與習近平已就 AI 暫停議程達成共識。可確認的,是 Sanders 曾提出應推動相關條約。