AI要唔要放慢？Amodei倡「控制節奏」引爆市場及政治角力

Anthropic行政總裁Dario Amodei一句要為前沿AI「控制節奏」（pace the frontier），令一場原本偏向技術安全的討論，迅速變成市場、商業策略與地緣政治的正面衝突。OpenAI行政總裁Sam Altman罕有地公開附和，並宣布公司不會在2026年進行IPO；另一邊廂，AI相關股票下跌，美國總統特朗普則直接拒絕放慢發展的說法。1710

Amodei想放慢嘅，唔係AI研究本身

Amodei並非要求停止研發，而是主張刻意降低最先進模型能力提升的速度，為安全研究、監督機制與國際協調爭取時間。他憂慮，當AI已可實質協助開發下一代AI時，系統能力可能快過人類理解與控制它的能力；這類動態常被稱為「遞歸式自我改進」。177

他的三步框架包括：

1. 在前沿AI實驗室設常駐獨立評估人員：Anthropic表示，會讓第三方評估者獲得長期、近似員工級別的系統存取權，以核實安全措施有否落實、報告事故，以及在訓練期間評估模型的對齊情況（即模型行為是否符合人類預期與安全目標）。17
2. 前沿AI公司協調：為安全標準與發展限制建立共同做法，避免公司為搶先而無止境鬥快。17
3. 跨政府國際合作：共同處理先進AI可能帶來的風險。17

重點在於，第三方人員並非做一次性的外部審核，而是持續嵌入公司內部、可長期監察的安排；這等於將部分安全檢驗由公司自行把關，轉為接受外部持續查核。

Altman支持，OpenAI的上市時間表亦讓路

Altman在X上表示同意Amodei，稱OpenAI亦需要「控制前沿發展節奏」。兩間在開發最強AI模型上激烈競爭的公司公開站在同一陣線，屬少見情況。1

他同時作出重要商業決定：OpenAI不會在2026年上市。Altman形容當下進行IPO是「不明智」，指公司仍有大量安全及對齊工作要處理。路透社報道，他認為即使到本十年末，AI導致人類滅絕的機率只是10%，亦屬不可接受。

這代表OpenAI至少在表述上，將安全工作置於科技業最受矚目的上市計劃之前。不過，公司尚未公開一份具體的模型減速時間表或能力門檻。

研究員警告令爭議升溫

事件之前，曾在OpenAI及Anthropic從事預訓練研究的Jacob Coxon辭職，並批評兩家公司在通往可自我改進AI系統的競賽中，是在「拿我們的生命來賭」。18

Anthropic對齊科學主管Evan Hubinger亦被CNBC引述稱，他個人估計AI在本十年內殺死人類的機率高於10%。這是他個人的風險判斷，不是Anthropic的官方預測，更不代表已被證實的結果。

正因為有這些來自業內人士的強烈警告，長期以來偏抽象的「災難性AI風險」討論，變成公司管理層必須即時回答的問題：當保障措施仍在建立，實驗室是否應繼續盡量追求模型能力突破？

點解AI概念股會跌？

市場擔心的並非AI投資會即刻消失，而是原先押注「模型能力持續快速增長、算力開支大增、晶片需求強勁」的預期，可能要重新估值。前沿模型若被有意限制或延後升級，模型公司、基建供應商及投資工具的收入和回報，或會較預期遲到。

亞洲AI相關股份在消息後下跌。作為OpenAI主要投資者之一的SoftBank，在東京一度跌13.2%；美國股指期貨亦走低。另有報道指，納斯達克期貨在盤前跌約1.5%，晶片股成為沽壓焦點。

一次市場拋售不等於AI基建或晶片需求必然崩塌，但足以反映投資者正為「發展速度未必可以無限加快」這項風險重新定價。

特朗普：贏AI者贏天下

特朗普拒絕接受放慢AI發展的呼籲，將議題定位為美國與中國的戰略競賽。他表示：「誰贏得AI，誰就贏。」並指美國目前領先中國，應維持優勢。10

這正好點出爭論的核心矛盾：安全倡議者認為，減速可換來更多測試、對齊研究和獨立監察時間，從而降低嚴重傷害的機會；反對者則擔心，若只有部分美國企業自我約束，繼續加速的競爭對手或國家便可能取得優勢。1710

Amodei亦承認，若敵對國家尤其中國不參與，是這套「控制節奏」方案最棘手的問題。若規則只約束部分前沿實驗室，重視安全的公司可能承受商業和地緣政治成本，但整場能力競賽仍會繼續。

對AI公司與投資者意味住乜

這場風波留下的是一種既有共識、又充滿衝突的局面：

• AI實驗室領袖開始認同要加強安全措施：Altman支持Amodei的方向，Anthropic則承諾引入嵌入式第三方評估。
• 但執行細節仍未解決：口頭支持「控制節奏」，不等於已有共同能力門檻、執行方法或具約束力的國際協議。17
• OpenAI的IPO直接受影響：Altman明言2026年不會上市，理由是安全優先。
• Anthropic的上市安排未見明確改變：現有報道支持其第三方評估承諾及政策主張，但不足以證明該公司因這次爭議而正式更改IPO時間表。

歸根究底，爭議唔只係「AI應否繼續進步」，而是：誰有權決定速度？模型變得更強前，要有甚麼獨立證據證明它足夠安全？而當商業利益及大國競爭都催促大家加速，安全承諾又能否守得住？1710