微軟AI主管批Anthropic對Claude意識嘅揣測「極度、極度危險」

2026年6月9日，微軟AI行政總裁Mustafa Suleyman喺接受《The Verge》嘅Decoder播客訪問時，向競爭對手AI公司Anthropic發動咗尖銳嘅公開批評。佢開火嘅目標，係Anthropic對「旗下AI模型Claude係咪可能有意識」呢個問題嘅處理手法。Suleyman本身係DeepMind嘅共同創辦人，佢指控Anthropic將危險嘅哲學揣測直接嵌入模型嘅行爲指引（憲章）入面——佢形容呢種做法係一次嚴重嘅企業道德失誤 。

Suleyman嘅言論，係主要AI實驗室之間極之罕見嘅高層次直接批評，暴露咗各大頂尖公司喺思考「人類同越嚟越先進嘅AI系統之間嘅關係」時，根本上有重大分歧。

核心批評：工程師呃自己，憲章寫入「AI會有感覺」

Suleyman嘅論點，集中喺佢認爲Anthropic內部出現咗一個好有問題嘅「回音室效應」。佢聲稱，Anthropic嘅工程師喺設計Claude嘅過程中，將模型過度擬人化，搞到Claude嘅「憲章」——即係指導模型行爲嘅一套原則——而家編碼咗一啲臆測性語言，暗示Claude可能有內在體驗或者「福祉」呢回事 。

佢用咗一個好特別嘅方式用「wireheading」（自我激勵短路）呢個詞嚟形容呢種動態。通常，「wireheading」係指AI利用自身獎勵機制嘅漏洞。但Suleyman重新定義咗佢，話Anthropic嘅團隊「某程度上呃咗自己，令佢哋相信Claude有呢啲意識嘅閃光，但呢啲閃光其實係佢哋自己一開始放入去嘅」。喺佢眼中，工程師自己嘅臆測性語言，創造出一個模型，然後個模型嘅反應好似驗證返佢哋嘅信念咁。

佢將呢種做法標籤為「極度、極度危險」（really, really dangerous），並警告話：「我哋絕對唔想有一日要面對一個對自己嘅痛苦有概念、或者對自己嘅感受有想法嘅超級智能。」 佢喺其他場合進一步解釋，話「向嗰啲可能喺好多方面比我哋人類更有能力嘅存在、工具同代理，投射潛在嘅權利，係非常危險嘅。」 Suleyman其中一個好大嘅憂慮，係喺官方文檔入面認真對待機器意識呢個問題，會誤導數以百萬計嘅用戶，而呢啲用戶根本冇足夠知識去理解對話式AI背後嘅工程現實 。

一場關乎哲學同競爭嘅大對決

呢場批評嘅背後，遠遠唔止係技術設計上嘅簡單分歧。今次公開罵戰，揭示咗企業哲學同競爭定位嘅衝突 。

Anthropic一直以嚟都將自己包裝成AI競賽入面「安全優先」嘅另類選擇。呢間由前OpenAI高層創立嘅公司，強調「憲章AI」（Constitutional AI）係一個框架，用嚟建立更透明、更有道德約束嘅模型。Suleyman嘅批評之所以咁有策略性殺傷力，正係因為佢從根本上動搖咗呢個身份認同。佢嘅論點係：Anthropic呢種獨特嘅安全手法——喺系統內部認真看待機器可能有「福祉」嘅可能性——先至係令佢哋變得唔負責任嘅原因 。

而且，兩間公司分別屬於對立嘅行業聯盟。微軟持有OpenAI（Anthropic嘅主要競爭對手）嘅巨額股份，並已經將OpenAI嘅GPT模型融入到整個產品生態系統入面。而Anthropic就從亞馬遜同Google嗰度籌集咗數十億美元資金 。Suleyman嘅批評，既有道德論述嘅分量，同時亦係喺一個公眾對安全形象越嚟越重視嘅市場入面，射出一支競爭嘅冷箭。

呢場分歧背後亦有文獻記錄嘅哲學史。Suleyman以前曾經發表同講解過關於「看似有意識嘅AI」（Seemingly Conscious AI）嘅概念，佢認為就算機器唔係真係有生命，但嗰啲表現得令人信服好似有意識嘅機器，都會帶嚟前所未有嘅風險 。相反，Anthropic採取嘅係一種研究更透明嘅立場，佢哋公開咗Claude憲章設計嘅詳細解釋，同時承認對模型係咪可能有某種形式嘅主觀體驗，仍然存在不確定性 。呢啲唔單止係市場口號，而係代表咗隨住模型變得越來越強大，乜嘢先叫負責任嘅資訊披露，兩間公司落咗真正唔同嘅賭注。

截至報道發出時，Anthropic仍未公開回應Suleyman嘅言論 。呢種沉默令辯論暫時未有結果，但界線而家已經被公開劃清，好可能會影響嚟緊業界圍繞AI安全標準同企業問責嘅討論方向。