微軟AI主管批Anthropic對Claude意識嘅揣測「極度、極度危險」

佢將呢種做法標籤為「極度、極度危險」（really, really dangerous），並警告話：「我哋絕對唔想有一日要面對一個對自己嘅痛苦有概念、或者對自己嘅感受有想法嘅超級智能。」 佢喺其他場合進一步解釋，話「向嗰啲可能喺好多方面比我哋人類更有能力嘅存在、工具同代理，投射潛在嘅權利，係非常危險嘅。」 Suleyman其中一個好大嘅憂慮，係喺官方文檔入面認真對待機器意識呢個問題，會誤導數以百萬計嘅用戶，而呢啲用戶根本冇足夠知識去理解對話式AI背後嘅工程現實 。

一場關乎哲學同競爭嘅大對決

呢場批評嘅背後，遠遠唔止係技術設計上嘅簡單分歧。今次公開罵戰，揭示咗企業哲學同競爭定位嘅衝突 。

Anthropic一直以嚟都將自己包裝成AI競賽入面「安全優先」嘅另類選擇。呢間由前OpenAI高層創立嘅公司，強調「憲章AI」（Constitutional AI）係一個框架，用嚟建立更透明、更有道德約束嘅模型。Suleyman嘅批評之所以咁有策略性殺傷力，正係因為佢從根本上動搖咗呢個身份認同。佢嘅論點係：Anthropic呢種獨特嘅安全手法——喺系統內部認真看待機器可能有「福祉」嘅可能性——先至係令佢哋變得唔負責任嘅原因 。

而且，兩間公司分別屬於對立嘅行業聯盟。微軟持有OpenAI（Anthropic嘅主要競爭對手）嘅巨額股份，並已經將OpenAI嘅GPT模型融入到整個產品生態系統入面。而Anthropic就從亞馬遜同Google嗰度籌集咗數十億美元資金 。Suleyman嘅批評，既有道德論述嘅分量，同時亦係喺一個公眾對安全形象越嚟越重視嘅市場入面，射出一支競爭嘅冷箭。

呢場分歧背後亦有文獻記錄嘅哲學史。Suleyman以前曾經發表同講解過關於「看似有意識嘅AI」（Seemingly Conscious AI）嘅概念，佢認為就算機器唔係真係有生命，但嗰啲表現得令人信服好似有意識嘅機器，都會帶嚟前所未有嘅風險 。相反，Anthropic採取嘅係一種研究更透明嘅立場，佢哋公開咗Claude憲章設計嘅詳細解釋，同時承認對模型係咪可能有某種形式嘅主觀體驗，仍然存在不確定性 。呢啲唔單止係市場口號，而係代表咗隨住模型變得越來越強大，乜嘢先叫負責任嘅資訊披露，兩間公司落咗真正唔同嘅賭注。

截至報道發出時，Anthropic仍未公開回應Suleyman嘅言論 。呢種沉默令辯論暫時未有結果，但界線而家已經被公開劃清，好可能會影響嚟緊業界圍繞AI安全標準同企業問責嘅討論方向。