AI 風險有幾真？Mistral 質疑安全論述背後的市場盤算

法國 AI 公司 Mistral AI 行政總裁 Arthur Mensch 在 9 月 24 日接受《世界報》訪問時，批評美國大型 AI 公司利用外界對技術的恐懼，並說：「AI 是軟件，是可以控制的。」這句話為爭論點了題，卻不是 AI 安全問題的定論：一項警告可以講中真風險，同時亦符合提出警告那間公司的商業利益。29

安全規則，由誰定標準？

Mensch 質疑的重點，不只是 AI 危不危險，而是誰有能力界定甚麼叫負責任的發展速度。如果安全規則主要按大型開發商最容易符合的要求訂立，規則就可能令規模較小的對手更難競爭。這值得審視，但不能因此推斷相關風險都是編造出來的。29

Mistral 自己亦沒有說 AI 可以毫無顧慮地推出。公司曾警告，一旦模型獲得自主行動空間，並能使用其他工具，就可能成為影響力強大的行動者，安全部署需要審慎處理。因此，Mensch 所說的「可以控制」，較合理的理解是主張管理風險，而不是保證所有未來 AI 系統都一定受控。72

末日警告，係可能性而非倒數

曾先後在 OpenAI 和 Anthropic 工作的研究員 Jacob Coxon，9 月上旬警告 AI「可能在本世紀二十年代結束前殺死我們所有人」。其後，Anthropic 行政總裁 Dario Amodei 呼籲業界自願放慢最先進模型的開發；《世界報》報道，美國主要競爭對手支持他在 9 月 12 日提出的呼籲。18

這些警告和建議需要認真看待，但**「可能」不等於已證實的期限**。同樣，企業支持放慢開發，也不足以單憑這一點證明，全面減速一定比針對具體風險設防更有效。18

爭論亦不只是歐洲公司與美國公司對立。Geoffrey Hinton 主張加快建立安全防護；Andrew Ng 則質疑末日式論述的證據，反對一刀切暫停發展。他們的分歧，令問題更清楚：哪些風險已有證據支持？哪些措施真正對應到那些風險？

反壟斷指控，與安全爭論要分開看

另有 AI 服務訂戶提出訴訟，指控 Anthropic、OpenAI、SpaceXAI 和 Google 在放慢開發的呼籲後，協議限制彼此的競爭性開發。**這是訴訟指控，不是違法協議已獲證實。**幾間公司的高層表達相近的安全憂慮，本身亦不足以證明他們曾協調行動。

Mensch 的批評與這宗訴訟有關聯，問的卻是兩道不同問題：前者問安全論述會否令既有巨企得益；後者問競爭對手有沒有實際達成限制開發的協議。不能把每項警告都當成營銷手段，也不能把每次呼籲審慎都當成合謀證據。

較穩妥的做法，是要求每項安全措施都接受獨立檢視：它針對甚麼風險、有甚麼證據支持、預期能減低多少風險，以及成本會否過度落在潛在競爭者身上。這把尺既要量度巨企支持的減速方案，也要量度 Mistral 主張繼續發展的理據。商業利益是查證論點的理由，不是自動否定論點的理由。789