Anthropic 喺官方網誌同社交平台 X 上面無奈咁話:「為咗確保符合規定,我哋逼不得已要突然停晒所有客對 Fable 5 同 Mythos 5 嘅使用權限。」 不過大家常用嘅 Claude 聊天機械人同其他 AI 模型,就唔受影響
。
華府今次咁大動作,核心憂慮係官員口中嘅「越獄漏洞」,以及呢啲模型有能力去做「自主網絡安全研究」。據報,政府至今只係向 Anthropic 提供咗一啲口頭證據,話有方法可以引導個模型去讀特定嘅程式碼庫,然後自己搵出軟件嘅安全漏洞嚟修復——聽落好窄、好專門,根本唔係乜嘢全方位嘅漏洞
。
有趣嘅係,某程度上 Anthropic 今次係「自己嚇自己」。事關佢哋早排推出最強模型 Mythos 5 嗰陣,就曾經出過安全警示,話呢個模型喺網絡安全方面有重大風險。結果白宮即刻幫聯邦政府機構設立保護措施,只准佢哋喺受限環境下使用 。到咗 Fable 5 面世,Anthropic 強調呢個係「安全版」,受過訓練會拒絕執行危險指令,諗住可以令大家安心。弊在政府完全唔收貨,幾日之內就落閘封殺
。
呢次仲係美國政府歷史上,第一次將特定嘅大型語言模型歸類為國家安全威脅,並且引用「視同出口」條例,限制連喺美國本土做嘢嘅外國人都唔掂得 。商務部長 Howard Lutnick 更加親自寫信俾 Anthropic CEO Dario Amodei,通知佢呢個出口管制安排
。
換句話講,就算係負責「Glass Wing」計劃(Anthropic 內部嘅尖端安全項目)嗰班研究員同工程師,只要佢哋唔係美國公民或者永久居民,一樣冇得掂呢兩個模型 。既然連自己公司內部都唔可以用,Anthropic 根本冇可能淨係限制街外客,自己匿埋繼續研發。要符合法規,唯一出路就係全球熄燈,等到搵到技術方案或者法律上傾掂數先算
。
呢一幕,將美國出口管制法推到 AI 領域嘅極致,直接將最先進嘅模型,當正係武器或者敏感國防科技咁看待。所謂「視同出口」規則,意思就係,就算你只係喺美國境內將受管制嘅技術俾一個外國人睇,法律上都等於你將件嘢出口咗去外國 。
雖然 Anthropic 好快就跪低執行,但佢哋好明確咁話,政府今次判斷出錯。
喺傾掂數之前,呢兩個史上最先進、亦係首批因為國家安全理由被強行下架嘅 AI 模型,將繼續漆黑一片。到底呢場僵局會維持幾耐?又會為其他 AI 巨頭立下乜嘢先例?呢個將會係 AI 管控角力戰入面,下一個最值得關注嘅章節。
Comments
0 comments