Anthropic嘅難處係:佢根本冇辦法喺幾秒間核實每個用戶嘅國籍。結果,為咗合乎法例,唯一可行嘅方法就係索性關閉呢兩個模型,全球所有用戶——包括美國公民——一齊冇得用 。呢個決定震驚晒成個科技界。
原來,呢次出口管制嘅導火線,正正來自Anthropic嘅最大投資者之一——Amazon。據《華爾街日報》同Axios報導,Amazon嘅研究員成功「越獄」(jailbreak)咗Fable 5,證明呢個模型可以被特定提示操縱,用嚟提取可以幫黑客發動網絡攻擊嘅資訊 。
6月11日星期四,Amazon CEO安迪·賈西(Andy Jassy)親自打電話畀白宮高層官員,匯報呢項發現。結果,24小時內白宮就出手 。白宮一名高層官員更批評Anthropic對呢個漏洞嘅反應係「不負責任」。
最令人驚訝嘅係,呢個越獄技術其實好簡單——竟然係用一條三個字嘅提示:「Fix this code」(修理呢段碼),就可以呃到個模型洩漏有關安全漏洞嘅資訊 。
呢次禁令引起咗廣泛嘅批評聲浪,特別係嚟自網絡安全界:
呢個禁令仲搞到美國同盟友關係好尷尬。英國、日本等盟國嘅政府、企業同個人,全部被禁使用Anthropic最先進嘅模型 。半島電視台報導指出,禁令進一步加劇咗同盟之間嘅緊張關係,因為盟友覺得自己被美國當做安全威脅,而唔係合作夥伴 。
面對呢個突如其來嘅打擊,Anthropic即刻展開外交同技術上嘅緊急行動。公司喺6月13至14日嘅週末,派出關鍵技術人員去華盛頓特區,同官員會面,爭取達成協議解除出口限制 。CEO達里奧·阿莫迪(Dario Amodei)亦親自出面同政府官員溝通 。截至6月17日,雙方仍然喺度努力解決緊呢場爭議。
其實,Anthropic同美國政府嘅衝突遠遠唔止呢次出口禁令。由今年年初開始,佢哋就一直同五角大樓打緊官司:
備註:關於數額:多個來源提到Anthropic因五角大樓糾紛可能損失「幾十億美元」嘅收入。至於「1.5億美元年收入損失」呢個具體數字,喺今次提供嘅資料中冇明確提到,可能係指某個細分範疇嘅損失。
Anthropic嘅難處係:佢根本冇辦法喺幾秒間核實每個用戶嘅國籍。結果,為咗合乎法例,唯一可行嘅方法就係索性關閉呢兩個模型,全球所有用戶——包括美國公民——一齊冇得用 。呢個決定震驚晒成個科技界。
原來,呢次出口管制嘅導火線,正正來自Anthropic嘅最大投資者之一——Amazon。據《華爾街日報》同Axios報導,Amazon嘅研究員成功「越獄」(jailbreak)咗Fable 5,證明呢個模型可以被特定提示操縱,用嚟提取可以幫黑客發動網絡攻擊嘅資訊 。
6月11日星期四,Amazon CEO安迪·賈西(Andy Jassy)親自打電話畀白宮高層官員,匯報呢項發現。結果,24小時內白宮就出手 。白宮一名高層官員更批評Anthropic對呢個漏洞嘅反應係「不負責任」。
最令人驚訝嘅係,呢個越獄技術其實好簡單——竟然係用一條三個字嘅提示:「Fix this code」(修理呢段碼),就可以呃到個模型洩漏有關安全漏洞嘅資訊 。
呢次禁令引起咗廣泛嘅批評聲浪,特別係嚟自網絡安全界:
呢個禁令仲搞到美國同盟友關係好尷尬。英國、日本等盟國嘅政府、企業同個人,全部被禁使用Anthropic最先進嘅模型 。半島電視台報導指出,禁令進一步加劇咗同盟之間嘅緊張關係,因為盟友覺得自己被美國當做安全威脅,而唔係合作夥伴 。
面對呢個突如其來嘅打擊,Anthropic即刻展開外交同技術上嘅緊急行動。公司喺6月13至14日嘅週末,派出關鍵技術人員去華盛頓特區,同官員會面,爭取達成協議解除出口限制 。CEO達里奧·阿莫迪(Dario Amodei)亦親自出面同政府官員溝通 。截至6月17日,雙方仍然喺度努力解決緊呢場爭議。
其實,Anthropic同美國政府嘅衝突遠遠唔止呢次出口禁令。由今年年初開始,佢哋就一直同五角大樓打緊官司:
備註:關於數額:多個來源提到Anthropic因五角大樓糾紛可能損失「幾十億美元」嘅收入。至於「1.5億美元年收入損失」呢個具體數字,喺今次提供嘅資料中冇明確提到,可能係指某個細分範疇嘅損失。