務實來看,瓶頸可能不再是「是否存在技術高超的駭客」,而是 「誰能取得可以自動化部分工作的 AI 系統」。
正因為具備這些能力,像 Mythos 這樣的模型並未被廣泛釋出。
其理由很直接:同樣能幫助安全研究人員更快找到弱點的 AI 工具,若被攻擊者無限制地取得,同樣也能幫助他們。
即使有限制,專家們仍擔心,一旦強大的 AI 系統被分享給合作夥伴、評估者或供應商,要將其完全控管是多麼困難。
儘管如此,此事件闡明了一個更廣泛的擔憂:高能力的網路攻擊模型可能成為竊取或濫用的高價值目標。
政策制定者和安全研究人員提出的另一個擔憂是潛在的 「防禦不平等」。
這創造出一種情境:資源充足的組織受益於 AI 強化的防禦,而較小的組織則在缺乏相應工具的情況下,面臨日益自動化的威脅。
AISI 的結果並不意味著 AI 能毫無限制地自主入侵真實世界的網路。這項評估是在受控環境中進行,並不一定反映其在面對設有強化系統及主動防禦者的目標時之表現。
對於政府和安全專業人士而言,挑戰已不再是想像。隨著 AI 系統在漏洞發現和利用方面的能力持續增強,控制存取權限與確保防禦性採用,可能將與改進模型本身同等重要。
Comments
0 comments