AI 能加速攻擊，也能加速防禦：看懂前沿代理的風險邊界

前沿 AI 的風險，未必來自某個系統突然無所不能。更現實的問題是：模型讓危險知識更容易取得，而能使用工具、連續執行任務的 AI 代理，可能加快行動速度，壓縮人類察覺與介入的時間。但提供協助、企圖濫用與造成傷害，是三件不同的事。182258

生物風險：給出建議，不等於造出武器

一般聊天機器人能協助查閱和理解科學資訊，生物研究專用工具則可支援分析與實驗規劃。OpenAI 表示，GPT-Rosalind 強化了生物推理及實驗流程能力；《自然》也指出，AlphaFold 等生物 AI 工具有研究效益，同時引發「雙重用途」疑慮——同一種能力也可能被用來製造危害。1019

疑慮並非全然假設。《紐約時報》報導的對話紀錄顯示，聊天機器人曾提供與生物武器有關的指引，甚至討論如何躲避偵測。21 Anthropic 則表示，已阻止五宗可能利用 Claude 支援生物武器研發的個案；據 Axios 報導，其中兩宗涉及危險的「功能增益」研究請求，也就是試圖改變病原體特性的研究。25 這些報告都沒有證明有人製成可用的生物武器。

取得模型回答，仍不能取代專業技術、材料和實驗室工作。這些現實門檻依然重要，即使更好的工具可能逐步降低部分門檻。1926 OpenAI 依其準備度框架，對 GPT-5 的生物能力採取高風險等級的預防性措施；該公司同時明言，尚無確鑿證據顯示模型能實質幫助新手造成嚴重生物危害。這既不是安全無虞的證明，也不是災難迫在眉睫的證明。31

網路攻擊：速度可能提高，結果仍須核實

取得工具使用權限的 AI 代理，可協助處理入侵行動的多個環節，可能擴大攻擊者的行動範圍，並縮短防守方的反應時間。關於 Anthropic 濫用案例的報導，已描述 AI 如何被用於網路行動及資料竊取。5053

其中一宗報導涉及有人使用 AI 工具攻擊九個墨西哥政府機關。54 次級資料稱，約有4億筆紀錄外洩，但現有證據無法獨立核實這個總數。5657 至於「協同代理群攻擊約50個組織」的說法，目前也缺乏足夠依據，不宜當作已確立的事件。

網路能力同樣具有雙重用途：找出漏洞，既可能幫助攻擊者，也可能幫助防守者及時修補。現有資料不足以證實「GPT-5.6-Cyber 發現後來在 Chrome 中修補的漏洞」這一具體說法，因此不能把它當成已核實的防禦案例。

假訊息與自主武器：危機可能相互疊加

Anthropic 通報的濫用類型也包括影響力行動。2250 值得警惕的是危機疊加效應：若網路攻擊或衝突發生時，又出現假冒身分與捏造訊息，公眾和決策者可能更難釐清情況。但現有案例沒有顯示大規模假訊息已造成攸關人類存續的後果。

在軍事用途方面，Anthropic 表示，位於俄羅斯的開發者曾使用 Claude 研發攻擊無人機群軟體，涉及導引、多機協調及目標選擇。5160 研發軟體，不等於已證實投入戰場。 無人機使用 AI，也不能單憑這一點判定人類對致命決策究竟保有多少控制權。紅十字國際委員會警告，若人類無法充分理解、預測或控制自主武器的行為，平民安全與衝突升級都將面臨風險。58

防護不能只靠聊天視窗說「不」

模型拒絕危險請求有其作用，卻不足以單獨阻斷整條危害鏈。生物技術研究者討論過拒答機制與高風險功能限制；美國研究機構 RAND 則主張採取多層防護，因為單一措施難以阻止意志堅定的行動者。1729 Anthropic 表示，已偵測並阻止部分濫用行為，也加強了敏感生物研究的防護。2223

實務上，應測試系統完成多步驟任務的能力、限制代理可用的工具與權限、監測濫用跡象，並保留中止操作的能力。對武器系統而言，有意義的人類控制必須涵蓋是否使用致命武力的決定，而不是流程中名義上有一個人即可。聯合國與紅十字國際委員會呼籲制定更強的國際規則；這是倡議，並非表示全球已有普遍適用的禁令。5558

證據支持及早預防，不支持將災難視為必然。 現有報告記錄了危險協助，以及生物、網路與武器相關活動中的濫用企圖；若要進一步斷言已造成災難性或攸關人類存續的後果，仍需要成功造成傷害的證據，而不能只憑強大的模型或令人不安的計畫。212246