前沿 AI 實驗室如何降低科學模型的生物武器風險

科學 AI 有望加速生物學、醫學、藥物發現與蛋白質研究；但隨著模型能力提高，也可能降低化學或生物濫用所需的部分知識、排錯、時間與協調成本。

正在成形的應對方式，並不是用一條規則全面封鎖，而是建立由能力評估、存取控管、持續監測，以及實體瓶頸防護構成的多層系統。

真正要衡量的是：AI 是否帶來「實質能力提升」

問題不只是一般公開聊天機器人能否直接提供從頭到尾的生物武器做法。更重要的是，能力更強的模型會不會讓危險計畫變得明顯更容易執行，例如縮短所需時間、降低專業門檻、減少實驗排錯難度，或改善多個步驟間的協調。

這項區分很重要。生物危害並非由文字生成本身造成，仍涉及材料、設備、專業能力與實際操作。一份探討現有基礎模型的工作論文，將焦點放在模型是否能引導使用者完成技術要求極高的研發流程，而非把單一提示詞視為完整威脅鏈。

前沿實驗室的做法：多道防線，而非單一拒答

前沿模型的安全工作正逐漸匯聚到幾項互補措施：

• **能力評估：**透過領域專家與對抗性情境測試，檢驗模型在生物或化學上的協助，是否已在重要程度上超出一般資訊取得途徑。
• **校準過的安全防護：**對高風險雙重用途請求拒答、轉向或限制，同時盡可能保留低風險教育、健康與研究問題的協助。
• **分級部署：**最敏感的能力不直接全面公開，而是只在明確條件下提供給經審核的使用者或機構。
• **持續調整：**當系統錯擋正當用途，或模型能力變得更強時，重新檢視分類器與存取規則。
• **外部防護：**在危險構想必須轉化為實體行動的下游環節，尤其是生物材料取得處，設下防線。

這比把模型本身的行為當作唯一防線更務實。

Anthropic 的案例：減少誤擋，不等於放寬雙重用途研究

Anthropic 對 Fable 5 生物學防護的更新，正好說明這項取捨。該公司表示，更新後，各產品介面中的生物學相關「轉送」情形減少約 85%，讓模型能協助處理更廣泛的生物學任務。

不過，Anthropic 同時表示，系統若將請求歸類為雙重用途——包括病毒學、毒理學與分子設計——仍會把請求轉交給在這類用途上能力較低的 Opus 5。因此，Fable 5 目前尚不能用於這些敏感領域的專業生物研究與藥物開發。

重點不在特定的模型轉送機制，而在其原則：若安全措施擋下所有生物學問題，可能妨礙正當學習、臨床解讀與日常科研；但若把所有生物問題都視為無害，又可能漏掉真正敏感的協助。提升判別精準度，本身就是安全的一部分，而非安全的對立面。

對更高能力系統採取受控存取

Anthropic 也對 Mythos 級模型採取限制存取。其 Mythos 頁面指出，Mythos 5.1 在生物學與資安能力有所提升，但目前仍僅開放給少數經審核的組織。 1

在公布 Mythos 5 時，Anthropic 說明這個系統與 Fable 5 使用相同的底層模型，但在部分領域解除安全防護；初期僅透過 Project Glasswing 提供給少數網路防禦團隊與基礎設施供應商。 7

這類部署並不能消除風險：受審核存取、使用紀錄、下游用途控管與事件應變仍然重要。不過，它打破了「全面公開」與「完全不用」的二分法。能力較高、風險也較高的系統，可以先在使用目的、使用者身分與監督條件較明確的狹窄環境中部署。

為何模型護欄不能單獨承擔防線

模型層級的防護可能因替代模型、微調、遭竊帳號、工具整合，或由不同人員與系統分工的流程而被繞過或削弱。因此，只靠存取控管不足以構成完整的生物安全策略。

RAND 在 2026 年的縱深防禦報告中直言，沒有任何單一安全措施能阻止 AI 被用來協助生物濫用。該報告提出九項介入措施，目標是在攻擊路徑的不同環節、面對不同類型行為者共同降低風險。

實務上，較穩健的預防組合包括：

1. 模型能力評估與部署門檻；
2. 與風險相稱的限制及可信存取計畫；
3. 視情況採用客戶驗證、可稽核性與通報機制；
4. 對材料取得進行篩檢與監督；
5. 強化疫情偵測、公共衛生監測與應變能力。

當其他層仍有效時，任何單一環節的弱點就不至於造成同等程度的後果。

DNA 與 RNA 合成篩檢，是關鍵的實體後盾

由 AI 提出的構想，仍須轉化為真實材料與實驗活動；這使核酸合成成為重要的介入點。

一份提交給美國 AI 安全研究所徵詢意見程序的文件建議，可建立受關注 DNA、RNA 與蛋白質序列資料庫，協助工具標記可能有害的訂單請求。 17 RAND 也提到，美國已有核酸合成篩檢框架，業界亦對商業生物材料訂單採取篩檢做法。

有效篩檢不只是一張序列清單，還可包含客戶身分驗證、可疑訂單審查、升級處理程序，以及在適用法律下進行資訊分享。這些控制措施無法消除所有風險，但能提高把危險的計算協助轉換成實體能力的難度。

生物防禦政策：限制風險，也保留正面用途

政策挑戰並不是單純壓制生物 AI。同一批具有雙重用途疑慮的能力，也可能支援疾病監測、診斷、醫療對策研發，以及微生物鑑識。

2026 年，大西洋理事會（Atlantic Council）旗下兩黨生物防禦委員會將 AI 列為其《生物防禦阿波羅計畫》的第十六項技術優先事項。其建議包括投資 AI 輔助監測與診斷、醫療對策、溯源鑑識、模型評估與防護，以及可調適的公共衛生應變。

這也提供了較合適的整體框架：一方面減少濫用機會，另一方面保留 AI 提升醫療研究與防疫準備的潛力。

結論

目前沒有公開證據支持把一般聊天機器人視為可端到端製造生物武器的現成工具；但這並非政策制定者與 AI 實驗室採用的判準。

他們正為另一種可能性做準備：更強的科學模型，可能對某些使用者造成可衡量的生物能力提升。因此，最有力的回應既不是全面禁止生物 AI，也不是只相信聊天機器人的拒答，而是採取相稱的存取權限、嚴謹測試、針對雙重用途請求的精準防護，並在實體材料與公共衛生層面建立最後防線。