前沿 AI 實驗室點樣降低科學模型嘅生物武器風險

科學 AI 有機會加快生物學、醫學、藥物研發等有益工作；但隨住模型能力提高，佢亦可能降低化學或生物濫用所需嘅部分知識、時間同協調成本。現時逐漸成形嘅應對方法，唔係一刀切封鎖，而係由模型評估、存取管制、使用監察，以至現實世界關口嘅防護組成嘅多層系統。

關鍵係有冇造成可量度嘅「能力提升」

核心問題唔係面向公眾嘅聊天機械人，能否由頭到尾寫出一份生物武器「食譜」。真正要問嘅係：能力愈來愈高嘅模型，會否令一個危險項目實質上更易完成——例如縮短時間、減少所需專門知識、協助排難，或者降低多步流程之間嘅協調門檻。

因為生物傷害唔會單靠生成文字就發生。仲牽涉材料、儀器、專業技能同實際執行。一份有關現今基礎模型嘅工作論文，將焦點放喺模型會否引導使用者完成技術要求高嘅開發流程，而唔係將單一提示詞視為完整威脅途徑。

實驗室正採用嘅「多層防線」

前沿模型安全工作正逐步匯聚到幾類互補做法：

• 能力評估： 由相關領域專家配合對抗式情境測試，判斷模型喺生物或化學方面嘅協助，係咪以具實質影響嘅方式超越一般資料搜尋。
• 按風險校準嘅保障： 對高風險雙重用途要求拒答、轉向較安全回應，或者加以限制；同時盡量保留低風險教育、健康及研究問題嘅使用空間。
• 分級部署： 將最敏感嘅能力只提供畀經審核嘅用戶或機構，並設清楚條件，而唔係所有功能一律公開。
• 持續調整： 模型變強、或者系統錯誤攔截正當用途時，重新檢視分類器與存取規則。
• 外部防線： 保護濫用者必須採取實體行動嘅下游環節，尤其係生物材料採購。

呢個框架比起將模型本身視為唯一防線，更貼近現實。

Anthropic 個案：減少誤攔截，但唔放開雙重用途工作

Anthropic 對 Fable 5 生物學保障嘅更新，正好反映當中取捨。公司表示，更新後其各個產品介面中，生物學相關嘅「轉交」情況減少約 85%，令模型可以協助更多生物學工作。

但同一時間，Anthropic 表示，系統如果將要求歸類為雙重用途——包括病毒學、毒理學同分子設計——仍會將要求轉交畀就此用途而言能力較低嘅 Opus 5。因此，Fable 5 暫時仍未可用作呢些敏感類別嘅專業生物學研究及藥物開發。

重點唔在於「轉交去另一模型」呢個特定技術安排，而在於原則：如果保障機制封殺所有生物學問題，正當學習、臨床理解同日常科學工作都可能受阻；但若將所有生物學要求都當成無害，系統又可能錯過真正敏感嘅協助。提升判斷準確度，本身就係安全工作嘅一部分。

對高能力系統採取受控存取

Anthropic 亦曾為其 Mythos 級模型採用限制存取。公司 Mythos 網頁指出，Mythos 5.1 喺生物學同網絡安全方面有提升，但仍只開放畀少量通過審核嘅機構。 1

Anthropic 公布 Mythos 5 時表示，該系統與 Fable 5 採用同一個底層模型，但喺部分範圍解除咗保障限制。最初部署僅限一小批網絡防禦人員及基礎設施供應商，並透過 Project Glasswing 進行。 7

呢種部署方式唔代表風險消失：審核用戶身分、保留紀錄、管控下游用途，以及事故應對仍然重要。不過，佢反映咗一個重要轉變：唔一定只有「全面公開」同「完全唔用」兩個選項。較高風險能力可以先喺用途、使用者同監督安排更清晰嘅較窄範圍內部署。

點解模型護欄唔可以單打獨鬥

模型層面嘅保障，有可能被其他模型、微調版本、被盜帳號、工具整合，或者多人與多個系統分工處理不同步驟嘅方式削弱或繞過。因此，單靠存取控制並唔係完整嘅生物安全策略。

RAND 喺 2026 年嘅縱深防禦報告直接指出，冇任何單一保障措施可以阻止 AI 輔助嘅生物濫用。報告提出 九項介入措施，目標係喺攻擊途徑嘅不同環節、針對不同類型行為者降低風險。

實際上，較穩妥嘅預防方案應結合：

1. 模型評估與部署門檻；
2. 與風險相稱嘅限制及可信存取計劃；
3. 在合適情況下進行客戶核實、可稽核紀錄與通報；
4. 對材料採購實施篩查與監督；
5. 強化疫情偵測、公共衞生監測及應變能力。

當其他層仍然有效，任何一層出現缺口所造成嘅影響就會較細。

DNA 與 RNA 合成訂單篩查：重要嘅實體後盾

AI 生成嘅構想，最終仍要轉化成真實材料同實驗室活動。因此，核酸合成係一個重要介入關口。

提交予美國 AI 安全研究所徵詢意見嘅文件建議，建立受關注 DNA、RNA 同蛋白質序列資料庫，協助工具標示潛在有害嘅訂單要求。 17 RAND 亦提及美國嘅核酸合成篩查框架，以及業界對商業生物材料訂單所採用嘅篩查方式。

有效篩查唔止係對照一份序列名單，仲可包括核實客戶、覆核可疑訂單、升級處理程序，以及在適用法律容許下嘅資訊分享。呢啲管制唔可能解決所有風險，但可以令危險嘅電腦輔助構想更難轉變為實體能力。

生物防禦政策：限制與善用並行

政策難題並唔只係壓制生物 AI。同一批帶來雙重用途憂慮嘅能力，亦可能協助疾病監測、診斷、醫療對策研發同微生物鑑證。

2026 年，大西洋理事會（Atlantic Council）旗下兩黨生物防禦委員會，將 AI 列為其《生物防禦阿波羅計劃》嘅第十六項技術優先事項。建議包括投資 AI 輔助監測與診斷、醫療對策、溯源、模型評估與保障，以及可靈活調整嘅公共衞生應變。

較合理嘅討論框架，正正係一方面減少濫用機會，另一方面保留系統提升準備能力同醫學研究嘅潛力。

總結

現時冇公開證據支持將一般聊天機械人視為一條由頭到尾製造生物武器嘅現成捷徑。但政策制定者同 AI 實驗室採用嘅標準，唔係呢一點；佢哋正為更強科學模型可能為某些使用者帶來可量度生物「能力提升」而作準備。

最有力嘅回應，既唔係全面禁止生物學 AI，亦唔係只靠聊天機械人拒答。應該採用嘅係按比例嘅存取安排、嚴格測試、針對雙重用途要求嘅精準保障，以及在危險計劃最終必須落地嘅實體與公共衞生環節設立防線。