AI 與生物安全嘅討論，已經唔再只係問一句：「聊天機械人會唔會回答危險嘅生物學問題？」

更棘手嘅問題係：當模型愈來愈識得長線推理同生物設計，會唔會幫一個專業程度較低嘅人，一次過跨過幾道原本分開存在嘅門檻——例如搵研究資料、提出假設、修改設計、處理實驗失敗，再將網上嘅數碼資訊接駁到現實世界嘅生產流程？

呢個風險，唔等於聊天機械人可以自動整出病原體。真正造成生物傷害，仍然需要材料、設備、實驗室能力，以及有效嘅傳播途徑。不過，如果科學模型喺長線推理同生物設計方面繼續進步，原本零散、公開嘅知識，可能會變得更加容易實際應用。2026 年一份工作論文指出，現代基礎模型增加咗提供與生物武器發展相關指引嘅風險。33

答案唔係一個濾鏡，而係多重防線

現時資料所反映嘅政策方向，並唔係將希望寄託喺一個拒答系統或者一間模型公司身上，而係喺整條生物風險鏈上分幾層設防：

• 模型層： 模型推出前先做評估，進行生物安全紅隊測試，加入分類器及行為限制，監察濫用情況，並隨模型能力變化更新防護措施。
• 存取層： 將最強模型或者高敏感功能，限制畀經核實嘅用戶、機構同應用程式使用。
• 生產層： 篩查合成 DNA 同 RNA 訂單、核實客戶身份，並保留日後調查所需嘅紀錄。
• 偵測層： 加強異常活動偵測、生物安全監測、疾病監測同微生物鑑識。
• 應對及問責： 提升診斷、醫療對策、應急準備、追溯來源、阻截同嚇阻能力。

RAND 於 2026 年提出一套「縱深防禦」策略，列出九項涵蓋不同階段嘅介入措施，並得出結論：冇一項單獨嘅防護措施，可以完全阻止有人利用 AI 協助製造生物武器。3639

實際意思好直接：模型拒答可能被繞過，亦可能出錯；但之後嘅合成訂單篩查、可疑訂單紀錄，或者公共衞生系統發現嘅異常訊號，仍然可以提供另一個截停濫用嘅機會。

AI 公司喺模型層做緊乜？

前沿 AI 實驗室目前較常見嘅做法，係將能力評估同受控部署放埋一齊，目標係保留正常科研用途，同時限制會實質增加生物傷害能力嘅協助。

Anthropic 公開文件提供咗一個分級存取嘅例子。公司將 Claude Fable 5 描述為一般可用嘅模型；Claude Mythos 5 就透過 Project Glasswing 限定提供，存取權只畀一小批經審查嘅機構。495051

Anthropic 發布資料指，Fable 5 同 Mythos 5 建基於相同底層模型，但 Mythos 5 喺部分範疇解除咗部分防護措施，並先向一批網絡防禦人員及基礎設施供應商受控部署。5056 呢種「同一底層能力、不同部署方式」嘅安排，反映一個更廣泛嘅治理方向：將設有防護嘅版本普及畀一般用戶，而更強或者限制較少嘅能力，就只喺受控環境提供。

不過，現有資料未能獨立證實原問題提到嘅幾項較具體說法，包括 Fable 5 內部測試曾發現某位潛在生物武器開發者獲得「重大提升」、將敏感生物學問題轉交畀「Opus 5」，以及 8 月份將誤報率降低約 85%。除非有 Anthropic 原始安全報告或者其他可直接核實嘅文件支持，否則呢啲細節唔應視為已確立事實。

點解合成 DNA 篩查係重要關卡？

模型安全措施主要管住 AI 講咩，但唔會直接管住用戶取得設計、序列或者其他生物材料之後會做乜。正因為咁，AI 公司高層亦將焦點放到現實世界嘅生產環節。

OpenAI、Anthropic、Google DeepMind 同 Microsoft AI 嘅領袖，曾聯署公開信，促請美國國會要求合成 DNA 及 RNA 供應商篩查訂單、核實客戶身份，並保存相關紀錄。172223

呢項建議針對嘅係一個實體「樽頸位」：就算危險要求避過咗模型控制，供應商仍有機會喺交付材料之前發現可疑訂單並作出截停。

保存紀錄亦有追蹤作用。如果初步篩查漏咗可疑活動，調查人員仍可以利用訂單或序列資料，追查到客戶來源。當然，呢套方法唔會令風險消失，但就為 AI 平台以外再加多一條防線。

監管機構同生物安全組織點樣應對？

政策反應正由單純嘅 AI 治理，擴展到更廣泛嘅生物防禦。Atlantic Council 旗下嘅兩黨生物防禦委員會，已經將 AI 列為《Apollo Program for Biodefense》嘅第十六項科技優先事項。議程同時涵蓋進攻性風險同防禦性用途，包括 AI 輔助疾病監測、診斷、醫療對策研發、微生物鑑識、模型評估、防護措施，以及可適應變化嘅核酸篩查。24

OpenAI 嘅生物防禦計劃，亦集中喺五個方向：畀防禦人員受信任嘅存取權、安全推進前沿生物學、建立更早期預警系統、加強診斷與應急準備，以及提升醫療對策同應對能力。3

呢啲優先次序顯示，生物安全界將 AI 視為一項「雙重用途」技術。同一套能力，可以加快蛋白質研究、藥物發現、診斷同醫療對策開發；亦可能令危險嘅生物學推理更容易畀人取得。若然一刀切封鎖所有高階生物學研究，會犧牲有益嘅科研；但如果假設模型濾鏡已經足夠，又會留下實體同制度上嘅漏洞。

點解焦點放喺下一代模型？

現時公開聊天機械人可能會答得含糊、出錯，或者拒絕危險要求。呢啲限制目前有一定作用，但唔可以當成長遠安全策略。當模型逐步具備以下能力，風險就可能上升：

• 將生物學同化學嘅專業文獻整合起來；
• 處理長時間、分多步驟嘅研究任務；
• 產生、比較同修改生物設計；
• 使用外部科學工具或者自動化工作流程；
• 唔只係回答單一問題，仲可以針對失敗方案進行排錯。

每一項能力，都可能降低一種唔同嘅門檻。風險因此係累積式，而唔係單一答案式：模型唔需要提供一份完整、零錯誤嘅配方，先至對一個已經有部分資源或者經驗嘅人有用。只要可以改善判斷、搵出被忽略嘅選項，或者縮短反覆試錯嘅時間，已經可能增加協助程度。

但現有證據亦唔支持「單靠一個公開聊天機械人，就可以按掣即時整出生物武器」呢個講法。真正需要關注嘅，係 AI 可能喺一條較長嘅工作流程上提供更多協助，而唔係 AI 已經可以由頭到尾自主製造。

開放科研同安全控制之間，點樣取平衡？

核心難題係：一方面要維持正常科學研究，另一方面要限制會帶來實質生物危害嘅協助。現有資料大致指向幾項原則：

1. 採用按風險分級嘅存取方式，而唔係一刀切。 不同用戶、模型同應用程式，風險並唔一樣。
2. 持續、獨立測試安全措施。 今日對模型有效嘅控制，模型升級之後未必仍然有效。
3. 守住實體生產關卡。 當數碼防護失效，合成訂單篩查同客戶核實可以補位。
4. 喺合法及合適嘅前提下跨機構分享風險訊號。 有啲可疑活動，可能要將模型、合成、實驗室同公共衞生資料放埋一齊先睇得出。
5. 防止事故之餘，亦要投資防禦能力。 監測、診斷、醫療對策、追溯來源同應急反應，都可以減低防線失守後嘅後果。

最穩妥嘅結論，唔係話 AI 令生物武器變成必然，亦唔係話今日嘅聊天機械人限制已經解決問題，而係要將風險當成一個系統去管理。模型防護、受限存取、合成篩查、異常偵測、公共衞生準備同問責機制，互相重疊時先最有力；如果決策者以為任何一項措施可以獨力承擔全部責任，防線就最容易出現缺口。

AI 與生物安全嘅討論，已經唔再只係問一句：「聊天機械人會唔會回答危險嘅生物學問題？」

更棘手嘅問題係：當模型愈來愈識得長線推理同生物設計，會唔會幫一個專業程度較低嘅人，一次過跨過幾道原本分開存在嘅門檻——例如搵研究資料、提出假設、修改設計、處理實驗失敗，再將網上嘅數碼資訊接駁到現實世界嘅生產流程？

呢個風險，唔等於聊天機械人可以自動整出病原體。真正造成生物傷害，仍然需要材料、設備、實驗室能力，以及有效嘅傳播途徑。不過，如果科學模型喺長線推理同生物設計方面繼續進步，原本零散、公開嘅知識，可能會變得更加容易實際應用。2026 年一份工作論文指出，現代基礎模型增加咗提供與生物武器發展相關指引嘅風險。33

答案唔係一個濾鏡，而係多重防線

現時資料所反映嘅政策方向，並唔係將希望寄託喺一個拒答系統或者一間模型公司身上，而係喺整條生物風險鏈上分幾層設防：

• 模型層： 模型推出前先做評估，進行生物安全紅隊測試，加入分類器及行為限制，監察濫用情況，並隨模型能力變化更新防護措施。
• 存取層： 將最強模型或者高敏感功能，限制畀經核實嘅用戶、機構同應用程式使用。
• 生產層： 篩查合成 DNA 同 RNA 訂單、核實客戶身份，並保留日後調查所需嘅紀錄。
• 偵測層： 加強異常活動偵測、生物安全監測、疾病監測同微生物鑑識。
• 應對及問責： 提升診斷、醫療對策、應急準備、追溯來源、阻截同嚇阻能力。

RAND 於 2026 年提出一套「縱深防禦」策略，列出九項涵蓋不同階段嘅介入措施，並得出結論：冇一項單獨嘅防護措施，可以完全阻止有人利用 AI 協助製造生物武器。3639

實際意思好直接：模型拒答可能被繞過，亦可能出錯；但之後嘅合成訂單篩查、可疑訂單紀錄，或者公共衞生系統發現嘅異常訊號，仍然可以提供另一個截停濫用嘅機會。

AI 公司喺模型層做緊乜？

前沿 AI 實驗室目前較常見嘅做法，係將能力評估同受控部署放埋一齊，目標係保留正常科研用途，同時限制會實質增加生物傷害能力嘅協助。

Anthropic 公開文件提供咗一個分級存取嘅例子。公司將 Claude Fable 5 描述為一般可用嘅模型；Claude Mythos 5 就透過 Project Glasswing 限定提供，存取權只畀一小批經審查嘅機構。495051

Anthropic 發布資料指，Fable 5 同 Mythos 5 建基於相同底層模型，但 Mythos 5 喺部分範疇解除咗部分防護措施，並先向一批網絡防禦人員及基礎設施供應商受控部署。5056 呢種「同一底層能力、不同部署方式」嘅安排，反映一個更廣泛嘅治理方向：將設有防護嘅版本普及畀一般用戶，而更強或者限制較少嘅能力，就只喺受控環境提供。

不過，現有資料未能獨立證實原問題提到嘅幾項較具體說法，包括 Fable 5 內部測試曾發現某位潛在生物武器開發者獲得「重大提升」、將敏感生物學問題轉交畀「Opus 5」，以及 8 月份將誤報率降低約 85%。除非有 Anthropic 原始安全報告或者其他可直接核實嘅文件支持，否則呢啲細節唔應視為已確立事實。

點解合成 DNA 篩查係重要關卡？

模型安全措施主要管住 AI 講咩，但唔會直接管住用戶取得設計、序列或者其他生物材料之後會做乜。正因為咁，AI 公司高層亦將焦點放到現實世界嘅生產環節。

OpenAI、Anthropic、Google DeepMind 同 Microsoft AI 嘅領袖，曾聯署公開信，促請美國國會要求合成 DNA 及 RNA 供應商篩查訂單、核實客戶身份，並保存相關紀錄。172223

呢項建議針對嘅係一個實體「樽頸位」：就算危險要求避過咗模型控制，供應商仍有機會喺交付材料之前發現可疑訂單並作出截停。

保存紀錄亦有追蹤作用。如果初步篩查漏咗可疑活動，調查人員仍可以利用訂單或序列資料，追查到客戶來源。當然，呢套方法唔會令風險消失，但就為 AI 平台以外再加多一條防線。

監管機構同生物安全組織點樣應對？

政策反應正由單純嘅 AI 治理，擴展到更廣泛嘅生物防禦。Atlantic Council 旗下嘅兩黨生物防禦委員會，已經將 AI 列為《Apollo Program for Biodefense》嘅第十六項科技優先事項。議程同時涵蓋進攻性風險同防禦性用途，包括 AI 輔助疾病監測、診斷、醫療對策研發、微生物鑑識、模型評估、防護措施，以及可適應變化嘅核酸篩查。24

OpenAI 嘅生物防禦計劃，亦集中喺五個方向：畀防禦人員受信任嘅存取權、安全推進前沿生物學、建立更早期預警系統、加強診斷與應急準備，以及提升醫療對策同應對能力。3

呢啲優先次序顯示，生物安全界將 AI 視為一項「雙重用途」技術。同一套能力，可以加快蛋白質研究、藥物發現、診斷同醫療對策開發；亦可能令危險嘅生物學推理更容易畀人取得。若然一刀切封鎖所有高階生物學研究，會犧牲有益嘅科研；但如果假設模型濾鏡已經足夠，又會留下實體同制度上嘅漏洞。

點解焦點放喺下一代模型？

現時公開聊天機械人可能會答得含糊、出錯，或者拒絕危險要求。呢啲限制目前有一定作用，但唔可以當成長遠安全策略。當模型逐步具備以下能力，風險就可能上升：

• 將生物學同化學嘅專業文獻整合起來；
• 處理長時間、分多步驟嘅研究任務；
• 產生、比較同修改生物設計；
• 使用外部科學工具或者自動化工作流程；
• 唔只係回答單一問題，仲可以針對失敗方案進行排錯。

每一項能力，都可能降低一種唔同嘅門檻。風險因此係累積式，而唔係單一答案式：模型唔需要提供一份完整、零錯誤嘅配方，先至對一個已經有部分資源或者經驗嘅人有用。只要可以改善判斷、搵出被忽略嘅選項，或者縮短反覆試錯嘅時間，已經可能增加協助程度。

但現有證據亦唔支持「單靠一個公開聊天機械人，就可以按掣即時整出生物武器」呢個講法。真正需要關注嘅，係 AI 可能喺一條較長嘅工作流程上提供更多協助，而唔係 AI 已經可以由頭到尾自主製造。

開放科研同安全控制之間，點樣取平衡？

核心難題係：一方面要維持正常科學研究，另一方面要限制會帶來實質生物危害嘅協助。現有資料大致指向幾項原則：

1. 採用按風險分級嘅存取方式，而唔係一刀切。 不同用戶、模型同應用程式，風險並唔一樣。
2. 持續、獨立測試安全措施。 今日對模型有效嘅控制，模型升級之後未必仍然有效。
3. 守住實體生產關卡。 當數碼防護失效，合成訂單篩查同客戶核實可以補位。
4. 喺合法及合適嘅前提下跨機構分享風險訊號。 有啲可疑活動，可能要將模型、合成、實驗室同公共衞生資料放埋一齊先睇得出。
5. 防止事故之餘，亦要投資防禦能力。 監測、診斷、醫療對策、追溯來源同應急反應，都可以減低防線失守後嘅後果。

最穩妥嘅結論，唔係話 AI 令生物武器變成必然，亦唔係話今日嘅聊天機械人限制已經解決問題，而係要將風險當成一個系統去管理。模型防護、受限存取、合成篩查、異常偵測、公共衞生準備同問責機制，互相重疊時先最有力；如果決策者以為任何一項措施可以獨力承擔全部責任，防線就最容易出現缺口。