OpenAI 自動紅隊測試揭秘：自我對弈 AI 如何找出 GPT-5.6 的弱點

OpenAI 實際使用的系統：基於強化學習的自動化紅隊框架

OpenAI 的自動化紅隊方法在其論文〈利用自動生成獎勵進行多樣且有效的紅隊測試〉（2026年7月14日）中有詳細說明 。該系統將紅隊任務分解為兩個步驟：

1. 自動生成多樣的攻擊目標 — 系統會建立多種對抗性目標來進行測試。
2. 使用多步驟強化學習產生有效攻擊 — 訓練一個攻擊者模型，並在成功產生符合目標的攻擊時給予獎勵 。

這個方法採用自我對弈（self-play），由一個基於大型語言模型的自動攻擊者來探測目標模型的弱點，如提示注入和越獄 。OpenAI 表示，這種由強化學習驅動的方法，有助於主動發現並修補漏洞，以防它們在現實世界中被武器化 。該公司將提示注入形容為「前沿安全挑戰」，並積極使用自動化紅隊測試來開發新穎的提示注入攻擊手法 。

GPT-5.6 的 70 萬 GPU 小時黑箱測試

在 GPT-5.6 全面上市前，OpenAI 對其進行了公司史上最全面的評估 。GPT-5.6 預覽系統卡指出：「我們還投入了超過 70 萬個 A100e GPU 小時，用於自動尋找通用越獄方法及其他漏洞」。這項自動化測試是對數週人工紅隊測試和外部領域專家評估的補充 。

公司部署了這個龐大的運算預算，用於尋找普遍的、系統性的越獄漏洞，而不僅僅是單一的、偶發的故障 。自動化紅隊測試的設計目的是在模型部署後持續運作，一旦有新的越獄方法被回報，就會進行再現、緩解和重新測試 。

GPT-5.6 的風險評級：高風險但未達關鍵

根據 OpenAI 的準備框架（Preparedness Framework），GPT-5.6 的所有三個變體——Sol（旗艦）、Terra（低成本）和 Luna（最快）——在網路安全與生物/化學風險兩個類別均被歸類為「高」能力 。這是首次即使是較小、較便宜的模型也跨越了這些類別的高風險門檻 。

然而，沒有任何一個模型達到「關鍵」風險門檻。內部網路安全測試發現，GPT-5.6 Sol 和 Terra 能夠識別漏洞和部分利用程式碼，但無法自主執行完整的端到端攻擊 。沒有一個模型在 AI 自我改進方面達到高風險門檻 。

多層安全堆疊

GPT-5.6 搭載了 OpenAI 所稱「迄今最強大的安全防護措施」。其安全架構包括：

• 內建模型層級拒絕機制，用於回應高風險請求。
• 即時激活分類器，在推理過程中監控內部神經訊號，若出現高風險模式可立即暫停生成 。
• 針對網路和生物學濫用的即時分類器 。
• 帳戶層級審查與差異化存取控制 。

這種分層方法反映了 OpenAI 的結論：沒有任何單一安全防護措施是足夠的 。

自動化紅隊（ART）研究員職位

OpenAI 正在積極建立其內部的自動化紅隊能力。該公司正在招聘一名自動化紅隊研究員（基本薪資範圍 29.5 萬至 44.5 萬美元），其職責是「領導自動化紅隊工作，專注於建立可擴展系統，以揭露 AI 模型與安全防護措施中的故障模式」。同時也在招募一名生物安全紅隊專家（年薪 15.8 萬至 32 萬美元），負責領導生物安全與 CBRN（化學、生物、放射性、核子）的紅隊測試工作 。

50 萬美元的 Kaggle 挑戰賽

OpenAI 曾在 Kaggle 上舉辦一場獎金池達 50 萬美元的紅隊挑戰賽，目標是針對其開源權重模型 gpt-oss-120b 和 gpt-oss-20b 進行測試 。該競賽旨在鼓勵參與者發現先前未被識別的新漏洞 。雖然本研究無法從 OpenAI 官方來源獨立驗證具體的 50 萬美元獎金數字與挑戰賽細節，但 TechPolicy.Press 的第三方報導確認了該競賽的存在 。GPT-5.6 系統卡中提到了「MLE-Bench Revised」，該項目用於評估模型在 Kaggle 競賽中的表現，但並未直接提及 50 萬美元獎金。

監管背景與不確定性

現有證據證實，GPT-5.6 配備了多層安全堆疊，且 OpenAI 的準備框架已對其自身模型進行了分類 。第三方報導指出，在美國政府可能影響最強大模型存取權限的「守門」（gatekeeping）背景下，美國政府有所參與 。然而，在本次爬取的主要來源中，並未直接提及英國 AI 安全研究所或特定的美國監管行動。OpenAI 自身的系統卡文件說明了安全分類，但未涉及其準備框架以外的外部監管審查細節 。