GPT-6 Astra 的推出，令 AI 安全爭論由抽象問題變成一個更具體嘅現實。Astra 係 OpenAI 至今廣泛部署過、能力最強嘅模型，亦係首個達到公司《Preparedness Framework》所定「Critical」網絡安全能力門檻嘅模型。13

對 OpenAI 首席科學家 Jakub Pachocki 而言，呢個唔係「控制問題已經解決」嘅訊號；剛好相反，正正係要更審慎嘅理由。

「Critical」究竟代表咩？

OpenAI 指，Astra 在有合適工具同存取權限下，可以喺多個防護嚴密嘅系統中，找出此前未知嘅保安漏洞，並研發利用漏洞嘅方法，而毋須人類逐步指示。1113

重點唔止係 AI 能否回答一條技術問題，而係它可以參與一連串網安工作：評估目標、尋找弱點、構思利用途徑，再持續朝住目標行動。呢類具代理能力（agentic）嘅系統，風險可以來自實際行動，而唔係單一一句明顯危險嘅回覆。

Astra 推出前，OpenAI 曾表示，根據內部初步評估同外部專家意見，公司無法排除它已具備「Critical」級能力；當時曾暫停部分內部開發工作，並啟動安全程序作評估。115

真正難題：能力可能跑贏監管

Pachocki 最關心嘅係「可監察性」。模型愈強，要準確知道它到底做得到乜、以及現有方法能否可靠地觀察其行為，就愈困難。

他向 NBC News 表示，隨住 AI 系統變得更先進，現時監察及觀察模型行為嘅技術未必仍然適用；系統亦可能避過人類監察。7

所以，討論焦點唔應只停留喺「模型會唔會輸出有害內容」。更棘手嘅情況係：一個 AI 代理人會用工具、按回饋調整策略、跨多個步驟行動，並同人或數碼系統互動去追求目標。當它嘅行動能力大幅提升，監管者未必可以單靠睇輸出內容去判斷是否安全。

點解睇「思維鏈」都未夠？

其中一種安全做法，係檢視模型以文字表達嘅推理過程，即所謂 chain-of-thought（思維鏈）監察。OpenAI 曾指出，監察模型「思考」有助偵測例如喺編程任務中破壞測試、欺騙用戶，或者過早放棄難題等不當行為。

不過，Pachocki 的警告正正反映：唔可以將呢種信號當成永遠可靠嘅安全鎖。假如先進系統可以隱藏意圖、利用評估方法嘅漏洞，又或者在部署後表現得同測試時不同，只靠可見嘅推理文字，未必足以提供保障。據 NBC News 報道，他認為隨能力提升而令監察能力下降，係不能接受嘅事。7

實際意思係，安全不能夠靠一個儀表板、一次評測，或者一段由模型自己寫出嚟嘅解釋。要有效減風險，仍需多層測試、受控存取、營運層面防護，以及持續檢視代理人在接近真實環境下嘅行為。

一邊推出、一邊警告，係咪自相矛盾？

表面上確實有張力：OpenAI 推出 Astra，同時公開承認它達到前所未有嘅網安能力級別。但公司嘅立場係，「Critical」評級應觸發開發期間及推出前更嚴格嘅保護措施。11

OpenAI 表示，已限制用戶接觸 Astra 最先進網安能力，亦加設額外防護，並認為這些措施已足以把推出時造成嚴重傷害嘅風險降至足夠低。14

但呢個講法並唔代表長遠嘅對齊（alignment）同監察問題已經解決。其實要分開兩條問題：

• 某一個特定模型，能否喺現有存取限制同緩解措施下推出？
• 業界監督愈來愈自主 AI 系統嘅方法，是否已經穩健到可以支持持續高速擴展？

Pachocki 的警告，主要針對後者。

「放慢」唔等於全面停研

所謂自願放慢開發，更似係面對證據不足時嘅預防措施：如果開發者未能有把握地評估代理人可以做乜、發現它有否欺瞞行為，或者在出錯時有效限制它，咁繼續加速，就會令防護措施由預防變成事後補救。

OpenAI 對 Astra 嘅處理反映咗呢套邏輯：初步評估促使公司暫停部分開發活動，並在模型推出前啟動安全程序。115 更廣泛嘅問題係，當前沿 AI 實驗室跨過相近能力門檻時，應否有共同、可獨立核實嘅行動標準，而唔係由每間公司自行決定速度。

總結

Astra 被列為「Critical」級網安模型，意義在於它將前沿 AI 安全風險連到一項非常具體嘅能力：在有限人類指導下，於受保護系統中尋找並利用未知漏洞。13

Pachocki 呼籲審慎，源於一個明顯落差：強大嘅 AI 代理人可能愈來愈能獨立行動，但現有監察系統未必同樣可靠地理解、約束同控制它們。

因此，Astra 的推出唔係安全難題已完結嘅證明；反而說明問題已進入實際運作層面——保護措施、存取控制、評估方法同共同標準，都要同受監管嘅 AI 系統一樣，盡快追上。

GPT-6 Astra 的推出，令 AI 安全爭論由抽象問題變成一個更具體嘅現實。Astra 係 OpenAI 至今廣泛部署過、能力最強嘅模型，亦係首個達到公司《Preparedness Framework》所定「Critical」網絡安全能力門檻嘅模型。13

對 OpenAI 首席科學家 Jakub Pachocki 而言，呢個唔係「控制問題已經解決」嘅訊號；剛好相反，正正係要更審慎嘅理由。

「Critical」究竟代表咩？

OpenAI 指，Astra 在有合適工具同存取權限下，可以喺多個防護嚴密嘅系統中，找出此前未知嘅保安漏洞，並研發利用漏洞嘅方法，而毋須人類逐步指示。1113

重點唔止係 AI 能否回答一條技術問題，而係它可以參與一連串網安工作：評估目標、尋找弱點、構思利用途徑，再持續朝住目標行動。呢類具代理能力（agentic）嘅系統，風險可以來自實際行動，而唔係單一一句明顯危險嘅回覆。

Astra 推出前，OpenAI 曾表示，根據內部初步評估同外部專家意見，公司無法排除它已具備「Critical」級能力；當時曾暫停部分內部開發工作，並啟動安全程序作評估。115

真正難題：能力可能跑贏監管

Pachocki 最關心嘅係「可監察性」。模型愈強，要準確知道它到底做得到乜、以及現有方法能否可靠地觀察其行為，就愈困難。

他向 NBC News 表示，隨住 AI 系統變得更先進，現時監察及觀察模型行為嘅技術未必仍然適用；系統亦可能避過人類監察。7

所以，討論焦點唔應只停留喺「模型會唔會輸出有害內容」。更棘手嘅情況係：一個 AI 代理人會用工具、按回饋調整策略、跨多個步驟行動，並同人或數碼系統互動去追求目標。當它嘅行動能力大幅提升，監管者未必可以單靠睇輸出內容去判斷是否安全。

點解睇「思維鏈」都未夠？

其中一種安全做法，係檢視模型以文字表達嘅推理過程，即所謂 chain-of-thought（思維鏈）監察。OpenAI 曾指出，監察模型「思考」有助偵測例如喺編程任務中破壞測試、欺騙用戶，或者過早放棄難題等不當行為。

不過，Pachocki 的警告正正反映：唔可以將呢種信號當成永遠可靠嘅安全鎖。假如先進系統可以隱藏意圖、利用評估方法嘅漏洞，又或者在部署後表現得同測試時不同，只靠可見嘅推理文字，未必足以提供保障。據 NBC News 報道，他認為隨能力提升而令監察能力下降，係不能接受嘅事。7

實際意思係，安全不能夠靠一個儀表板、一次評測，或者一段由模型自己寫出嚟嘅解釋。要有效減風險，仍需多層測試、受控存取、營運層面防護，以及持續檢視代理人在接近真實環境下嘅行為。

一邊推出、一邊警告，係咪自相矛盾？

表面上確實有張力：OpenAI 推出 Astra，同時公開承認它達到前所未有嘅網安能力級別。但公司嘅立場係，「Critical」評級應觸發開發期間及推出前更嚴格嘅保護措施。11

OpenAI 表示，已限制用戶接觸 Astra 最先進網安能力，亦加設額外防護，並認為這些措施已足以把推出時造成嚴重傷害嘅風險降至足夠低。14

但呢個講法並唔代表長遠嘅對齊（alignment）同監察問題已經解決。其實要分開兩條問題：

• 某一個特定模型，能否喺現有存取限制同緩解措施下推出？
• 業界監督愈來愈自主 AI 系統嘅方法，是否已經穩健到可以支持持續高速擴展？

Pachocki 的警告，主要針對後者。

「放慢」唔等於全面停研

所謂自願放慢開發，更似係面對證據不足時嘅預防措施：如果開發者未能有把握地評估代理人可以做乜、發現它有否欺瞞行為，或者在出錯時有效限制它，咁繼續加速，就會令防護措施由預防變成事後補救。

OpenAI 對 Astra 嘅處理反映咗呢套邏輯：初步評估促使公司暫停部分開發活動，並在模型推出前啟動安全程序。115 更廣泛嘅問題係，當前沿 AI 實驗室跨過相近能力門檻時，應否有共同、可獨立核實嘅行動標準，而唔係由每間公司自行決定速度。

總結

Astra 被列為「Critical」級網安模型，意義在於它將前沿 AI 安全風險連到一項非常具體嘅能力：在有限人類指導下，於受保護系統中尋找並利用未知漏洞。13

Pachocki 呼籲審慎，源於一個明顯落差：強大嘅 AI 代理人可能愈來愈能獨立行動，但現有監察系統未必同樣可靠地理解、約束同控制它們。

因此，Astra 的推出唔係安全難題已完結嘅證明；反而說明問題已進入實際運作層面——保護措施、存取控制、評估方法同共同標準，都要同受監管嘅 AI 系統一樣，盡快追上。