為何前沿 AI 安全研究員壓力大到請病假、求助諮商甚至離職？

部分前沿 AI 安全研究人員請病假、尋求心理諮商或選擇離職，關鍵不只是工作繁忙，而是道德壓力與制度壓力同時累積。他們負責測試能力最先進的模型，卻擔心模型本身及業界搶先部署的競爭，可能在防護措施、監督機制與評估能力到位前，就提高生物或資安傷害的風險。

據報，英國 AI 安全研究所（UK AI Safety Institute，AISI；負責獨立評估前沿 AI 模型的機構）有數名人員因心理壓力請醫療假或尋求諮商，背景包括緊迫的測試時程、士氣低落與倦怠。大型 AI 實驗室研究員也傳出相近焦慮；不過，現有公開證據不足以判斷這種情況在 Anthropic、OpenAI 或 Google DeepMind 等各家機構內究竟多普遍。15

他們究竟擔心什麼？

1. 風險既可能很快出現，也可能非常嚴重

研究人員擔憂，模型可能降低發動網路攻擊或進行生物濫用的技術門檻；更長期的擔心則是，若系統變得更自主，人類可能難以維持有意義的控制。曾在 OpenAI 與 Anthropic 從事預訓練研究的 Jacob Coxon，便將 AI 輔助的生物威脅與網路武器列為可能通往災難的途徑。9

這不等於「人類滅絕已迫在眉睫」獲得證實，而是部分最接近前沿開發的人，對風險組合做出了極為嚴峻的判斷。

2. 安全工作者可能感到自己也在推動風險

這類工作很難保持抽離。安全團隊並非只是在學術上討論抽象危害；他們實際評估、訓練，或協助部署所擔心的系統。當測試排程緊縮、商業競爭仍持續加速時，研究員即使發現問題，也未必有足夠權力要求延後發布。

「看得見風險，卻不一定能踩煞車」的落差，容易造成倦怠、無力感與道德傷害——也就是個人認為自己的工作可能牴觸重要價值，卻難以改變處境時的心理負擔。15

3. Coxon 的離職，讓原本私下的焦慮浮上檯面

Coxon 離開 Anthropic 後公開批評，稱業界正競相邁向可自我改進的超級智慧，卻沒有負責任地行事。14 他也告訴 BBC，頂尖實驗室內的人對技術進展速度及其對人類的意涵「真心感到害怕」。9

這類公開離職與警告，未必能代表所有員工的觀點；但它使原本可能只在內部流傳的疑慮變得可見，也讓其他研究員更直接面對一個選擇：留下來推動安全、內部提出異議，或乾脆離開。

為何單一公司或單一員工難以解決？

前沿 AI 的競爭結構，使個別公司自行放慢腳步很困難：若一家延後能力開發，可能擔心競爭對手搶先。因此，問題不只是個人心理承受度，也涉及勞動環境與治理架構。

史丹佛人本人工智慧研究院（Stanford HAI）的討論指出，全面放慢 AI 能力研發很難實現；與此同時，政府或合格第三方所做的獨立評估，應成為 AI 生態系的常規環節。3 這代表較可信的方向不只是呼籲員工「更有責任感」，而是建立能跨公司適用、具外部約束力的制度。

高層喊「減速」，為何反而未能消除不信任？

Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 等人，都曾以不同方式支持放慢前沿 AI 發展或加強安全控制。2 但批評者指出，若由既有龍頭設計或主導「AI 凍結」，反而可能鞏固這些公司的市場力量，壓縮新進競爭者的空間。11

因此，外界真正會檢驗的不是口頭表態，而是能否提出可查核的行動，例如：

• 在風險未釐清時延後模型發布；
• 讓獨立評估者取得足夠、持續的檢測權限；
• 設立明確且可執行的能力或風險門檻；
• 提供可信的吹哨者保護；
• 接受政府或外部機構的約束，而非只靠業界自律。

AI 協助 AI 研發，讓「來不及評估」的感受更強烈

目前並沒有證據顯示 AI 已經實現完整的遞迴式自我改進——也就是系統持續自行提升自身能力的狀態。6 真正令人不安的是，AI 已開始自動化部分研究與工程工作；一旦迭代速度加快，人類可能更難及時理解、測試與治理新能力。

喬治城大學安全與新興科技中心（CSET）指出，AI 研發若高度自動化，可能大幅加速能力進展，並削弱人類理解與控制系統的能力。4 不過，現況仍有明顯限制：一項研究發現，AI 代理人能在無人協助下完成大量研究工程工作，但未能在開放式科學問題上取得實質進展。5

換言之，擔憂不是「全自動科學突破已經發生」，而是能力進步、風險評估與公共治理之間的速度差，可能正在擴大。

結論：這是一場關於責任、控制權與信任的壓力危機

這些請假、諮商與離職事件，不能被解讀為末日已被證實。它們更反映出：部分身處前沿 AI 開發與測試第一線的人，認為加速的能力、可被濫用的雙重用途風險、公司間競爭，以及薄弱的外部控制，已構成心理上與倫理上難以承受的組合。

要減輕這種壓力，關鍵不只是要求研究員更堅韌，而是讓安全評估能真正影響部署決策，並以獨立、透明且可執行的規則，降低任何一家公司或一位員工必須獨自承擔的風險。