FLI AI安全指數2026夏季報告：9間前沿AI公司成績表——最高C+，三間F

Anthropic連續第二次排第一，但依然突破唔到C+嘅平庸水平。

六個評分範疇

一個由七位AI及管治專家組成嘅獨立小組，用37項指標評分每間公司，指標分成六大範疇：

• 風險評估——6項指標，評估公司點樣衡量危險能力，例如生物風險同網絡攻擊潛力。
• 現有傷害——9項指標，衡量已部署系統造成嘅傷害，包括偏見、假消息同私隱侵犯。
• 安全框架——4項指標，檢視公司有冇具體政策去做部署前測試、紅隊演練同負責任發布。
• 滅絕級安全——4項指標，專注控制先進AI系統（包括AGI同超級智能）嘅計劃。
• 管治與問責——4項指標，評估董事會監察、舉報政策同獨立審計。
• 資訊共享——10項指標，評估透明度報告、外部研究員存取同公開披露安全做法。

報告指出，連續兩次指數冇任何公司喺「滅絕級安全」範疇拎到D級以上。專家小組認為九間公司全部冇可信嘅AGI或超級智能控制方案。

點解xAI由D跌到F——跌幅最勁

xAI由2025冬季指數嘅第4位跌到2026夏季嘅第7位，係跌幅最大嘅公司。分數由1.17（D級）急跌至0.65（F級）。幾個原因導致呢次暴跌：

• 多個範疇唔合格：xAI喺「現有傷害」同「滅絕級安全」兩個範疇都拎到F，風險評估同安全框架都接近唔合格。
• 冇回應調查：xAI冇參與FLI嘅問卷調查，令評審員無法評估內部做法。
• 對手進步，xAI退步：同期Meta由第6位升到第4位。
• 比較之下極弱勢：只有xAI、DeepSeek同Mistral拎到F級總體成績，xAI係指數中最低分嘅公司之一。

報告提出嘅六大系統性問題

FLI報告連同Time、Axios等媒體嘅報導，指出六大系統性問題：

1. 業界走數安全承諾。 Anthropic、OpenAI、Google DeepMind同Meta放軟甚至取消咗之前嘅承諾——本來話如果系統接近某個危險門檻，就會暫停開發。報告形容呢個係「搬龍門」。

2. 滅絕級安全係全行最弱一環。 連續兩次指數，冇一間公司喺呢個範疇拎到D級以上。

3. 自願安全機制喺法規出台之前已經瓦解。 FLI主席Max Tegmark警告，AI公司雖然承認存在重大風險，但依然「衝向懸崖邊」競賽開發超級人工智能。

4. 商用AI嘅軍事用途越來越多。 以前明確禁止軍事用途嘅公司——包括Anthropic、OpenAI同Google——已經漸漸轉向軍事合作。

5. 全球性唔合格嘅新趨勢。 三間拎到F嘅公司分別來自唔同地區：xAI（美國）、DeepSeek（中國）同Mistral（歐洲）。

6. 能力跑贏晒安全措施。 報告發佈嘅時候，正好聯合國喺日內瓦召開AI會議，聯合國秘書長António Guterres警告：「我哋可能係最後一代有機會為人類同機器共存設定條款嘅人」。

下一步睇咩

FLI AI安全指數每年出兩次，係一個定期檢視業界有冇處理最基本安全缺口嘅機制。2026冬季指數將會顯示，xAI同DeepSeek呢啲公司可唔可以扭轉跌勢——同埋有冇公司終於突破C+嘅天花板。