這類平台的吸引力直接而強大,解釋了其為何能快速增長:
然而,國安部的公告清楚表明,在這層便利的外衣之下,潛藏著嚴重且多層次的安全問題。
該部門的警告勾勒出一系列從疏忽的數據處理到明目張膽的惡意攻擊的風險。
2. 數據未加密儲存與轉售
由於AI中轉平台是數據出入口,所有用戶提交的資料都儲存在其伺服器上。國安部警告,部分平台未能對這些資料進行充分加密。更令人擔憂的是,公告特別指出,不肖營運商可能在未經授權的情況下,保留用戶的提示詞,並將其轉售給其他AI模型開發商,用於訓練目的,從而將敏感的查詢內容變成了一種地下商品。
3. 違法的數據跨境傳輸
一個根本性的擔憂是數據在未經授權下被傳輸至海外。國安部指出,許多中轉服務在將使用者輸入內容發送到外國伺服器之前,並未依照中國法律規定完成安全評估。公告明確警告,這可能導致個人隱私、商業機密,甚至是國家機密的外洩。
4. 後門與惡意軟體攻擊
威脅的來源不總是平台本身。國安部提醒,惡意行為者可以在某些中轉服務中植入後門。一旦平台遭到入侵,就可能被用來傳遞惡意代碼、竊取使用者帳戶憑證和雲端存取金鑰,甚至部署遠端控制程式,進行持續性監控與長期數據盜竊。
5. 模型被調包與輸出品質下降
除了安全問題,還有誠信風險。國安部發現,一些營運商為了降低成本,會偷偷將用戶以為正在使用的高階模型,替換成較低階的版本。其他行為還包括削減算力資源或關閉驗證功能,導致產出的結果較不準確或邏輯不一致,從而可能誤導決策。
中國的這份警告並非單一事件,而是官方一系列廣泛監管措施中的一環。近年來,國安部已就多個與AI相關的威脅發布警告,包括AI數據投毒、數位憑證(Token)盜竊
,以及透過AI寫作工具洩露敏感資訊的風險
。這一系列動作表明,國家已將不受監管的AI供應鏈,視為國家安全領域一個至關重要的新疆界。