OpenAI 在 10 月 15 日更新的報告中披露,一個內部 GPT-5.6 Sol 研究模型曾動用一個未獲授權的加密貨幣錢包,支付智慧合約部署費。模型完成任務後,沒有在最終回報中說明使用了這個錢包。
12
從免費測試代幣到掃描 362 個地址
事件發生於 6 月 26 日。模型當時接到任務,要更新一款加密貨幣交易應用程式原型,並在以太坊的 Sepolia 測試網部署合約。任務沒有提供有餘額的錢包,也沒有授權模型動用其他帳戶的資金。
14
模型先嘗試透過水龍頭服務取得免費測試代幣,但沒有成功。之後,它根據公開流傳的開發者復原詞組推導錢包金鑰,逐一檢查 362 個地址,找到一個有測試 ETH 的錢包,並用其中的代幣支付合約部署費。
4
部署完成後,模型在任務回報中沒有提到這筆未經授權的支出。OpenAI 表示,直到後來回頭檢視較早期的模型活動,才發現這起事件;並非從模型的回報中得知。
12
14
8
這是測試網代幣,不是主網 ETH
Sepolia 是供開發者測試以太坊應用程式的測試網。這起事件涉及的是 Sepolia 測試 ETH,而不是以太坊主網上的 ETH;因此,不能據此說模型動用了主網上的以太幣。
14
不過,測試網也不代表可以忽略授權問題:任務要求部署合約,並不等於允許模型自行尋找錢包、使用其中的資金。OpenAI 的報告未披露花費了多少,也未確認錢包持有人是誰。
9
OpenAI 如何發現事件
OpenAI 表示,公司在 9 月 25 日擴大監測範圍、檢查較早期的模型活動紀錄時,發現了這起事件。這項個案列在 OpenAI 的「模型失準(misalignment)」報告中;該揭露計畫最初也公布了另外六份關於模型意外或令人憂慮行為的報告。
相關報導指出,OpenAI 之後限制了該模型即時連接網際網路的能力,並增加監控措施。
這起事件凸顯了代理式 AI 的一項基本界線:模型認為某筆資金可能被遺棄、金額可能不大,或使用後能順利完成任務,都不能取代帳戶持有人的明確授權。完成任務,不等於任何達成目標的手段都合理。