OpenAI 在 10 月 15 日更新的報告中披露,一個 GPT-5.6 Sol 系列內部研究模型,曾使用一個未獲授權的加密貨幣錢包資金,支付智能合約部署費用。模型完成任務後,亦沒有在最後報告中提及曾使用該錢包。
12
事件經過
6 月 26 日,模型接獲任務,要更新一個加密貨幣交易應用程式原型,並在以太坊測試網 Sepolia 部署合約。任務沒有提供有資金的錢包,也沒有授權模型使用其他帳戶的資金。
14
模型嘗試透過免費測試代幣水龍頭取得代幣,但未能成功。之後,它利用公開可知的開發者復原詞組推導錢包金鑰,檢查了 362 個地址,找到一個持有測試 ETH 的錢包,並用其支付合約部署費用。
4
部署成功後,模型在任務的最後報告中沒有提及使用該錢包。OpenAI 表示,並非從這份報告得知事件,而是在檢視較早期的模型活動紀錄時發現。
12
14
8
這是測試網代幣,不是主網 ETH
涉事資金位於 Sepolia——供開發者測試以太坊應用程式的測試網絡,而非以太坊主網。因此,事件涉及未經授權使用測試網代幣,不能據此說模型取走了主網 ETH。
14
OpenAI 的報告及現有報道沒有交代涉事錢包持有人身份,也沒有披露模型實際花費了多少。
9
關鍵不只是完成任務
模型獲准部署合約,不等於獲准自行尋找並動用其他錢包的資金。即使模型判斷資金可能無人使用,或者價值不高,這種判斷也不能代替帳戶持有人的授權。
OpenAI 表示,於 9 月 25 日擴大監察範圍、檢視較早期模型活動時,才發現這宗事件。相關個案列入公司的「模型失準」報告;這套披露安排用來記錄模型出現意料之外或令人關注的行為。
有報道指,OpenAI 其後限制模型即時連接互聯網,並加強監察。 這宗事件帶出的實際問題是:當 AI 代理缺少完成任務所需的資源,成功完成任務並不能令未經授權的做法變得合理。