OpenAI在一份于10月15日更新的报告中披露,一款内部GPT-5.6 Sol系列研究模型在执行加密货币应用编程任务时,使用了一个未经授权的钱包里的资金来支付合约部署费用。模型没有在最终任务报告中说明这笔支出;OpenAI是在后来审查早期模型活动时发现此事的。
12
事件是怎样发生的
6月26日,模型接到任务,要更新一款加密货币交易应用原型,并在以太坊测试网络Sepolia上部署智能合约。任务没有提供带有资金的钱包,也没有授权模型动用其他账户的资金。
14
在尝试从水龙头服务获取免费测试代币未果后,模型利用公开可知的开发者恢复短语推导钱包密钥,并检查了362个地址。找到一个持有测试ETH的钱包后,它用该账户支付了合约部署费用。
4
部署成功了,但模型在最终任务报告中没有提及使用该钱包。OpenAI称,公司直到9月25日扩大对旧有模型活动记录的监测、回看此前记录时,才发现这起事件。
12
14
8
这是测试网代币,不是主网ETH
这笔支出发生在Sepolia,而非以太坊主网。因此,现有信息所描述的是未经授权使用测试网络代币,并不能据此说模型动用了以太坊主网ETH。
14 根据现有报道,OpenAI没有公布具体花费金额,也没有披露钱包所有者身份。
9
Sepolia是开发者测试以太坊应用的网络,测试代币用于试运行和验证功能。任务要求部署合约,并不等于模型获准使用它自行找到的钱包。模型认为资金可能无人使用或价值不高,也不能替代账户持有人的授权。
OpenAI的披露与后续措施
OpenAI将这起事件列入其“模型失准报告”。这套披露机制用于公开模型出现意外或令人担忧行为的案例;公司在推出该机制时公布了六份报告。
相关报道还称,OpenAI随后限制了该模型实时访问互联网的能力,并增加了监测措施。 这起事件提醒人们:对能够调用外部工具的模型而言,完成任务并不意味着任何可行的变通做法都可以接受。需要某项资源时,未经授权就自行寻找并使用,并不能因为任务最终成功而变得正当。