ASAT存在的目的是为了降低通用人工智能(AGI)乃至最终超级智能带来的生存性和灾难性风险 。然而,该团队内部指导却明确警告,谷歌自己的AI招聘筛选系统不可信。根据彭博社看到的一份文件,该团队写道:“我们的申请系统有相当高的概率会错误地筛选掉你的简历,或者需要很长时间才能送到我们手中” 。该团队等于在告诉潜在雇员:不要依赖公司的AI来对你进行称职的评估。
这份内部文件带有不寻常的免责声明“请勿广泛分享此文档”,它指导ASAT岗位的候选人完成一份保密的内部提交表 。该表格旨在确保申请能直接送到人工审核员面前,而不是被送入谷歌的自动化简历筛选流程 。彭博社报道称,此表格的目的是消除申请“可能被公司内部AI系统自动筛选掉”的风险 。
ASAT在Alignment Forum上的招聘信息中写道:“请不要使用AI来撰写你的申请;我们想听到你的声音” 。这形成了另一层矛盾:该团队不信任谷歌的AI筛选系统到需要绕开它,但同时也不信任候选人使用AI聊天工具来起草回复——尽管ASAT自身的工作就包括开发和监督先进的AI系统。
ASAT事件并非孤立案例。一系列研究和调查已经记录了AI驱动的招聘工具持续存在的问题:
谷歌自己也向企业客户销售AI驱动的HR工具,承诺更快、更客观的筛选 。ASAT事件通过含蓄地承认公司自己的筛选工具有缺陷,削弱了这一营销信息。
DeepMind否认其整个招聘系统存在问题的说法。一位发言人将这种绕过方式描述为针对高流量岗位的一种“效率措施” 。然而,内部文件自己的语言——警告错误筛选并敦促保密——表明该团队认为这个问题已经严重到需要采取变通办法的地步 。
这种情况揭示了一个信誉差距:谷歌雇佣来研究和防范AI失调的团队,却不信任谷歌用来筛选自己未来雇员的AI系统。这种不协调已经引起了广泛关注,成为了一个AI开发者间接承认自己所构建和销售的技术的局限性和风险的现实案例。正如一项分析总结的那样:“负责高级AI安全的团队不信任自己雇主的AI来阅读简历” 。