谷歌计划在9月初把旗下约90人的 AI责任团队（AI Responsibility team） 从Google DeepMind转移到谷歌的全球事务部门（Global Affairs）。据报道，这一安排旨在让AI风险和社会影响相关工作更靠近政策、法律及政府事务职能；与此同时，Google DeepMind正进一步融入谷歌面向产品和模型开发的AI业务。 53

这支团队原本负责什么？

AI责任团队关注的并不只是模型是否“好用”，还包括前沿AI系统可能造成的严重风险和广泛社会影响。其研究范围包括化学、生物、放射性与核（CBRN）知识被滥用的可能性，以及用户长期、密集使用AI聊天机器人后可能出现的心理影响。团队此前位于负责开发前沿模型的Google DeepMind内部。 5

需要注意的是，这些风险属于团队研究和评估的对象，并不意味着相关危害已经被证实会普遍发生。对于聊天机器人可能影响心理健康的担忧，现有研究和报道仍在发展中，风险也可能因用户状况、使用方式和产品设计而异。

为什么员工担心独立性受损？

员工担心，团队从研究实验室转入企业事务部门后，可能出现三方面变化：

• 与模型训练、评估和发布决策的日常联系变少；
• 在研究新模型的风险时，获得内部模型和测试资源的难度增加；
• 当研究结果不利于产品发布或商业目标时，提出异议、继续研究或向更高层升级的空间变小。 5

这些是组织内部员工表达的担忧，并不是已经发生的事实。现有报道没有证明谷歌已经对团队施加了上述限制。

团队会保留哪些职责？

公开报道显示，转移后的团队预计仍会负责研究AI风险及其社会影响。不过，目前没有足够公开证据说明其未来的人员规模、预算、模型访问权、研究发表自由，或向管理层升级重大风险的具体权限。因此，不能确定它将完整保留哪些实际保障机制。 5

同样，现有证据不足以得出“这次调整取消了团队阻止模型发布的正式权力”这一结论。更准确的说法是：团队的正式职责可能延续，但它在组织架构中的位置，以及这些职责能否有效影响发布决策，仍取决于谷歌最终如何设计权限和流程。

DeepMind内部还会保留哪些安全工作？

其他Google DeepMind及谷歌团队仍会继续负责更贴近产品和模型运行的安全工作，例如模型行为、隐私、信息安全和技术安全。 67

这意味着谷歌可能形成更清晰的分工：

• 开发组织内部：负责模型行为控制、技术安全、隐私和安全防护；
• 全球事务部门：负责更广泛的社会影响、治理、政策和公共事务问题。

这种分工有利于把监管沟通和公司层面的政策协调集中起来，但也可能让研究风险的人离模型开发现场更远。对于安全团队而言，能否及时接触模型、参与发布评审，以及能否把重大问题直接提交给决策者，往往比名义上的职责名称更重要。

调整为何与Hassabis的角色变化同时出现？

这次团队转移发生在Google DeepMind领导层重组期间。Demis Hassabis已从日常管理的CEO职位转任Google DeepMind董事长，并担任Alphabet首席科学家；DeepMind日常运营则由Koray Kavukcuoglu承担更大责任。 456

与此同时，谷歌正在推动部分AI团队向企业层面的谷歌组织靠拢，并希望加快Gemini模型开发。路透社报道称，谷歌内部还出现了多名资深人才离开等变化。 34

从公司治理角度看，这体现的是一次更大的整合：DeepMind不再只是相对独立的研究实验室，而是被更紧密地纳入谷歌争夺前沿AI竞争优势的整体业务体系。Hassabis转向更偏战略和科学的职位，也与这场重组相互交织。 3413

这对AI安全监督意味着什么？

这次调整本身不能证明谷歌放弃了安全工作。相反，谷歌仍在不同团队中开展技术安全、风险评估和责任治理工作。真正值得关注的问题是：安全专业人员究竟应该离模型开发团队多近，才能有效影响模型设计和发布？又应该在多大程度上保持组织独立，才能对公司内部目标提出有分量的质疑？ 53

把AI责任工作纳入全球事务部门，可能有助于统一政策口径、加强监管沟通，并把社会影响纳入公司级决策。但如果团队缺乏模型访问权、研究发表权和明确的风险升级或发布复核权限，它的独立性就可能只停留在名义上。

对大型AI实验室而言，关键并不是把“安全”放在实验室还是总部，而是能否明确保障三件事：安全团队可以接触正在开发的模型，可以公开或内部报告不利发现，并且在重大风险出现时拥有清晰、可执行的升级和复核渠道。谷歌这次重组最终能否做到这一点，目前仍没有足够证据下定论。

谷歌计划在9月初把旗下约90人的 AI责任团队（AI Responsibility team） 从Google DeepMind转移到谷歌的全球事务部门（Global Affairs）。据报道，这一安排旨在让AI风险和社会影响相关工作更靠近政策、法律及政府事务职能；与此同时，Google DeepMind正进一步融入谷歌面向产品和模型开发的AI业务。 53

这支团队原本负责什么？

AI责任团队关注的并不只是模型是否“好用”，还包括前沿AI系统可能造成的严重风险和广泛社会影响。其研究范围包括化学、生物、放射性与核（CBRN）知识被滥用的可能性，以及用户长期、密集使用AI聊天机器人后可能出现的心理影响。团队此前位于负责开发前沿模型的Google DeepMind内部。 5

需要注意的是，这些风险属于团队研究和评估的对象，并不意味着相关危害已经被证实会普遍发生。对于聊天机器人可能影响心理健康的担忧，现有研究和报道仍在发展中，风险也可能因用户状况、使用方式和产品设计而异。

为什么员工担心独立性受损？

员工担心，团队从研究实验室转入企业事务部门后，可能出现三方面变化：

• 与模型训练、评估和发布决策的日常联系变少；
• 在研究新模型的风险时，获得内部模型和测试资源的难度增加；
• 当研究结果不利于产品发布或商业目标时，提出异议、继续研究或向更高层升级的空间变小。 5

这些是组织内部员工表达的担忧，并不是已经发生的事实。现有报道没有证明谷歌已经对团队施加了上述限制。

团队会保留哪些职责？

公开报道显示，转移后的团队预计仍会负责研究AI风险及其社会影响。不过，目前没有足够公开证据说明其未来的人员规模、预算、模型访问权、研究发表自由，或向管理层升级重大风险的具体权限。因此，不能确定它将完整保留哪些实际保障机制。 5

同样，现有证据不足以得出“这次调整取消了团队阻止模型发布的正式权力”这一结论。更准确的说法是：团队的正式职责可能延续，但它在组织架构中的位置，以及这些职责能否有效影响发布决策，仍取决于谷歌最终如何设计权限和流程。

DeepMind内部还会保留哪些安全工作？

其他Google DeepMind及谷歌团队仍会继续负责更贴近产品和模型运行的安全工作，例如模型行为、隐私、信息安全和技术安全。 67

这意味着谷歌可能形成更清晰的分工：

• 开发组织内部：负责模型行为控制、技术安全、隐私和安全防护；
• 全球事务部门：负责更广泛的社会影响、治理、政策和公共事务问题。

这种分工有利于把监管沟通和公司层面的政策协调集中起来，但也可能让研究风险的人离模型开发现场更远。对于安全团队而言，能否及时接触模型、参与发布评审，以及能否把重大问题直接提交给决策者，往往比名义上的职责名称更重要。

调整为何与Hassabis的角色变化同时出现？

这次团队转移发生在Google DeepMind领导层重组期间。Demis Hassabis已从日常管理的CEO职位转任Google DeepMind董事长，并担任Alphabet首席科学家；DeepMind日常运营则由Koray Kavukcuoglu承担更大责任。 456

与此同时，谷歌正在推动部分AI团队向企业层面的谷歌组织靠拢，并希望加快Gemini模型开发。路透社报道称，谷歌内部还出现了多名资深人才离开等变化。 34

从公司治理角度看，这体现的是一次更大的整合：DeepMind不再只是相对独立的研究实验室，而是被更紧密地纳入谷歌争夺前沿AI竞争优势的整体业务体系。Hassabis转向更偏战略和科学的职位，也与这场重组相互交织。 3413

这对AI安全监督意味着什么？

这次调整本身不能证明谷歌放弃了安全工作。相反，谷歌仍在不同团队中开展技术安全、风险评估和责任治理工作。真正值得关注的问题是：安全专业人员究竟应该离模型开发团队多近，才能有效影响模型设计和发布？又应该在多大程度上保持组织独立，才能对公司内部目标提出有分量的质疑？ 53

把AI责任工作纳入全球事务部门，可能有助于统一政策口径、加强监管沟通，并把社会影响纳入公司级决策。但如果团队缺乏模型访问权、研究发表权和明确的风险升级或发布复核权限，它的独立性就可能只停留在名义上。

对大型AI实验室而言，关键并不是把“安全”放在实验室还是总部，而是能否明确保障三件事：安全团队可以接触正在开发的模型，可以公开或内部报告不利发现，并且在重大风险出现时拥有清晰、可执行的升级和复核渠道。谷歌这次重组最终能否做到这一点，目前仍没有足够证据下定论。