为AI划清边界：企业可借鉴新加坡法院的红黄绿灯思路

新加坡法院的做法为企业制定AI治理规则提供了一个实用起点：与其笼统地说“允许使用AI”或“必须有人监督”，不如按具体任务划分风险，并明确责任交给系统的程度。法院允许使用生成式AI协助准备法庭文件，但使用者仍须对材料的准确性负责，并进行独立核验。企业可以借鉴这一原则，但应根据自身的业务任务和风险设计规则；这并不意味着法院替企业规定了具体要求。36

按任务划边界，而不是按工具一刀切

同一款AI工具，可能适合低风险的文字整理，却不适合替人作出影响个人的决定。新加坡法院将相关用途概括为“红黄绿灯”：绿色适用于翻译、摘要等帮助人们理解信息、但不负责裁决案件的用途；黄色代表需要更加谨慎的场景；红色则是法院不考虑采用AI的领域。638

企业可以把这种分级思路转化为内部政策。以下是可供参考的起点，并非适用于所有企业的统一分类。实际评估时，应考虑具体任务、使用的信息，以及出错可能带来的后果。

绿色：协助处理日常工作

可允许员工使用经批准的AI工具处理较低风险的任务，例如格式整理、翻译、信息归类或起草初稿。规则应说明哪些工具获准使用、员工可以输入哪些信息，以及输出是否需要在使用前复核。还应明确：AI生成的草稿本身并不代表企业已经批准相关决定或立场。

黄色：可以准备材料，不替人作决定

在后果较为重大的工作中，AI可以协助整理证据、概括记录或列出选项，但应指定一名审核人员，在结果影响他人之前核对重要说法、查阅原始记录、考虑相关背景，并批准最终材料。

“独立核验”意味着回到原始证据或权威记录进行核对，而不是再问另一个AI系统，第一个系统说得对不对。新加坡法院的指南也要求法院使用者确保提交材料经过独立核验，且准确、真实、适当。3

红色：把决定留给人

企业可以将涉及就业、安全或基本服务获取等事项的决定列为必须由人作出的决定。在这些情形下，AI可以协助准备，但不应作出最终决定，也不应自动触发决定。负责人员应亲自评估个案，有权拒绝系统建议，并能说明作出决定的理由。

这是建议企业采用的保障措施，并非声称新加坡法院要求所有企业照此执行。新加坡司法机构曾表示，AI工具可以协助法官阅读和消化材料；目前，法院并未使用AI来权衡证据、将法律适用于事实或行使裁量权。40

把规则写清楚，并对外公开

与其笼统承诺“负责任地使用AI”，不如公开说明具体任务中的实际边界。对于每项获准用途，可用简短条目回答：

• AI在这项任务中可以做什么？哪些做法不允许？
• 员工可以向工具输入哪些信息？
• 谁负责审核输出？需要对照什么材料核验？
• 谁拥有最终决定权？
• 员工或受影响的人如何报告问题、要求纠正错误或提出异议？

企业内部还应按风险程度保留记录，例如使用的AI工具和对应任务、审核过的来源，以及负责批准的人。审核人员需要有足够的时间和权限提出不同意见；否则，人工审核可能只剩形式上的签字，而无法真正发挥保障作用。

定期复核分类，也要保护员工的判断力

每项任务的红黄绿分类都应定期重新评估，而不是一经确定就永久不变。应针对具体工具和具体工作流程进行测试，检查错误，并判断是否需要调整控制措施或暂停使用。不要假设关于某个模型的一般性说法，必然适用于每项任务。

同时，也要让员工有机会练习AI正在协助完成的工作。新加坡首席大法官曾指出，AI可能改变初级律师过去用来打基础的一些日常工作。2335 对企业而言，更广泛的启示是：员工需要积累足够的实际经验，才能理解工作内容、发现错误并独立判断；只有具备这些能力，才可能真正有意义地审核AI输出。

一个简单的判断标准

红黄绿灯框架是否有用，关键在于不同颜色能否带来实际不同的做法：AI获准做什么、人必须核验什么、谁承担最终责任，以及决定如何受到质疑。企业应按任务公开这些边界，并随着工具和工作流程变化进行复核；涉及重要后果的判断，则应由有权限、有能力的人作出。