Transformer报道称，Hugging Face在7月托管了6500多个标注为“abliterated”“uncensored”或“heretic”的模型。1 这些标签常与移除模型安全过滤或防护机制有关，但这个数字并不意味着每个模型都有恶意、能力相同，或都应被禁止。平台真正难以回答的问题是：如何区分一个只是更少拒绝回答的模型，和一个被设计来协助网络滥用的模型？

6500多个标签说明了什么

报道将这些标签描述为与移除模型安全过滤或防护机制相关的用语。1 它们可以反映模型是如何被介绍的，却不能单凭标签确认模型实际能做什么，也不能说明它完成有害任务的可靠程度。

Audnai在Hugging Face上的一个模型页面称，其“abliterated”模型通过直接修改权重来移除拒答行为，而非重新训练模型。11 这有助于厘清一个关键区别：“减少拒答”不等于“获得新能力”。模型更愿意回应某类请求，并不能单独证明它能够成功实施某种攻击。

平台政策的难点：如何划定边界

Transformer报道称，Hugging Face的内容政策禁止那些被设计用于扰乱系统、未经授权获取访问权限或生成恶意代码的模型。1 因此，审核的关键不只是模型是否经过修改，而是平台凭什么证据判断它是为被禁止的用途设计的。

Audnai一个标注为“for offensive cyber”（用于进攻性网络行动）的模型库页面显示，该模型因违反内容政策而被停用。14 与此同时，提供的搜索结果中也出现了Audnai另一个普通的去拒答模型页面。11 这种对照让平台如何执行规则的问题更加突出，但不足以证明两个模型的能力、意图或政策状态完全相同。现有页面摘录显示了停用结果，却没有说明平台作出决定的具体依据。14

为什么不能只看标签和页面介绍

模型库名称或开发者描述可以透露预期用途，却不能替代对模型表现的评估。同样，声称移除了拒答机制，也不能证明模型能够完成所有被要求的有害任务。现有来源记录了模型页面及其描述，但没有对所有带有相关标签的模型提供统一、独立的能力评估。111

这一区别对平台审核很重要。如果处置依据包括开发者意图、已展示的能力，或两者兼有，那么用户和开发者也需要知道平台如何评估这些因素。更清楚地解释下架决定，有助于外界了解违反了哪条规则；采用一致的评估方法，则有助于区分“拒答变少”的模型和被宣传为网络攻击工具的模型。

平台治理面对的考题

报道中的总数更适合被理解为平台上带有安全机制移除相关标签的模型规模，而不是已确认的恶意模型数量。1 这也说明，平台审核不能只依赖标签：还必须判断模型的用途、支持判断的证据，以及规则应如何适用于兼具多种用途的模型。

更透明地说明处置理由，并以清晰、一致的标准执行规则，会让这条边界更容易受到检验。现有证据足以说明平台确实面临审核难题，但还不足以得出结论：所有仍在平台上的“abliterated”模型都应该被移除。

Transformer报道称，Hugging Face在7月托管了6500多个标注为“abliterated”“uncensored”或“heretic”的模型。1 这些标签常与移除模型安全过滤或防护机制有关，但这个数字并不意味着每个模型都有恶意、能力相同，或都应被禁止。平台真正难以回答的问题是：如何区分一个只是更少拒绝回答的模型，和一个被设计来协助网络滥用的模型？

6500多个标签说明了什么

报道将这些标签描述为与移除模型安全过滤或防护机制相关的用语。1 它们可以反映模型是如何被介绍的，却不能单凭标签确认模型实际能做什么，也不能说明它完成有害任务的可靠程度。

Audnai在Hugging Face上的一个模型页面称，其“abliterated”模型通过直接修改权重来移除拒答行为，而非重新训练模型。11 这有助于厘清一个关键区别：“减少拒答”不等于“获得新能力”。模型更愿意回应某类请求，并不能单独证明它能够成功实施某种攻击。

平台政策的难点：如何划定边界

Transformer报道称，Hugging Face的内容政策禁止那些被设计用于扰乱系统、未经授权获取访问权限或生成恶意代码的模型。1 因此，审核的关键不只是模型是否经过修改，而是平台凭什么证据判断它是为被禁止的用途设计的。

Audnai一个标注为“for offensive cyber”（用于进攻性网络行动）的模型库页面显示，该模型因违反内容政策而被停用。14 与此同时，提供的搜索结果中也出现了Audnai另一个普通的去拒答模型页面。11 这种对照让平台如何执行规则的问题更加突出，但不足以证明两个模型的能力、意图或政策状态完全相同。现有页面摘录显示了停用结果，却没有说明平台作出决定的具体依据。14

为什么不能只看标签和页面介绍

模型库名称或开发者描述可以透露预期用途，却不能替代对模型表现的评估。同样，声称移除了拒答机制，也不能证明模型能够完成所有被要求的有害任务。现有来源记录了模型页面及其描述，但没有对所有带有相关标签的模型提供统一、独立的能力评估。111

这一区别对平台审核很重要。如果处置依据包括开发者意图、已展示的能力，或两者兼有，那么用户和开发者也需要知道平台如何评估这些因素。更清楚地解释下架决定，有助于外界了解违反了哪条规则；采用一致的评估方法，则有助于区分“拒答变少”的模型和被宣传为网络攻击工具的模型。

平台治理面对的考题

报道中的总数更适合被理解为平台上带有安全机制移除相关标签的模型规模，而不是已确认的恶意模型数量。1 这也说明，平台审核不能只依赖标签：还必须判断模型的用途、支持判断的证据，以及规则应如何适用于兼具多种用途的模型。

更透明地说明处置理由，并以清晰、一致的标准执行规则，会让这条边界更容易受到检验。现有证据足以说明平台确实面临审核难题，但还不足以得出结论：所有仍在平台上的“abliterated”模型都应该被移除。