AI生成的冒名内容，即使不含露骨性内容、也不涉及选举，依然可能造成现实伤害。Meta监督委员会于2026年9月17日公布两项裁决，认定Meta针对有害合成媒体的防护措施“持续且根本不足”。委员会推翻了Meta此前允许两段Facebook视频继续存在的决定，并要求将其删除。111

两起案件：对象不同，问题相同

两段视频操纵的对象与手法并不相同，但委员会得出的核心结论一致：当AI生成内容被用来欺骗、羞辱女性或煽动敌意时，Meta的审核和标注机制未能作出充分应对。

第一起案件中，一段Facebook视频疑似利用一名苏格兰工党地方议员的肖像，伪造其就难民发表煽动性言论。监督委员会认定，该帖应按Meta的仇恨言论规则删除，因为它将严重犯罪和掠夺性行为归咎于难民这一群体。Meta最初并未下架该内容。1

第二起案件涉及一名曾参与月经健康教育工作的年轻穆斯林女性。AI生成视频虚假呈现她一边从事刻意引人嘲笑的行为，一边提供健康建议。委员会认为这构成对视频中女性的霸凌，要求Meta删除该视频。1113

合成媒体如何被用来压低女性的声音

这两起案件显示，看似逼真的假视频，即使没有露骨内容，也能造成实质伤害。

对地方政治人物而言，被伪造的发言可能损害其公信力，并使其因看似持有从未表达过的观点而遭受反弹。议员案件中的伪造内容还夹带了针对难民的仇恨性指控，既有误导公众的风险，也会伤害受保护群体。1

对社区倡导者而言，假视频可将其形象和公共角色变成取笑对象。这名穆斯林志愿者的案件说明，合成媒体能够被用于削弱女性的权威、引发针对外貌的辱骂；在围绕帖文产生的敌意中，宗教身份也可能成为攻击的一部分。11

委员会更广泛的担忧是：当低成本AI工具让逼真的冒名内容更易制作和传播时，承担公共角色的女性——包括政治人物、活动人士以及资源较少的普通公共参与者——尤其容易成为目标。问题不只关乎知名人物或选举期间的虚假信息。113

Meta的问题不只是漏删两条帖文

委员会的批评指向的是系统性缺口，而不只是两次最终判断失误。在地方议员案件中，相关举报没有获得优先人工审核；在委员会介入前，Meta仍认为该视频既不违反规则，也无需添加AI标签。1

综合两项裁决，委员会指出Meta在识别有害AI内容、将举报转交审核、界定滥用行为，以及向观看者说明合成媒体风险等方面均存在不足。若内容被用来骚扰个人或煽动对某一群体的敌意，仅加标签未必足够；在一些情形下，下架才是恰当处置。111

监督委员会希望Meta作出哪些调整

对于不必删除、但仍允许保留的操纵内容，委员会要求Meta加强“高风险AI”标签机制。具体建议包括：将此类标签的适用门槛从选举和危机场景扩展到更多情形；设置点击后才能继续观看的警示页；并降低有害合成媒体的传播范围或取消其变现资格。委员会也建议，对反复分享此类内容的账号采取更严厉措施，并公开更透明、可检索的AI标签使用信息。1

委员会还重申，Meta应明确说明：用户未按要求自行标注经修改或AI生成内容时，将面临何种处罚。1

两起个案中的下架决定对Meta具有约束力；但更广泛的政策建议并不会自动生效，Meta预计须在60天内作出回应。1

影响不止于这两段视频

这些裁决出台之际，外界也正密切关注AI滥用，以及推广可生成未经同意的性化图像工具的广告。这样的背景进一步印证委员会的重点：合成媒体风险并不只存在于选举欺骗中，也可能被用来攻击名誉、放大仇恨、在未经同意的情况下将他人性化，并打击女性参与公共事务的意愿。

对平台而言，现实考验已不再只是判断一则AI内容是否看起来逼真，而是能否识别出被操纵的形象何时正被用于造成现实伤害，并在内容获得大规模传播前采取行动。

AI生成的冒名内容，即使不含露骨性内容、也不涉及选举，依然可能造成现实伤害。Meta监督委员会于2026年9月17日公布两项裁决，认定Meta针对有害合成媒体的防护措施“持续且根本不足”。委员会推翻了Meta此前允许两段Facebook视频继续存在的决定，并要求将其删除。111

两起案件：对象不同，问题相同

两段视频操纵的对象与手法并不相同，但委员会得出的核心结论一致：当AI生成内容被用来欺骗、羞辱女性或煽动敌意时，Meta的审核和标注机制未能作出充分应对。

第一起案件中，一段Facebook视频疑似利用一名苏格兰工党地方议员的肖像，伪造其就难民发表煽动性言论。监督委员会认定，该帖应按Meta的仇恨言论规则删除，因为它将严重犯罪和掠夺性行为归咎于难民这一群体。Meta最初并未下架该内容。1

第二起案件涉及一名曾参与月经健康教育工作的年轻穆斯林女性。AI生成视频虚假呈现她一边从事刻意引人嘲笑的行为，一边提供健康建议。委员会认为这构成对视频中女性的霸凌，要求Meta删除该视频。1113

合成媒体如何被用来压低女性的声音

这两起案件显示，看似逼真的假视频，即使没有露骨内容，也能造成实质伤害。

对地方政治人物而言，被伪造的发言可能损害其公信力，并使其因看似持有从未表达过的观点而遭受反弹。议员案件中的伪造内容还夹带了针对难民的仇恨性指控，既有误导公众的风险，也会伤害受保护群体。1

对社区倡导者而言，假视频可将其形象和公共角色变成取笑对象。这名穆斯林志愿者的案件说明，合成媒体能够被用于削弱女性的权威、引发针对外貌的辱骂；在围绕帖文产生的敌意中，宗教身份也可能成为攻击的一部分。11

委员会更广泛的担忧是：当低成本AI工具让逼真的冒名内容更易制作和传播时，承担公共角色的女性——包括政治人物、活动人士以及资源较少的普通公共参与者——尤其容易成为目标。问题不只关乎知名人物或选举期间的虚假信息。113

Meta的问题不只是漏删两条帖文

委员会的批评指向的是系统性缺口，而不只是两次最终判断失误。在地方议员案件中，相关举报没有获得优先人工审核；在委员会介入前，Meta仍认为该视频既不违反规则，也无需添加AI标签。1

综合两项裁决，委员会指出Meta在识别有害AI内容、将举报转交审核、界定滥用行为，以及向观看者说明合成媒体风险等方面均存在不足。若内容被用来骚扰个人或煽动对某一群体的敌意，仅加标签未必足够；在一些情形下，下架才是恰当处置。111

监督委员会希望Meta作出哪些调整

对于不必删除、但仍允许保留的操纵内容，委员会要求Meta加强“高风险AI”标签机制。具体建议包括：将此类标签的适用门槛从选举和危机场景扩展到更多情形；设置点击后才能继续观看的警示页；并降低有害合成媒体的传播范围或取消其变现资格。委员会也建议，对反复分享此类内容的账号采取更严厉措施，并公开更透明、可检索的AI标签使用信息。1

委员会还重申，Meta应明确说明：用户未按要求自行标注经修改或AI生成内容时，将面临何种处罚。1

两起个案中的下架决定对Meta具有约束力；但更广泛的政策建议并不会自动生效，Meta预计须在60天内作出回应。1

影响不止于这两段视频

这些裁决出台之际，外界也正密切关注AI滥用，以及推广可生成未经同意的性化图像工具的广告。这样的背景进一步印证委员会的重点：合成媒体风险并不只存在于选举欺骗中，也可能被用来攻击名誉、放大仇恨、在未经同意的情况下将他人性化，并打击女性参与公共事务的意愿。

对平台而言，现实考验已不再只是判断一则AI内容是否看起来逼真，而是能否识别出被操纵的形象何时正被用于造成现实伤害，并在内容获得大规模传播前采取行动。