一名用户向监督委员会提出上诉,称一个帖子是AI生成的、未经同意的色情视频,模仿了其一位朋友的样貌,并损害了该朋友的名誉 。Meta最初审核后决定保留该帖子,称没有迹象表明它是未经同意的 。委员会推翻了这一决定,命令Meta立即删除该视频 。
委员会的裁决不仅限于个案,还发布了一系列具有约束力和非约束性的建议,要求Meta彻底改革对AI生成色情内容的处理方式,特别是针对非公众人物 。关键变革包括:
委员会明确指出,在色情语境下的AI生成模仿内容应“默认视为未经同意”,并建议将其纳入Meta的“成人性剥削”政策 。这将把证明“未经同意”的负担从受害者身上转移,转而要求平台承认此类内容固有的伤害性 。
委员会推荐的一项重大程序性变革是:允许用户指定“关联账户”——例如值得信任的朋友或家人——使其能够代表受害者举报诸如未经同意的私密影像等潜在违规行为 。这填补了一个关键漏洞:受害者可能对被上传的内容毫不知情,或因创伤、恐惧而无法自行举报。
委员会呼吁Meta创建一个专门的、全球性的举报类别,用以处理AI生成的未经同意的色情图片,不再将其归入广义的欺凌与骚扰规则之下 。这将使举报流程更简便、更易于追踪。
委员会此前曾批评Meta的术语过时,仍在使用“贬损性色情Photoshop”这样的表述 。委员会建议Meta更新规则,使用更清晰、更准确的术语来反映AI生成内容滥用的现实,强调内容的“未经同意”性质,而非其制作方式 。
在另一起相关的AI内容案件中,委员会还呼吁Meta部署可规模化使用的工具来识别AI生成内容,包括采纳C2PA内容凭证标准——一种用于追踪媒体来源和修改痕迹的标准 。委员会发现,Meta当前的系统过度依赖用户主动披露,缺乏稳健的自动化检测手段,尤其在视频和音频内容的检测上存在明显不足 。
该裁决的一个核心主题是普通人在现有体系下的保护缺失。委员会强调,被色情深伪视频针对的非公众人物尤其受到伤害,因为他们往往缺乏公众人物的可见度或机构支持,而当前系统却要求他们自行证明内容未经同意 。本案本身正是一起关于女性的AI生成色情模仿视频,由一位自称是其朋友的人举报,称内容未经同意且严重损害名誉 。
委员会的裁决还承认了这些深伪内容对女性和女性群体造成的比例失调的伤害。通过呼吁加强自动化检测、转变举证责任并制定更清晰的政策,委员会旨在解决系统性、基于性别的网络虐待问题 。
Meta必须在60天内对监督委员会的建议做出回应 。委员会关于删除特定视频的裁决具有约束力,而其更广泛的政策建议虽不具有法律约束力,但具有重大的公众和声誉影响力 。该裁决建立在委员会2024年和2025年早先的裁决基础之上,那些裁决曾认定Meta的深伪政策“前后矛盾”且“不够清晰” 。
一名用户向监督委员会提出上诉,称一个帖子是AI生成的、未经同意的色情视频,模仿了其一位朋友的样貌,并损害了该朋友的名誉 。Meta最初审核后决定保留该帖子,称没有迹象表明它是未经同意的 。委员会推翻了这一决定,命令Meta立即删除该视频 。
委员会的裁决不仅限于个案,还发布了一系列具有约束力和非约束性的建议,要求Meta彻底改革对AI生成色情内容的处理方式,特别是针对非公众人物 。关键变革包括:
委员会明确指出,在色情语境下的AI生成模仿内容应“默认视为未经同意”,并建议将其纳入Meta的“成人性剥削”政策 。这将把证明“未经同意”的负担从受害者身上转移,转而要求平台承认此类内容固有的伤害性 。
委员会推荐的一项重大程序性变革是:允许用户指定“关联账户”——例如值得信任的朋友或家人——使其能够代表受害者举报诸如未经同意的私密影像等潜在违规行为 。这填补了一个关键漏洞:受害者可能对被上传的内容毫不知情,或因创伤、恐惧而无法自行举报。
委员会呼吁Meta创建一个专门的、全球性的举报类别,用以处理AI生成的未经同意的色情图片,不再将其归入广义的欺凌与骚扰规则之下 。这将使举报流程更简便、更易于追踪。
委员会此前曾批评Meta的术语过时,仍在使用“贬损性色情Photoshop”这样的表述 。委员会建议Meta更新规则,使用更清晰、更准确的术语来反映AI生成内容滥用的现实,强调内容的“未经同意”性质,而非其制作方式 。
在另一起相关的AI内容案件中,委员会还呼吁Meta部署可规模化使用的工具来识别AI生成内容,包括采纳C2PA内容凭证标准——一种用于追踪媒体来源和修改痕迹的标准 。委员会发现,Meta当前的系统过度依赖用户主动披露,缺乏稳健的自动化检测手段,尤其在视频和音频内容的检测上存在明显不足 。
该裁决的一个核心主题是普通人在现有体系下的保护缺失。委员会强调,被色情深伪视频针对的非公众人物尤其受到伤害,因为他们往往缺乏公众人物的可见度或机构支持,而当前系统却要求他们自行证明内容未经同意 。本案本身正是一起关于女性的AI生成色情模仿视频,由一位自称是其朋友的人举报,称内容未经同意且严重损害名誉 。
委员会的裁决还承认了这些深伪内容对女性和女性群体造成的比例失调的伤害。通过呼吁加强自动化检测、转变举证责任并制定更清晰的政策,委员会旨在解决系统性、基于性别的网络虐待问题 。
Meta必须在60天内对监督委员会的建议做出回应 。委员会关于删除特定视频的裁决具有约束力,而其更广泛的政策建议虽不具有法律约束力,但具有重大的公众和声誉影响力 。该裁决建立在委员会2024年和2025年早先的裁决基础之上,那些裁决曾认定Meta的深伪政策“前后矛盾”且“不够清晰” 。