一名用戶向監督委員會提出上訴,因為他們檢舉了一個貼文,該貼文被指稱為一個由 AI 生成、未經同意的性化影片,冒用了其中一名友人的身分,並損害了該名友人的名譽 。Meta 最初審查了該內容,並決定讓其繼續存在,理由是沒有跡象顯示這是未經同意的 。委員會推翻了這項決定,下令 Meta 立即刪除該影片 。
委員會的裁決超越了單一個案,發布了多項具有約束力和非約束力的建議,旨在徹底改革 Meta 處理 AI 生成性化內容的方式,特別是針對非公眾人物 。主要的變革包括:
委員會明確指出,在性化情境下的 AI 生成身分冒用,應被「預設為未經同意的」(non-consensual by default),並建議將其納入 Meta 的「成人性剝削政策」(Adult Sexual Exploitation policy)中 。這將舉證責任從受害者身上移開,不再需要他們自行證明未經同意,而是讓平台承擔起識別此類內容固有危害的責任 。
委員會建議的一項重大程序改革,是允許用戶指定「已關聯帳號」(connected accounts)——例如可信賴的朋友或家人——這些帳號可以代替受害者檢舉潛在的違規行為,例如未經同意的私密影像 。這解決了一個關鍵漏洞,因為受害者可能不知道該內容的存在,或出於創傷或恐懼而無法自行檢舉。
委員會呼籲 Meta 建立一個專門的、全球性的檢舉類別,專門用於檢舉 AI 生成的未經同意性化影像,讓檢舉程序不再只能歸類在概括性的「霸凌與騷擾」規則之下 。這將使檢舉更容易提交和追蹤。
委員會此前曾批評 Meta 過時的術語,該公司使用「貶義性 photoshop」(derogatory sexualized photoshop)等字眼 。委員會建議更新 Meta 的規則,使用更清晰、更準確的術語來反映 AI 生成虐待行為的現代現實,強調內容的「未經同意」性質,而非其製作方式 。
在另一個相關的 AI 內容案件中,委員會也呼籲 Meta 實施可擴展的工具來識別 AI 生成的內容,包括採用 C2PA 內容來源憑證(Content Credentials)標準——這是一個用於追蹤媒體來源及修改記錄的標準 。委員會認為,Meta 目前的系統過度依賴用戶的自我揭露,缺乏強大的自動化偵測能力,尤其對於影片和音訊內容 。
這項裁決的核心是解決一般民眾(非公眾人物)所面臨的保護缺口。委員會強調,遭受性化深偽內容攻擊的非公眾人物,往往會因為系統要求他們自行證明「未經同意」而受到特別嚴重的傷害,因為他們通常缺乏公眾人物所擁有的公眾知名度或制度性支持 。本案的核心正是一個 AI 生成的性化身分冒用影片,受害者是一名普通女性,由她的友人檢舉,並明確指出該內容是未經同意且具有名譽毀損性質的 。
委員會的裁決也承認,這些深偽內容對女性和女孩造成了不成比例的傷害。透過呼籲加強自動化偵測、轉移舉證責任以及制定更明確的政策,委員會旨在解決這種系統性的性別化線上虐待問題 。
Meta 必須在 60 天內回應監督委員會的建議 。雖然要求刪除特定影片的建議是具有約束力的,但其更廣泛的政策建議雖然不具法律約束力,卻帶有重大的公眾和聲譽壓力 。這項裁決建立在委員會先前在 2024 年和 2025 年的裁決之上,當時委員會就曾發現 Meta 的深偽政策是「不連貫的」(incoherent)且「不夠清晰」。
一名用戶向監督委員會提出上訴,因為他們檢舉了一個貼文,該貼文被指稱為一個由 AI 生成、未經同意的性化影片,冒用了其中一名友人的身分,並損害了該名友人的名譽 。Meta 最初審查了該內容,並決定讓其繼續存在,理由是沒有跡象顯示這是未經同意的 。委員會推翻了這項決定,下令 Meta 立即刪除該影片 。
委員會的裁決超越了單一個案,發布了多項具有約束力和非約束力的建議,旨在徹底改革 Meta 處理 AI 生成性化內容的方式,特別是針對非公眾人物 。主要的變革包括:
委員會明確指出,在性化情境下的 AI 生成身分冒用,應被「預設為未經同意的」(non-consensual by default),並建議將其納入 Meta 的「成人性剝削政策」(Adult Sexual Exploitation policy)中 。這將舉證責任從受害者身上移開,不再需要他們自行證明未經同意,而是讓平台承擔起識別此類內容固有危害的責任 。
委員會建議的一項重大程序改革,是允許用戶指定「已關聯帳號」(connected accounts)——例如可信賴的朋友或家人——這些帳號可以代替受害者檢舉潛在的違規行為,例如未經同意的私密影像 。這解決了一個關鍵漏洞,因為受害者可能不知道該內容的存在,或出於創傷或恐懼而無法自行檢舉。
委員會呼籲 Meta 建立一個專門的、全球性的檢舉類別,專門用於檢舉 AI 生成的未經同意性化影像,讓檢舉程序不再只能歸類在概括性的「霸凌與騷擾」規則之下 。這將使檢舉更容易提交和追蹤。
委員會此前曾批評 Meta 過時的術語,該公司使用「貶義性 photoshop」(derogatory sexualized photoshop)等字眼 。委員會建議更新 Meta 的規則,使用更清晰、更準確的術語來反映 AI 生成虐待行為的現代現實,強調內容的「未經同意」性質,而非其製作方式 。
在另一個相關的 AI 內容案件中,委員會也呼籲 Meta 實施可擴展的工具來識別 AI 生成的內容,包括採用 C2PA 內容來源憑證(Content Credentials)標準——這是一個用於追蹤媒體來源及修改記錄的標準 。委員會認為,Meta 目前的系統過度依賴用戶的自我揭露,缺乏強大的自動化偵測能力,尤其對於影片和音訊內容 。
這項裁決的核心是解決一般民眾(非公眾人物)所面臨的保護缺口。委員會強調,遭受性化深偽內容攻擊的非公眾人物,往往會因為系統要求他們自行證明「未經同意」而受到特別嚴重的傷害,因為他們通常缺乏公眾人物所擁有的公眾知名度或制度性支持 。本案的核心正是一個 AI 生成的性化身分冒用影片,受害者是一名普通女性,由她的友人檢舉,並明確指出該內容是未經同意且具有名譽毀損性質的 。
委員會的裁決也承認,這些深偽內容對女性和女孩造成了不成比例的傷害。透過呼籲加強自動化偵測、轉移舉證責任以及制定更明確的政策,委員會旨在解決這種系統性的性別化線上虐待問題 。
Meta 必須在 60 天內回應監督委員會的建議 。雖然要求刪除特定影片的建議是具有約束力的,但其更廣泛的政策建議雖然不具法律約束力,卻帶有重大的公眾和聲譽壓力 。這項裁決建立在委員會先前在 2024 年和 2025 年的裁決之上,當時委員會就曾發現 Meta 的深偽政策是「不連貫的」(incoherent)且「不夠清晰」。