直接違反平台政策。 ISD 報告明確指出,這些發現與 YouTube 禁止色情內容的政策「直接衝突」。研究人員發現,違反這些政策的內容在平台上「輕易就能被發現與取得」,這實際上讓 YouTube 淪為此類濫用行為的門戶 。ISD 研究與政策資深主任 Melanie Smith 表示,YouTube 不只是被動的流量來源,在許多案例中,它甚至在「積極促進這些工具的使用」,並強調現有政策的執法並不全面 。
X 與搜尋引擎也是入口。 2025 年的早期 ISD 報告便已指出,從 2020 年 6 月到 2025 年 7 月,X 平台上有關 SIIA 工具關鍵詞的總計 410,592 則討論中,X 就佔了 289,660 則,超過 總活動量的 70%,其中許多是由機器人帳號驅動 。此外,在 Google、Yahoo 與 Bing 等搜尋引擎上,簡單搜尋「deepnude」、「nudify」或「undress app」等關鍵詞,在前 20 筆自然搜尋結果中就會直接出現 SIIA 工具的連結。Bing 甚至將此類工具列為所有三個查詢的第一個搜尋結果 。
ISD 的報告也點出了這類工具得以快速擴散的經濟因素。
對濫用者的低價。 使用者只需花費低至 1 美元,就能生成一張非自願的色情圖片,極低的門檻讓更多潛在的加害者得以輕易取得這些工具 。
對平台的暴利。 根據 ISD 報告引用的《WIRED》調查,這些平台合計每年可創造高達 3600 萬美元 的收入 。這種暴利模式讓平台營運者有強烈的經濟誘因,想方設法讓自己的服務更容易被發現。
研究詳細說明了誰是受害者以及加害者的動機,揭示了超越純粹性騷擾的複雜樣貌。
主要受害者。 ISD 發現,常見的目標包括現任與前任女友,以及令人震驚的親戚,例如姊妹與表姐妹 。牛津網際網路研究所(Oxford Internet Institute)2025 年的一項研究提供了更廣的脈絡:在將近 35,000 個公開可得的深度偽造模型變體中,有 96% 的目標是女性 。全球各地已有超過 90 所學校通報與深度偽造相關的案件 。
非性動機。 這類濫用的動機並非總是與性有關。Smith 指出,「許多請求的目的是要讓人丟掉工作,或是以邪惡的方式破壞他們的生計」。將深度偽造技術武器化,用以破壞他人名譽與職業生涯,是一種極其陰險的影像式虐待。
問題的嚴重性在美國聯邦與州層級引發了多層次的立法回應。
聯邦層級:《Take It Down Act》。 這項法案於 2025 年 5 月簽署成為法律,正式名稱為「Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act」(簡稱 TAKE IT DOWN Act),將明知故犯地發布或威脅發布未經同意的親密影像定為聯邦罪行 。其對平台業者的合規要求已於 2026 年 5 月 19 日 全面生效 。包括社群媒體和即時通訊應用在內的受規範平台,必須為受害者提供請求移除非自願親密影像(NCII)的流程,並且必須在收到有效請求後的 48 小時內 移除該內容及其任何已知的相同複本,否則將面臨聯邦貿易委員會(FTC)的執法行動 。
州層級:明尼蘇達州的「Nudification」禁令。 明尼蘇達州成為全美第一個通過專門禁止「Nudification」(數位脫衣)技術法律的州 。該法將於 2026 年 8 月 1 日 生效,禁止任何擁有或控制網站、應用程式或軟體的個人或公司,允許使用者存取、下載或使用這類「脫衣」技術 。該法也允許受害者對加害者提起民事訴訟 。這項法案在州參議院以 65 比 0 的無異議票數獲得跨黨派壓倒性支持 。違反規定的公司每次侵權行為最高可處以 50 萬美元 的民事罰款 。
平台回應與執法缺口。 2026 年 1 月,X 平台因其 AI 聊天機器人 Grok 據報在 2025 年 12 月短短九天內被用於生成至少 23,000 張兒童性化圖片和 180 萬張女性圖片 而引發強烈反彈 。X 隨後將 Grok 的存取權限限制為付費用戶才能使用 。ISD 報告呼籲採取協調一致的系統性回應,包括更強勢的平台監管 以及在學校推廣數位素養教育 。報告也對廣泛存在的執法缺口表達了擔憂:YouTube 的政策名義上禁止連結到色情內容,但 ISD 發現這些規則並未得到全面執行,使得該平台依然成為這類濫用的主要門戶 。
這份報告無疑為各大社群平台敲響了警鐘,隨著聯邦與州層級的監管壓力日益增強,科技巨頭們正面臨著前所未有的審視與變革要求。
直接違反平台政策。 ISD 報告明確指出,這些發現與 YouTube 禁止色情內容的政策「直接衝突」。研究人員發現,違反這些政策的內容在平台上「輕易就能被發現與取得」,這實際上讓 YouTube 淪為此類濫用行為的門戶 。ISD 研究與政策資深主任 Melanie Smith 表示,YouTube 不只是被動的流量來源,在許多案例中,它甚至在「積極促進這些工具的使用」,並強調現有政策的執法並不全面 。
X 與搜尋引擎也是入口。 2025 年的早期 ISD 報告便已指出,從 2020 年 6 月到 2025 年 7 月,X 平台上有關 SIIA 工具關鍵詞的總計 410,592 則討論中,X 就佔了 289,660 則,超過 總活動量的 70%,其中許多是由機器人帳號驅動 。此外,在 Google、Yahoo 與 Bing 等搜尋引擎上,簡單搜尋「deepnude」、「nudify」或「undress app」等關鍵詞,在前 20 筆自然搜尋結果中就會直接出現 SIIA 工具的連結。Bing 甚至將此類工具列為所有三個查詢的第一個搜尋結果 。
ISD 的報告也點出了這類工具得以快速擴散的經濟因素。
對濫用者的低價。 使用者只需花費低至 1 美元,就能生成一張非自願的色情圖片,極低的門檻讓更多潛在的加害者得以輕易取得這些工具 。
對平台的暴利。 根據 ISD 報告引用的《WIRED》調查,這些平台合計每年可創造高達 3600 萬美元 的收入 。這種暴利模式讓平台營運者有強烈的經濟誘因,想方設法讓自己的服務更容易被發現。
研究詳細說明了誰是受害者以及加害者的動機,揭示了超越純粹性騷擾的複雜樣貌。
主要受害者。 ISD 發現,常見的目標包括現任與前任女友,以及令人震驚的親戚,例如姊妹與表姐妹 。牛津網際網路研究所(Oxford Internet Institute)2025 年的一項研究提供了更廣的脈絡:在將近 35,000 個公開可得的深度偽造模型變體中,有 96% 的目標是女性 。全球各地已有超過 90 所學校通報與深度偽造相關的案件 。
非性動機。 這類濫用的動機並非總是與性有關。Smith 指出,「許多請求的目的是要讓人丟掉工作,或是以邪惡的方式破壞他們的生計」。將深度偽造技術武器化,用以破壞他人名譽與職業生涯,是一種極其陰險的影像式虐待。
問題的嚴重性在美國聯邦與州層級引發了多層次的立法回應。
聯邦層級:《Take It Down Act》。 這項法案於 2025 年 5 月簽署成為法律,正式名稱為「Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act」(簡稱 TAKE IT DOWN Act),將明知故犯地發布或威脅發布未經同意的親密影像定為聯邦罪行 。其對平台業者的合規要求已於 2026 年 5 月 19 日 全面生效 。包括社群媒體和即時通訊應用在內的受規範平台,必須為受害者提供請求移除非自願親密影像(NCII)的流程,並且必須在收到有效請求後的 48 小時內 移除該內容及其任何已知的相同複本,否則將面臨聯邦貿易委員會(FTC)的執法行動 。
州層級:明尼蘇達州的「Nudification」禁令。 明尼蘇達州成為全美第一個通過專門禁止「Nudification」(數位脫衣)技術法律的州 。該法將於 2026 年 8 月 1 日 生效,禁止任何擁有或控制網站、應用程式或軟體的個人或公司,允許使用者存取、下載或使用這類「脫衣」技術 。該法也允許受害者對加害者提起民事訴訟 。這項法案在州參議院以 65 比 0 的無異議票數獲得跨黨派壓倒性支持 。違反規定的公司每次侵權行為最高可處以 50 萬美元 的民事罰款 。
平台回應與執法缺口。 2026 年 1 月,X 平台因其 AI 聊天機器人 Grok 據報在 2025 年 12 月短短九天內被用於生成至少 23,000 張兒童性化圖片和 180 萬張女性圖片 而引發強烈反彈 。X 隨後將 Grok 的存取權限限制為付費用戶才能使用 。ISD 報告呼籲採取協調一致的系統性回應,包括更強勢的平台監管 以及在學校推廣數位素養教育 。報告也對廣泛存在的執法缺口表達了擔憂:YouTube 的政策名義上禁止連結到色情內容,但 ISD 發現這些規則並未得到全面執行,使得該平台依然成為這類濫用的主要門戶 。
這份報告無疑為各大社群平台敲響了警鐘,隨著聯邦與州層級的監管壓力日益增強,科技巨頭們正面臨著前所未有的審視與變革要求。