Сім із дев’яти найпопулярніших AI-редакторів Hugging Face генерують інтимні дипфейки без згоди

Це відрізняється від відомих спроб обійти фільтри в інших сервісах, де користувачі вдавалися до евфемізмів на кшталт «прозорого бікіні» або «глазурі для пончиків». На Hugging Face, за висновками звіту, такі хитрощі не були потрібні.

«Пастка» для оцінки реального масштабу

Щоб перевірити не лише технічні можливості моделей, а й те, як ними можуть користуватися люди, AI Forensics створила на Hugging Face власний фальшивий Space — своєрідну цифрову «пастку» для збору запитів. За один тиждень дослідники отримали понад 1 000 запитів користувачів і пов’язаних із ними зображень.

Результати були такими:

• 73% усіх запитів мали сексуальний характер .
• 83% сексуальних запитів просили «роздягнути» людину на зображенні; майже завжди йшлося про жінок .
• Приблизно 6% сексуальних запитів явно стосувалися людей, які виглядали неповнолітніми .

Сам по собі експеримент не є повним переписом усіх користувачів Hugging Face. Однак він показує, наскільки часто доступ до таких інструментів може використовуватися для створення несанкціонованих інтимних зображень — тобто матеріалів, створених без згоди людини, зображеної на них .

Політика є, перевірки — майже немає

Найгостріша критика у звіті стосується не лише окремих моделей, а й самої архітектури платформи. За словами дослідників, Hugging Face застосовує «взагалі жодних запобіжників на рівні платформи», фактично покладаючись на розробників окремих моделей .

Водночас власні правила Hugging Face забороняють «сексуальний контент, створений без явної згоди», а також оголеність неповнолітніх і будь-який сексуальний контент за участю дітей .

У звіті це названо системною прогалиною у виконанні правил: заборони прописані, але платформа, як стверджують автори, не перевіряє Spaces наперед на здатність генерувати заборонений контент . У результаті відповідальність за безпеку значною мірою передається стороннім розробникам, частина яких не встановлює дієвих обмежень.

Для порівняння, великі комерційні сервіси на кшталт Google Gemini та ChatGPT мають вбудовані запобіжники, які блокують запити на роздягання або сексуалізацію людей . Відкрита модель Hugging Face, за оцінкою AI Forensics, створює значно слабший бар’єр між потенційно небезпечною функцією та її використанням.

ЄС готує заборону «роздягання» за допомогою AI

Звіт з’явився на тлі посилення європейського регулювання. У червні 2026 року Європейський парламент схвалив зміни до Закону ЄС про штучний інтелект (AI Act), які передбачають заборону інструментів для «роздягання» зображень, а також AI-систем, що допомагають створювати матеріали сексуального насильства над дітьми .

Заборона охоплює системи, здатні без згоди створювати або змінювати сексуально відверті чи інтимні зображення, що нагадують упізнавану реальну людину . Відповідні положення мають почати діяти 2 грудня 2026 року .

AI Act також передбачає вимоги щодо маркування дипфейків і зобов’язує розробників загальнопридатних моделей із системним ризиком оцінювати та зменшувати ризики незаконного або дискримінаційного контенту . Автори звіту вважають, що модель «відкритого хостингу» без централізованого контролю може послабити практичний ефект цих норм, якщо заборонені інструменти й надалі залишатимуться легко доступними .

Чи здатні відкриті AI-платформи контролювати себе?

Hugging Face побудована на відкритості та внесках спільноти. Саме це допомагає дослідникам поширювати моделі, тестувати їх і розвивати корисні технології. Але та сама інфраструктура може прискорювати поширення інструментів, здатних завдавати шкоди, якщо перевірка та модерація залишаються на розсуд кожного розробника.

Звіт AI Forensics не пропонує простого універсального рішення. Проте його висновок однозначний: станом на середину 2026 року між політиками Hugging Face та їхнім фактичним виконанням залишається значна дистанція. І через це створення несанкціонованих інтимних дипфейків може вимагати від користувача лише кількох слів і завантаженого зображення .