Gaussian Probing: Nová zbraň proti zneužívání AI k tvorbě dětské pornografie

Výzkumníci z Massachusettského technologického institutu (MIT), Bostonské univerzity a organizace Thorn, která se zabývá ochranou dětí, vyvinuli techniku zvanou Gaussian Probing. Ta dokáže určit, zda byl generativní model umělé inteligence dolaďován (fine-tuned) k produkci materiálu s dětskou pornografií (CSAM) – a to bez nutnosti vygenerovat byť jen jediný obrázek . Tato metoda, prezentovaná jako hlavní příspěvek na workshopu „Trustworthy AI for Good" v rámci Mezinárodní konference o strojovém učení (ICML), představuje zásadní průlom v oblasti bezpečnostního auditu AI pro obsah, který je tak škodlivý, že je jeho testování samo o sobě nelegální .

Co je Gaussian Probing?

Gaussian Probing je negenerativní auditní metoda, která zjišťuje, zda byl generativní AI model specializován pomocí dolaďování (fine-tuning) k produkci CSAM . Technika se zaměřuje specificky na Low-Rank Adaptation (LoRA), populární a efektivní metodu dolaďování, která umožňuje uživatelům specializovat základní model (např. Stable Diffusion) pro konkrétní úkol, aniž by bylo nutné přetrénovávat celý model . Bohužel, zneužití LoRA adaptérů umožňuje vytvářet varianty modelů schopné generovat vysoce kvalitní CSAM .

Místo toho, aby se metoda ptala, co upravený model vykreslí jako výstupní obrázek, Gaussian Probing zkoumá, jak adaptér mění interní profil odezvy modelu v nativním Gaussově stavovém prostoru difuzního procesu .

Jak to funguje?

Metoda funguje na principu měření, jak LoRA adaptér funkčně narušuje interní reprezentace modelu. Konkrétně se do difuzního procesu modelu vloží referenční soubor náhodných Gaussovských latentních stavů a pozoruje se, jak se mění skryté aktivace .

Základním matematickým nástrojem je „funkcionál sondy" (probe functional), který vypočítá průměrnou skrytou reprezentaci napříč difuzními časovými kroky pro sadu Gaussovských šumových vstupů. Ty se pak agregují do vektoru příznaků, který charakterizuje účinek adaptéru . Na těchto vektorech je následně natrénován klasifikátor, který rozlišuje škodlivé (specializované na CSAM) a neškodné adaptéry.

Jak vysvětlil hlavní autor studie Vinith Suriyakumar, doktorand na MIT: „Dříve jsme neměli žádný způsob, jak to měřit. Byl to obrovský slepý bod, který někteří lidé zneužívali" .

Přesnost: 100% v testování

Při testování identifikoval postup Gaussian Probing modelové variace specializované na generování CSAM se 100procentní přesností . Výzkumníci zjistili, že Gaussian Probing spolehlivě rozlišuje neškodnou a škodlivou specializaci, na rozdíl od metod založených na surových vahách, které se mohou spoléhat na náhodné artefakty tréninku spíše než na smysluplný obsahový signál .

Technika se také ukázala jako účinná za realistických omezení, což naznačuje, že by mohla být nasazena ve velkém měřítku na platformách jako Hugging Face nebo Civitai, kde uživatelé nahrávají LoRA adaptéry .

Výzkum byl spoluprací mezi doktorandem MIT Vinithem Suriyakumarem a docenty Ashiou Wilson a Marzyeh Ghassemi, spolu s výzkumníky z Thorn, včetně Dr. Rebeccy Portnoff .

Právní paradox, který Gaussian Probing řeší

Standardní bezpečnostní audit AI se opírá o přímočarý proces: model se vyzve škodlivými vstupy a zkoumají se výstupy. V případě CSAM je to legálně nemožné. Ve Spojených státech je nelegální takový obsah generovat, bez ohledu na záměr .

Gaussian Probing tento paradox řeší tím, že vyhodnocuje schopnost modelu produkovat CSAM čistě na základě interních aktivací, aniž by kdy generoval výstupní obrázek. Jak uvádí oznámení MIT: „Jejich technika zkoumá, jak se vnitřní fungování modelu mění, když je doladěn s CSAM – aniž by bylo potřeba vidět jakékoli obrázky" .

Tato metoda také obchází etický problém vystavení bezpečnostních výzkumníků traumatizujícímu materiálu, protože při testování nevyžaduje prohlížení žádných CSAM snímků .

Rostoucí krize AI-generovaného CSAM

Technika přichází v době, kdy objem AI-generovaného CSAM exploduje. Klíčové statistiky z autoritativních zdrojů zahrnují:

• NCMEC (Národní centrum pro pohřešované a zneužívané děti) obdrželo v roce 2025 více než 1,5 milionu hlášení o AI-generovaném CSAM, což je dramatický nárůst z 67 000 za celý rok 2024 . To představuje zhruba 22násobný meziroční nárůst.
• Jen za první polovinu roku 2025 obdrželo NCMEC 485 000 hlášení o CSAM souvisejícím s AI, přičemž tyto materiály nyní nahlašuje asi 35 technologických společností .
• Internet Watch Foundation (IWF) posoudila v roce 2025 8 029 AI-generovaných obrázků a videí jako realisticky zobrazující zneužívání dětí . Ačkoli AI CSAM stále představuje relativně malý podíl z celkového hlášeného materiálu, je popisován jako „rozšířený a rostoucí" co do rozsahu, sofistikovanosti a dostupnosti .
• Evropský parlament uvedl, že rok 2025 přinesl „enormní nárůst" AI-generovaného CSAM, přičemž primárním vektorem jsou open-source text-to-image modely .
• NCMEC zaznamenalo 1 325% nárůst hlášení zahrnujících generativní AI pouze mezi lety 2023 a 2024 .

Realistický AI video obsah v plném pohybu se stal běžným. V roce 2025 IWF identifikovala 3 443 AI-generovaných videí se zneužíváním dětí, přičemž 65 % spadalo do kategorie A – nejzávažnějšího materiálu podle britské legislativy .

Co to znamená pro bezpečnost AI a ochranu dětí

Gaussian Probing vyplňuje kritickou mezeru v sadě nástrojů pro bezpečnost AI. Současná obrana proti AI-generovanému CSAM se primárně spoléhá na filtrování vstupů, výstupů a screening tréninkových dat . Jak ale ukázal výzkum, „znovuzavedení konceptu je možné prostřednictvím dolaďování, i když je filtrování perfektní", což znamená, že současné filtrační metody nabízejí „omezenou ochranu modelům s uzavřenými váhami a žádnou ochranu modelům s otevřenými váhami" .

Tím, že umožňuje platformám detekovat škodlivé dolaďované modely dříve, než jsou široce distribuovány, by Gaussian Probing mohl umožnit platformám jako Hugging Face a Civitai prověřovat nahrané LoRA adaptéry, aniž by se uchylovaly k nelegálnímu generování obsahu .

Prozatím tato technika poskytuje škálovatelnou, negenerativní alternativu pro hodnocení bezpečnosti modelů v oblastech s vysokým rizikem, kde je generování legálně omezeno – nástroj, který tato oblast naléhavě potřebovala, zatímco krize AI-generovaného CSAM akceleruje.