Gaussian Probing: il metodo rivoluzionario che individua i modelli AI per CSAM senza produrre immagini

Ricercatori del MIT, della Boston University e di Thorn, organizzazione no-profit per la sicurezza dei minori, hanno sviluppato una tecnica chiamata Gaussian probing in grado di determinare se un modello generativo di intelligenza artificiale è stato messo a punto per produrre materiale pedopornografico (CSAM) — senza mai generare una singola immagine . Il metodo, presentato come spotlight paper al workshop "Trustworthy AI for Good" durante la Conferenza Internazionale sull'Apprendimento Automatico (ICML), rappresenta un punto di svolta nell'auditing di sicurezza dell'AI per contenuti talmente dannosi che persino testarli è illegale .

Che cos'è il Gaussian probing?

Il Gaussian probing è un metodo di auditing non generativo che rileva se un modello di AI generativa è stato specializzato tramite fine-tuning per produrre CSAM . La tecnica si concentra specificamente sulla Low-Rank Adaptation (LoRA), un metodo di fine-tuning popolare ed efficiente che consente di specializzare un modello di base come Stable Diffusion per un compito specifico senza dover riaddestrare l'intero modello . Attori malintenzionati hanno sfruttato gli adattatori LoRA per creare varianti di modello in grado di produrre CSAM di alta qualità .

Invece di chiedersi cosa rende il modello adattato come immagine di output, il Gaussian probing indaga come l'adattatore modifica il profilo di risposta interno del modello nello spazio degli stati gaussiani nativi del processo di diffusione .

Come funziona?

Il metodo funziona misurando come un adattatore LoRA perturba funzionalmente le rappresentazioni interne del modello. Nello specifico, fornisce un insieme di riferimento di stati latenti gaussiani casuali attraverso il processo di diffusione del modello e osserva come cambiano le attivazioni nascoste .

L'oggetto matematico centrale è un "funzionale sonda" che calcola la rappresentazione nascosta media attraverso i passi temporali di diffusione per un insieme di input di rumore gaussiano, per poi aggregarli in un vettore di caratteristiche che descrive l'effetto dell'adattatore . Un classificatore viene quindi addestrato su questi vettori di caratteristiche per distinguere gli adattatori dannosi (specializzati per CSAM) da quelli benigni.

Come ha spiegato Vinith Suriyakumar, autore principale e dottorando del MIT: "Prima, non avevamo modo di misurarlo. Era un enorme punto cieco di cui alcuni approfittavano" .

Accuratezza: 100% nei test

Nei test, la procedura di Gaussian probing ha identificato le varianti di modello specializzate per generare CSAM con una precisione del 100% . I ricercatori hanno scoperto che il Gaussian probing distingue in modo affidabile la specializzazione benigna da quella dannosa, a differenza dei metodi di base basati sui pesi grezzi che possono fare affidamento su artefatti di addestramento incidentali piuttosto che su un significativo segnale di contenuto .

La tecnica si è dimostrata efficace anche in condizioni realistiche, suggerendo che potrebbe essere implementata su larga scala su piattaforme come Hugging Face o Civitai, dove gli utenti caricano adattatori LoRA .

La ricerca è stata una collaborazione tra Vinith Suriyakumar, studente laureato del MIT, e i professori associati Ashia Wilson e Marzyeh Ghassemi, insieme a ricercatori di Thorn, tra cui la dott.ssa Rebecca Portnoff .

Il paradosso legale risolto dal Gaussian probing

L'auditing standard per la sicurezza dell'AI si basa su un processo semplice: sottoporre un modello a input dannosi e ispezionare gli output. Per il CSAM, questo è legalmente impossibile. Negli Stati Uniti è illegale generare tali contenuti, indipendentemente dall'intenzione .

Il Gaussian probing risolve questo paradosso valutando la capacità del modello di produrre CSAM basandosi esclusivamente sulle attivazioni interne, senza mai generare un'immagine in output. Come sottolinea l'annuncio del MIT, "La loro tecnica esamina come cambiano i meccanismi interni di un modello quando viene messo a punto con CSAM — senza bisogno di vedere alcuna immagine" .

Questo metodo evita anche il problema etico di esporre i ricercatori di sicurezza a materiale traumatico, poiché non richiede la visualizzazione di immagini CSAM durante i test .

La crisi crescente del CSAM generato dall'AI

La tecnica arriva in un momento in cui la scala del CSAM generato dall'AI sta esplodendo. Le statistiche chiave provenienti da fonti autorevoli includono:

• NCMEC (National Center for Missing and Exploited Children) ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM generato dall'AI nel 2025, un aumento drammatico rispetto alle 67.000 in tutto il 2024 . Si tratta di un incremento di circa 22 volte anno su anno.
• Solo nella prima metà del 2025, NCMEC ha ricevuto 485.000 segnalazioni di CSAM legato all'AI, con circa 35 aziende tecnologiche che ora segnalano tale materiale .
• La Internet Watch Foundation (IWF) ha valutato 8.029 immagini e video generati dall'AI come rappresentanti abusi sessuali su minori realistici nel 2025 . Sebbene il CSAM generato dall'AI rappresenti ancora una percentuale relativamente piccola del materiale totale segnalato, viene descritto come "diffuso e in crescita" in termini di scala, sofisticatezza e accessibilità .
• Il Parlamento Europeo ha notato che il 2025 ha visto un "enorme aumento" del CSAM generato dall'AI, con i modelli text-to-image open source che rappresentano un vettore primario .
• NCMEC ha riportato un aumento del 1.325% delle segnalazioni relative all'AI generativa tra il 2023 e il solo 2024 .

I video AI realistici a figura intera sono diventati comuni. Nel 2025, l'IWF ha identificato 3.443 video di abusi sessuali su minori generati dall'AI, con il 65% classificato nella Categoria A — il materiale più grave secondo la legislazione del Regno Unito .

Cosa significa per la sicurezza dell'AI e la protezione dei minori

Il Gaussian probing colma una lacuna critica nel kit di strumenti per la sicurezza dell'AI. Le attuali difese contro il CSAM generato dall'AI si basano principalmente sul filtraggio degli input, degli output e sullo screening dei dati di addestramento . Ma come ha dimostrato la ricerca, "reintrodurre un concetto è possibile tramite fine-tuning anche se il filtraggio è perfetto", il che significa che gli attuali metodi di filtraggio offrono "protezione limitata ai modelli a pesi chiusi e nessuna protezione ai modelli a pesi aperti" .

Consentendo alle piattaforme di rilevare modelli dannosi messi a punto prima che vengano ampiamente distribuiti, il Gaussian probing potrebbe permettere a piattaforme come Hugging Face e Civitai di schermare gli adattatori LoRA caricati senza ricorrere alla generazione illegale di contenuti .

Per ora, la tecnica fornisce un'alternativa scalabile e non generativa per valutare la sicurezza dei modelli in domini ad alto rischio in cui la generazione è legalmente vincolata — uno strumento di cui il settore aveva un disperato bisogno mentre la crisi del CSAM generato dall'AI accelera.