Gaussian Probing: il metodo rivoluzionario che individua i modelli AI per CSAM senza produrre immagini
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output. La tecnica risolve un paradosso legale critico: negli Stati Uniti generare CSAM per testare un mode...
Pubblicato daModificato con DeepSeek-V4-FlashImmagini generate con GPT Image 1.5
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output.
La tecnica risolve un paradosso legale critico: negli Stati Uniti generare CSAM per testare un modello è esso stesso illegale.
La crisi che affronta è in accelerazione: NCMEC ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM legate all’AI nel 2025, un aumento di 22 volte rispetto alle 67.000 del 2024.
Search & fact-check with cited sources for What is the Gaussian probing technique developed by MIT, Boston University, and Thorn, how does iGaussian probing analyzes how a LoRA adaptor changes a model's internal activation patterns, detecting CSAM specialization without generating any output images.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What is the Gaussian probing technique developed by MIT, Boston University, and Thorn, how does i. Article summary: ## Gaussian Probing Technique. Topic tags: general, government, education, academic, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evidence.
openai.com
Ricercatori del MIT, della Boston University e di Thorn, organizzazione no-profit per la sicurezza dei minori, hanno sviluppato una tecnica chiamata Gaussian probing in grado di determinare se un modello generativo di intelligenza artificiale è stato messo a punto per produrre materiale pedopornografico (CSAM) — senza mai generare una singola immagine . Il metodo, presentato come spotlight paper al workshop "Trustworthy AI for Good" durante la Conferenza Internazionale sull'Apprendimento Automatico (ICML), rappresenta un punto di svolta nell'auditing di sicurezza dell'AI per contenuti talmente dannosi che persino testarli è illegale .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Gaussian Probing: il metodo rivoluzionario che individua i modelli AI per CSAM senza produrre immagini"?
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output.
What are the key points to validate first?
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output. La tecnica risolve un paradosso legale critico: negli Stati Uniti generare CSAM per testare un modello è esso stesso illegale.
What should I do next in practice?
La crisi che affronta è in accelerazione: NCMEC ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM legate all’AI nel 2025, un aumento di 22 volte rispetto alle 67.000 del 2024.
Gaussian Probing: il metodo rivoluzionario che individua i modelli AI per CSAM senza produrre immagini
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output. La tecnica risolve un paradosso legale critico: negli Stati Uniti generare CSAM per testare un mode...
Pubblicato daModificato con DeepSeek-V4-FlashImmagini generate con GPT Image 1.5
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output.
La tecnica risolve un paradosso legale critico: negli Stati Uniti generare CSAM per testare un modello è esso stesso illegale.
La crisi che affronta è in accelerazione: NCMEC ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM legate all’AI nel 2025, un aumento di 22 volte rispetto alle 67.000 del 2024.
Search & fact-check with cited sources for What is the Gaussian probing technique developed by MIT, Boston University, and Thorn, how does iGaussian probing analyzes how a LoRA adaptor changes a model's internal activation patterns, detecting CSAM specialization without generating any output images.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What is the Gaussian probing technique developed by MIT, Boston University, and Thorn, how does i. Article summary: ## Gaussian Probing Technique. Topic tags: general, government, education, academic, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evidence.
openai.com
Ricercatori del MIT, della Boston University e di Thorn, organizzazione no-profit per la sicurezza dei minori, hanno sviluppato una tecnica chiamata Gaussian probing in grado di determinare se un modello generativo di intelligenza artificiale è stato messo a punto per produrre materiale pedopornografico (CSAM) — senza mai generare una singola immagine . Il metodo, presentato come spotlight paper al workshop "Trustworthy AI for Good" durante la Conferenza Internazionale sull'Apprendimento Automatico (ICML), rappresenta un punto di svolta nell'auditing di sicurezza dell'AI per contenuti talmente dannosi che persino testarli è illegale .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Gaussian Probing: il metodo rivoluzionario che individua i modelli AI per CSAM senza produrre immagini"?
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output.
What are the key points to validate first?
Gaussian Probing individua modelli AI addestrati per produrre materiale pedopornografico (CSAM) analizzando come gli adattatori LoRA perturbano le attivazioni neurali interne, senza mai generare un’immagine in output. La tecnica risolve un paradosso legale critico: negli Stati Uniti generare CSAM per testare un modello è esso stesso illegale.
What should I do next in practice?
La crisi che affronta è in accelerazione: NCMEC ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM legate all’AI nel 2025, un aumento di 22 volte rispetto alle 67.000 del 2024.
Il Gaussian probing è un metodo di auditing non generativo che rileva se un modello di AI generativa è stato specializzato tramite fine-tuning per produrre CSAM . La tecnica si concentra specificamente sulla Low-Rank Adaptation (LoRA), un metodo di fine-tuning popolare ed efficiente che consente di specializzare un modello di base come Stable Diffusion per un compito specifico senza dover riaddestrare l'intero modello . Attori malintenzionati hanno sfruttato gli adattatori LoRA per creare varianti di modello in grado di produrre CSAM di alta qualità .
Invece di chiedersi cosa rende il modello adattato come immagine di output, il Gaussian probing indaga come l'adattatore modifica il profilo di risposta interno del modello nello spazio degli stati gaussiani nativi del processo di diffusione .
Come funziona?
Il metodo funziona misurando come un adattatore LoRA perturba funzionalmente le rappresentazioni interne del modello. Nello specifico, fornisce un insieme di riferimento di stati latenti gaussiani casuali attraverso il processo di diffusione del modello e osserva come cambiano le attivazioni nascoste .
L'oggetto matematico centrale è un "funzionale sonda" che calcola la rappresentazione nascosta media attraverso i passi temporali di diffusione per un insieme di input di rumore gaussiano, per poi aggregarli in un vettore di caratteristiche che descrive l'effetto dell'adattatore . Un classificatore viene quindi addestrato su questi vettori di caratteristiche per distinguere gli adattatori dannosi (specializzati per CSAM) da quelli benigni.
Come ha spiegato Vinith Suriyakumar, autore principale e dottorando del MIT: "Prima, non avevamo modo di misurarlo. Era un enorme punto cieco di cui alcuni approfittavano" .
Accuratezza: 100% nei test
Nei test, la procedura di Gaussian probing ha identificato le varianti di modello specializzate per generare CSAM con una precisione del 100%. I ricercatori hanno scoperto che il Gaussian probing distingue in modo affidabile la specializzazione benigna da quella dannosa, a differenza dei metodi di base basati sui pesi grezzi che possono fare affidamento su artefatti di addestramento incidentali piuttosto che su un significativo segnale di contenuto .
La tecnica si è dimostrata efficace anche in condizioni realistiche, suggerendo che potrebbe essere implementata su larga scala su piattaforme come Hugging Face o Civitai, dove gli utenti caricano adattatori LoRA .
La ricerca è stata una collaborazione tra Vinith Suriyakumar, studente laureato del MIT, e i professori associati Ashia Wilson e Marzyeh Ghassemi, insieme a ricercatori di Thorn, tra cui la dott.ssa Rebecca Portnoff .
Il paradosso legale risolto dal Gaussian probing
L'auditing standard per la sicurezza dell'AI si basa su un processo semplice: sottoporre un modello a input dannosi e ispezionare gli output. Per il CSAM, questo è legalmente impossibile. Negli Stati Uniti è illegale generare tali contenuti, indipendentemente dall'intenzione .
Il Gaussian probing risolve questo paradosso valutando la capacità del modello di produrre CSAM basandosi esclusivamente sulle attivazioni interne, senza mai generare un'immagine in output. Come sottolinea l'annuncio del MIT, "La loro tecnica esamina come cambiano i meccanismi interni di un modello quando viene messo a punto con CSAM — senza bisogno di vedere alcuna immagine" .
Questo metodo evita anche il problema etico di esporre i ricercatori di sicurezza a materiale traumatico, poiché non richiede la visualizzazione di immagini CSAM durante i test .
La crisi crescente del CSAM generato dall'AI
La tecnica arriva in un momento in cui la scala del CSAM generato dall'AI sta esplodendo. Le statistiche chiave provenienti da fonti autorevoli includono:
NCMEC (National Center for Missing and Exploited Children) ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM generato dall'AI nel 2025, un aumento drammatico rispetto alle 67.000 in tutto il 2024. Si tratta di un incremento di circa 22 volte anno su anno.
Solo nella prima metà del 2025, NCMEC ha ricevuto 485.000 segnalazioni di CSAM legato all'AI, con circa 35 aziende tecnologiche che ora segnalano tale materiale .
La Internet Watch Foundation (IWF) ha valutato 8.029 immagini e video generati dall'AI come rappresentanti abusi sessuali su minori realistici nel 2025 . Sebbene il CSAM generato dall'AI rappresenti ancora una percentuale relativamente piccola del materiale totale segnalato, viene descritto come "diffuso e in crescita" in termini di scala, sofisticatezza e accessibilità .
Il Parlamento Europeo ha notato che il 2025 ha visto un "enorme aumento" del CSAM generato dall'AI, con i modelli text-to-image open source che rappresentano un vettore primario .
NCMEC ha riportato un aumento del 1.325% delle segnalazioni relative all'AI generativa tra il 2023 e il solo 2024 .
I video AI realistici a figura intera sono diventati comuni. Nel 2025, l'IWF ha identificato 3.443 video di abusi sessuali su minori generati dall'AI, con il 65% classificato nella Categoria A — il materiale più grave secondo la legislazione del Regno Unito .
Cosa significa per la sicurezza dell'AI e la protezione dei minori
Il Gaussian probing colma una lacuna critica nel kit di strumenti per la sicurezza dell'AI. Le attuali difese contro il CSAM generato dall'AI si basano principalmente sul filtraggio degli input, degli output e sullo screening dei dati di addestramento . Ma come ha dimostrato la ricerca, "reintrodurre un concetto è possibile tramite fine-tuning anche se il filtraggio è perfetto", il che significa che gli attuali metodi di filtraggio offrono "protezione limitata ai modelli a pesi chiusi e nessuna protezione ai modelli a pesi aperti" .
Consentendo alle piattaforme di rilevare modelli dannosi messi a punto prima che vengano ampiamente distribuiti, il Gaussian probing potrebbe permettere a piattaforme come Hugging Face e Civitai di schermare gli adattatori LoRA caricati senza ricorrere alla generazione illegale di contenuti .
Per ora, la tecnica fornisce un'alternativa scalabile e non generativa per valutare la sicurezza dei modelli in domini ad alto rischio in cui la generazione è legalmente vincolata — uno strumento di cui il settore aveva un disperato bisogno mentre la crisi del CSAM generato dall'AI accelera.
[PDF] AI child sexual abuse material through the eyes of our Analysts
Il Gaussian probing è un metodo di auditing non generativo che rileva se un modello di AI generativa è stato specializzato tramite fine-tuning per produrre CSAM . La tecnica si concentra specificamente sulla Low-Rank Adaptation (LoRA), un metodo di fine-tuning popolare ed efficiente che consente di specializzare un modello di base come Stable Diffusion per un compito specifico senza dover riaddestrare l'intero modello . Attori malintenzionati hanno sfruttato gli adattatori LoRA per creare varianti di modello in grado di produrre CSAM di alta qualità .
Invece di chiedersi cosa rende il modello adattato come immagine di output, il Gaussian probing indaga come l'adattatore modifica il profilo di risposta interno del modello nello spazio degli stati gaussiani nativi del processo di diffusione .
Come funziona?
Il metodo funziona misurando come un adattatore LoRA perturba funzionalmente le rappresentazioni interne del modello. Nello specifico, fornisce un insieme di riferimento di stati latenti gaussiani casuali attraverso il processo di diffusione del modello e osserva come cambiano le attivazioni nascoste .
L'oggetto matematico centrale è un "funzionale sonda" che calcola la rappresentazione nascosta media attraverso i passi temporali di diffusione per un insieme di input di rumore gaussiano, per poi aggregarli in un vettore di caratteristiche che descrive l'effetto dell'adattatore . Un classificatore viene quindi addestrato su questi vettori di caratteristiche per distinguere gli adattatori dannosi (specializzati per CSAM) da quelli benigni.
Come ha spiegato Vinith Suriyakumar, autore principale e dottorando del MIT: "Prima, non avevamo modo di misurarlo. Era un enorme punto cieco di cui alcuni approfittavano" .
Accuratezza: 100% nei test
Nei test, la procedura di Gaussian probing ha identificato le varianti di modello specializzate per generare CSAM con una precisione del 100%. I ricercatori hanno scoperto che il Gaussian probing distingue in modo affidabile la specializzazione benigna da quella dannosa, a differenza dei metodi di base basati sui pesi grezzi che possono fare affidamento su artefatti di addestramento incidentali piuttosto che su un significativo segnale di contenuto .
La tecnica si è dimostrata efficace anche in condizioni realistiche, suggerendo che potrebbe essere implementata su larga scala su piattaforme come Hugging Face o Civitai, dove gli utenti caricano adattatori LoRA .
La ricerca è stata una collaborazione tra Vinith Suriyakumar, studente laureato del MIT, e i professori associati Ashia Wilson e Marzyeh Ghassemi, insieme a ricercatori di Thorn, tra cui la dott.ssa Rebecca Portnoff .
Il paradosso legale risolto dal Gaussian probing
L'auditing standard per la sicurezza dell'AI si basa su un processo semplice: sottoporre un modello a input dannosi e ispezionare gli output. Per il CSAM, questo è legalmente impossibile. Negli Stati Uniti è illegale generare tali contenuti, indipendentemente dall'intenzione .
Il Gaussian probing risolve questo paradosso valutando la capacità del modello di produrre CSAM basandosi esclusivamente sulle attivazioni interne, senza mai generare un'immagine in output. Come sottolinea l'annuncio del MIT, "La loro tecnica esamina come cambiano i meccanismi interni di un modello quando viene messo a punto con CSAM — senza bisogno di vedere alcuna immagine" .
Questo metodo evita anche il problema etico di esporre i ricercatori di sicurezza a materiale traumatico, poiché non richiede la visualizzazione di immagini CSAM durante i test .
La crisi crescente del CSAM generato dall'AI
La tecnica arriva in un momento in cui la scala del CSAM generato dall'AI sta esplodendo. Le statistiche chiave provenienti da fonti autorevoli includono:
NCMEC (National Center for Missing and Exploited Children) ha ricevuto oltre 1,5 milioni di segnalazioni di CSAM generato dall'AI nel 2025, un aumento drammatico rispetto alle 67.000 in tutto il 2024. Si tratta di un incremento di circa 22 volte anno su anno.
Solo nella prima metà del 2025, NCMEC ha ricevuto 485.000 segnalazioni di CSAM legato all'AI, con circa 35 aziende tecnologiche che ora segnalano tale materiale .
La Internet Watch Foundation (IWF) ha valutato 8.029 immagini e video generati dall'AI come rappresentanti abusi sessuali su minori realistici nel 2025 . Sebbene il CSAM generato dall'AI rappresenti ancora una percentuale relativamente piccola del materiale totale segnalato, viene descritto come "diffuso e in crescita" in termini di scala, sofisticatezza e accessibilità .
Il Parlamento Europeo ha notato che il 2025 ha visto un "enorme aumento" del CSAM generato dall'AI, con i modelli text-to-image open source che rappresentano un vettore primario .
NCMEC ha riportato un aumento del 1.325% delle segnalazioni relative all'AI generativa tra il 2023 e il solo 2024 .
I video AI realistici a figura intera sono diventati comuni. Nel 2025, l'IWF ha identificato 3.443 video di abusi sessuali su minori generati dall'AI, con il 65% classificato nella Categoria A — il materiale più grave secondo la legislazione del Regno Unito .
Cosa significa per la sicurezza dell'AI e la protezione dei minori
Il Gaussian probing colma una lacuna critica nel kit di strumenti per la sicurezza dell'AI. Le attuali difese contro il CSAM generato dall'AI si basano principalmente sul filtraggio degli input, degli output e sullo screening dei dati di addestramento . Ma come ha dimostrato la ricerca, "reintrodurre un concetto è possibile tramite fine-tuning anche se il filtraggio è perfetto", il che significa che gli attuali metodi di filtraggio offrono "protezione limitata ai modelli a pesi chiusi e nessuna protezione ai modelli a pesi aperti" .
Consentendo alle piattaforme di rilevare modelli dannosi messi a punto prima che vengano ampiamente distribuiti, il Gaussian probing potrebbe permettere a piattaforme come Hugging Face e Civitai di schermare gli adattatori LoRA caricati senza ricorrere alla generazione illegale di contenuti .
Per ora, la tecnica fornisce un'alternativa scalabile e non generativa per valutare la sicurezza dei modelli in domini ad alto rischio in cui la generazione è legalmente vincolata — uno strumento di cui il settore aveva un disperato bisogno mentre la crisi del CSAM generato dall'AI accelera.
[PDF] AI child sexual abuse material through the eyes of our Analysts
