Gaussian Probing: AI-säkerhetstekniken som avslöjar CSAM-modeller utan att generera en enda bild

Forskare vid MIT, Boston University och den barnrättsorienterade organisationen Thorn har utvecklat en teknik som kallas Gaussian probing – en metod som avgör om en generativ AI-modell har finjusterats för att producera sexuellt övergreppsmaterial (CSAM) – utan att någonsin generera en bild . Metoden presenterades som en spotlight-artikel vid workshopen "Trustworthy AI for Good" under International Conference on Machine Learning och utgör ett genombrott för säkerhetsgranskning av AI inom ett område där innehållet är så skadligt att även testning är olaglig .

Vad är Gaussian probing?

Gaussian probing är en icke-generativ granskningsmetod som upptäcker huruvida en generativ AI-modell specialiserats via finjustering för att skapa CSAM . Tekniken fokuserar specifikt på Low-Rank Adaptation (LoRA), en populär och effektiv finjusteringsmetod som låter användare specialisera en basmodell som Stable Diffusion för en specifik uppgift utan att träna om hela modellen . Oseriösa aktörer har utnyttjat LoRA-anpassningar för att skapa modellvarianter som kan producera högkvalitativt CSAM .

I stället för att fråga vad den anpassade modellen genererar som utbildbild, undersöker Gaussian probing hur anpassningen förändrar modellens interna responsprofil i det Gaussiska tillståndsrum som diffusionsprocessen arbetar i .

Hur fungerar det?

Metoden mäter hur en LoRA-anpassning funktionellt stör modellens interna representationer. Tekniken matar en ensemble av slumpmässiga Gaussiska latenta tillstånd genom modellens diffusionsprocess och observerar hur de dolda aktiveringarna förändras .

Det centrala matematiska objektet är en "prob-funktional" som beräknar den genomsnittliga dolda representationen över diffusionstidssteg för en uppsättning Gaussiska brusinsignaler. Dessa aggregeras sedan till en egenskapsvektor som karaktäriserar anpassningens effekt . En klassificerare tränas sedan på dessa egenskapsvektorer för att skilja skadliga (CSAM-specialiserade) från godartade anpassningar.

Som huvudförfattaren Vinith Suriyakumar, doktorand vid MIT, förklarade: "Tidigare hade vi inget sätt att mäta detta. Det var en enorm blind fläck som vissa utnyttjade" .

Träffsäkerhet: 100 % i tester

I testerna identifierade Gaussian probing modellvarianter som specialiserats för att generera CSAM med 100 procents träffsäkerhet . Forskarna fann att metoden på ett tillförlitligt sätt skiljer skadlig från godartad specialisering, till skillnad från metoder baserade på råa vikter som kan förlita sig på tillfälliga träningsartefakter snarare än meningsfulla innehållssignaler .

Tekniken visade sig också effektiv under realistiska begränsningar, vilket antyder att den kan användas i stor skala på plattformar som Hugging Face eller Civitai där användare laddar upp LoRA-anpassningar .

Forskningen var ett samarbete mellan MIT-doktoranden Vinith Suriyakumar och docenterna Ashia Wilson och Marzyeh Ghassemi, tillsammans med forskare från Thorn, inklusive Dr. Rebecca Portnoff .

Det juridiska dilemmat som Gaussian probing löser

Standardmetoder för AI-säkerhetsgranskning bygger på en enkel process: mata modellen med skadliga instruktioner och granska utdatan. För CSAM är detta juridiskt omöjligt – det är olagligt i USA att generera sådant innehåll, oavsett avsikt .

Gaussian probing löser detta dilemma genom att utvärdera modellens förmåga att producera CSAM baserat enbart på interna aktiveringar, utan att någonsin generera en utbildbild. Som MIT:s tillkännagivande konstaterar: "Deras teknik undersöker hur en modells inre arbete förändras när den finjusteras med CSAM – utan att behöva se några bilder" .

Metoden undviker också det etiska problemet med att exponera säkerhetsforskare för traumatiskt material, eftersom den inte kräver att några CSAM-bilder visas under testningen .

Den växande krisen med AI-genererat CSAM

Tekniken kommer i en tid då omfattningen av AI-genererat CSAM exploderar. Viktiga statistik från auktoritativa källor inkluderar:

• NCMEC (National Center for Missing and Exploited Children) tog emot mer än 1,5 miljoner rapporter om AI-genererat CSAM under 2025 – en dramatisk ökning från 67 000 under hela 2024 . Detta representerar en ungefär 22-faldig ökning jämfört med föregående år.
• Under första halvåret 2025 tog NCMEC emot 485 000 rapporter om AI-relaterat CSAM, och cirka 35 teknikföretag rapporterar nu sådant material .
• Internet Watch Foundation (IWF) bedömde 8 029 AI-genererade bilder och videor som visande realistiska sexuella övergrepp mot barn under 2025 . Även om AI-CSAM fortfarande utgör en relativt liten andel av det totala rapporterade materialet, beskrivs det som "omfattande och växande" i skala, sofistikering och tillgänglighet .
• Europaparlamentet noterade att 2025 såg en "enorm ökning" av AI-genererat CSAM, med öppen källkodsmodeller för text-till-bild som en primär vektor .
• NCMEC rapporterade en 1 325-procentig ökning av rapporter som involverar generativ AI mellan 2023 och 2024 .

Realistiskt AI-videoinnehåll i full rörelse har blivit vanligt. Under 2025 identifierade IWF 3 443 AI-genererade videor med sexuella övergrepp mot barn, varav 65 % kategoriserades som kategori A – det allvarligaste materialet enligt brittisk lagstiftning .

Vad detta betyder för AI-säkerhet och barnskydd

Gaussian probing fyller en kritisk lucka i AI-säkerhetsverktygslådan. Nuvarande försvar mot AI-genererat CSAM bygger främst på filtrering av insignaler, utsignaler och träningsdata . Men som forskning visat är "återinförande av ett koncept möjligt via finjustering även om filtreringen är perfekt", vilket innebär att nuvarande filtreringsmetoder erbjuder "begränsat skydd för slutna modeller och inget skydd för öppna modeller" .

Genom att göra det möjligt för plattformar att upptäcka skadliga finjusterade modeller innan de sprids brett, skulle Gaussian probing kunna låta plattformar som Hugging Face och Civitai screena uppladdade LoRA-anpassningar utan att ta till olaglig innehållsgenerering .

För närvarande erbjuder tekniken en skalbar, icke-generativ metod för att utvärdera modellsäkerhet inom högriskområden där generering är juridiskt begränsad – ett verktyg som området har haft stort behov av i takt med att krisen med AI-genererat CSAM accelererar.