Gaussian Probing: Ny AI-sikkerhetsteknikk oppdager CSAM-modeller uten å generere et eneste bilde

Forskere ved MIT, Boston University og barnevernorganisasjonen Thorn har utviklet en teknikk kalt Gaussian probing som kan avgjøre om en generativ KI-modell er finjustert for å produsere overgrepsmateriale av barn (CSAM) – uten å generere et eneste bilde . Metoden, som ble presentert som en spotlight-artikkel på workshopen "Trustworthy AI for Good" under International Conference on Machine Learning, representerer et gjennombrudd innen KI-sikkerhetsrevisjon for innhold som er så skadelig at selv testing er ulovlig .

Hva er Gaussian probing?

Gaussian probing er en ikke-generativ revisjonsmetode som oppdager om en generativ KI-modell har blitt spesialisert gjennom finjustering (fine-tuning) for å produsere CSAM . Teknikken fokuserer spesifikt på Low-Rank Adaptation (LoRA), en populær og effektiv finjusteringsmetode som lar brukere spesialisere en basismodell som Stable Diffusion for en bestemt oppgave uten å trene hele modellen på nytt . Ondsinnede aktører har utnyttet LoRA-tilpasninger for å lage modellvarianter som kan produsere CSAM av høy kvalitet .

I stedet for å spørre hva den tilpassede modellen genererer som et utdata, spør Gaussian probing hvordan tilpasningen endrer modellens interne responsprofil i diffusjonsprosessens naturlige Gaussiske tilstandsrom .

Hvordan fungerer det?

Metoden måler hvordan en LoRA-tilpasning funksjonelt forstyrrer modellens interne representasjoner. Konkret mates et referanseensemble av tilfeldige Gaussiske latente tilstander gjennom modellens diffusjonsprosess, og man observerer hvordan de skjulte aktiveringene endres .

Det sentrale matematiske objektet er en "probefunksjonal" som beregner den gjennomsnittlige skjulte representasjonen over diffusjonstrinn for et sett med Gaussiske støyinndata, og deretter samler disse til en egenskapsvektor som karakteriserer tilpasningens effekt . En klassifikator trenes deretter på disse egenskapsvektorene for å skille skadelige (CSAM-spesialiserte) fra godartede tilpasninger.

Som hovedforfatter Vinith Suriyakumar, en MIT-student, forklarte: "Før dette hadde vi ingen måte å måle dette på. Det var en enorm blindflekk som noen utnyttet" .

Nøyaktighet: 100% i testing

I testing identifiserte Gaussian probing-prosedyren modellvarianter som var spesialisert for å generere CSAM med 100 prosent nøyaktighet . Forskerne fant at Gaussian probing pålitelig skiller godartede fra skadelige spesialiseringer, i motsetning til råvektsbaserte metoder som kan være avhengige av tilfeldige treningsartefakter i stedet for meningsfylt innholdssignal .

Teknikken viste seg også effektiv under realistiske forhold, noe som tyder på at den kan tas i bruk i stor skala på plattformer som Hugging Face eller Civitai, der brukere laster opp LoRA-tilpasninger .

Forskningen var et samarbeid mellom MIT-student Vinith Suriyakumar og førsteamanuensisene Ashia Wilson og Marzyeh Ghassemi, sammen med forskere fra Thorn, inkludert Dr. Rebecca Portnoff .

Det juridiske paradokset Gaussian probing løser

Standard KI-sikkerhetsrevisjon er avhengig av en enkel prosess: prompte en modell med skadelige inndata og inspisere utdataene. For CSAM er dette juridisk umulig. Det er ulovlig i USA å generere slikt innhold, uavhengig av hensikt .

Gaussian probing løser dette paradokset ved å evaluere modellens evne til å produsere CSAM basert utelukkende på interne aktiveringer, uten noen gang å generere et utdatabilde. Som MIT-kunngjøringen bemerker: "Teknikken deres undersøker hvordan de indre mekanismene i en modell endres når den finjusteres med CSAM – uten å måtte se noen bilder" .

Metoden unngår også det etiske problemet med å eksponere sikkerhetsforskere for traumatisk materiale, da den ikke krever at noen CSAM-bilder blir sett under testing .

Den voksende krisen med KI-generert CSAM

Teknikken kommer på et tidspunkt da omfanget av KI-generert CSAM eksploderer. Viktige statistikker fra autoritative kilder inkluderer:

• NCMEC (National Center for Missing and Exploited Children) mottok mer enn 1,5 millioner rapporter om KI-generert CSAM i 2025, en dramatisk økning fra 67 000 i hele 2024 . Dette representerer en omtrent 22-dobling fra år til år.
• I ** første halvdel av 2025 alene** mottok NCMEC 485 000 rapporter om KI-relatert CSAM, med omtrent 35 teknologiselskaper som nå rapporterer slikt materiale .
• Internet Watch Foundation (IWF) vurderte 8 029 KI-genererte bilder og videoer som viser realistisk seksuelt misbruk av barn i 2025 . Selv om KI CSAM fortsatt utgjør en relativt liten andel av totalt rapportert materiale, beskrives det som "utbredt og voksende" i omfang, sofistikering og tilgjengelighet .
• Europaparlamentet bemerket at 2025 så en "enorm økning" i KI-generert CSAM, med åpne tekst-til-bilde-modeller som en primær vektor .
• NCMEC rapporterte en 1 325% økning i rapporter som involverer generativ KI mellom 2023 og 2024 alene .

Realistisk full-bevegelse KI-videoinnhold har blitt vanlig. I 2025 identifiserte IWF 3 443 KI-genererte videoer med seksuelt misbruk av barn, hvor 65% ble kategorisert under kategori A – det mest alvorlige materialet under britisk lovgivning .

Hva dette betyr for KI-sikkerhet og barnevern

Gaussian probing fyller et kritisk gap i KI-sikkerhetsverktøykassen. Nåværende forsvar mot KI-generert CSAM er først og fremst avhengig av inndatafiltrering, utdatafiltrering og screening av treningsdata . Men som forskning har vist, "gjeninnføring av et konsept er mulig via finjustering selv om filtreringen er perfekt," noe som betyr at nåværende filtreringsmetoder tilbyr "begrenset beskyttelse for lukkede vektmodeller og ingen beskyttelse for åpne vektmodeller" .

Ved å gjøre det mulig for plattformer å oppdage skadelige finjusterte modeller før de distribueres bredt, kan Gaussian probing tillate plattformer som Hugging Face og Civitai å screene opplastede LoRA-tilpasninger uten å ty til ulovlig innholdsgenerering .

Foreløpig tilbyr teknikken et skalerbart, ikke-generativt alternativ for å evaluere modellsikkerhet i høyrisikodomener der generering er juridisk begrenset – et verktøy feltet sårt har trengt ettersom krisen med KI-generert CSAM akselererer.