Gaussian Probing: Ny metode opdager AI-modeller, der er finjusteret til at skabe børnemisbrugsmateriale – uden at generere et enkelt billede

Forskere ved MIT, Boston University og børnesikkerhedsorganisationen Thorn har udviklet en teknik kaldet Gaussian probing, der kan afgøre, om en generativ AI-model er blevet finjusteret til at producere børnemisbrugsmateriale (CSAM) – uden nogensinde at generere et enkelt billede . Metoden, der blev præsenteret som et spotlight-paper på workshoppen "Trustworthy AI for Good" under den internationale maskinlæringskonference (ICML), repræsenterer et gennembrud inden for AI-sikkerhedsrevision af indhold, der er så skadeligt, at selv testning af det er ulovligt .

Hvad er Gaussian probing?

Gaussian probing er en ikke-generativ revisionsmetode, der opdager, om en generativ AI-model er blevet specialiseret via finjustering til at producere CSAM . Teknikken fokuserer specifikt på Low-Rank Adaptation (LoRA), en populær og effektiv finjusteringsmetode, der gør det muligt for brugere at specialisere en basismodel som Stable Diffusion til en bestemt opgave uden at genoptræne hele modellen . Ondsindede aktører har udnyttet LoRA-tilpasninger til at skabe modelvarianter, der kan producere CSAM af høj kvalitet .

I stedet for at spørge, hvad den tilpassede model genererer som et outputbillede, undersøger Gaussian probing, hvordan tilpasningen ændrer modellens interne responsprofil på diffusionsprocessens oprindelige Gaussiske tilstandsrum .

Hvordan fungerer det?

Metoden fungerer ved at måle, hvordan en LoRA-tilpasning funktionelt forstyrrer modellens interne repræsentationer. Konkret føder den et referenceensemble af tilfældige Gaussiske latente tilstande gennem modellens diffusionsproces og observerer, hvordan de skjulte aktiveringer ændrer sig .

Det centrale matematiske objekt er en "probefunktionel", der beregner den gennemsnitlige skjulte repræsentation på tværs af diffusionstrin for et sæt af Gaussiske støjinput og aggregerer disse til en feature-vektor, der karakteriserer tilpasningens effekt . En klassifikator trænes derefter på disse feature-vektorer til at skelne skadelige (CSAM-specialiserede) fra godartede tilpasninger.

Som hovedforfatter Vinith Suriyakumar, en MIT-kandidatstuderende, forklarede: "Før havde vi ingen måde at måle dette på. Det var en kæmpe blind vinkel, som nogle mennesker udnyttede" .

Præcision: 100 % i test

I test identificerede Gaussian probing-proceduren modelvariationer, der var specialiseret til at generere CSAM, med 100 procent præcision . Forskerne fandt, at Gaussian probing pålideligt adskiller godartet fra skadelig specialisering, i modsætning til metoder baseret på råvægte, der kan være afhængige af tilfældige træningsartefakter i stedet for meningsfulde indholdssignaler .

Teknikken viste sig også at være effektiv under realistiske begrænsninger, hvilket tyder på, at den kan implementeres i stor skala på platforme som Hugging Face eller Civitai, hvor brugere uploader LoRA-tilpasninger .

Forskningen var et samarbejde mellem MIT-kandidatstuderende Vinith Suriyakumar og lektorerne Ashia Wilson og Marzyeh Ghassemi sammen med forskere fra Thorn, herunder Dr. Rebecca Portnoff .

Det juridiske dilemma, Gaussian probing løser

Standard AI-sikkerhedsrevision er afhængig af en enkel proces: man giver en model skadelige input og inspicerer outputtene. For CSAM er dette juridisk umuligt. Det er ulovligt i USA at generere sådant indhold, uanset hensigt .

Gaussian probing løser dette dilemma ved at evaluere modellens kapacitet til at producere CSAM udelukkende baseret på interne aktiveringer, uden nogensinde at generere et outputbillede. Som MITs meddelelse bemærker: "Deres teknik undersøger, hvordan de indre arbejdsgange i en model ændres, når den finjusteres med CSAM – uden at have brug for at se nogen billeder" .

Denne metode undgår også det etiske problem med at udsætte sikkerhedsforskere for traumatisk materiale, da den ikke kræver, at nogen CSAM-billeder ses under testning .

Den voksende krise med AI-genereret CSAM

Teknikken kommer på et tidspunkt, hvor omfanget af AI-genereret CSAM eksploderer. Nøglestatistikker fra autoritative kilder inkluderer:

• NCMEC (National Center for Missing and Exploited Children) modtog mere end 1,5 millioner rapporter om AI-genereret CSAM i 2025, en dramatisk stigning fra 67.000 i hele 2024 . Dette repræsenterer en cirka 22-dobling år-over-år.
• Alene i første halvdel af 2025 modtog NCMEC 485.000 rapporter om AI-relateret CSAM, hvor omkring 35 teknologivirksomheder nu rapporterer sådant materiale .
• Internet Watch Foundation (IWF) vurderede 8.029 AI-genererede billeder og videoer som værende realistisk børnemisbrugsmateriale i 2025 . Selvom AI-CSAM stadig udgør en relativt lille andel af det samlede rapporterede materiale, beskrives det som "udbredt og voksende" i omfang, sofistikering og tilgængelighed .
• Europa-Parlamentet bemærkede, at 2025 så en "enorm stigning" i AI-genereret CSAM, hvor open source-tekst-til-billede-modeller var en primær vektor .
• NCMEC rapporterede en 1.325 % stigning i rapporter, der involverer generativ AI, alene mellem 2023 og 2024 .

Realistisk AI-videoindhold med fuld bevægelse er blevet almindeligt. I 2025 identificerede IWF 3.443 AI-genererede videoer med børnemisbrugsmateriale, hvor 65 % blev kategoriseret under kategori A – det mest alvorlige materiale i henhold til britisk lovgivning .

Hvad dette betyder for AI-sikkerhed og børnebeskyttelse

Gaussian probing udfylder et kritisk hul i AI-sikkerhedsværktøjskassen. Nuværende forsvar mod AI-genereret CSAM er primært afhængige af inputfiltrering, outputfiltrering og screening af træningsdata . Men som forskning har vist, er "genindførelse af et koncept mulig via finjustering, selvom filtrering er perfekt", hvilket betyder, at nuværende filtreringsmetoder tilbyder "begrænset beskyttelse til lukkede vægtmodeller og ingen beskyttelse til åbne vægtmodeller" .

Ved at gøre det muligt for platforme at opdage skadelige finjusterede modeller, før de distribueres bredt, kan Gaussian probing give platforme som Hugging Face og Civitai mulighed for at screene uploadede LoRA-tilpasninger uden at ty til ulovlig indholdsgenerering .

Foreløbig tilbyder teknikken et skalerbart, ikke-generativt alternativ til evaluering af modelsikkerhed i højrisikoområder, hvor generation er juridisk begrænset – et værktøj, som feltet længe har haft brug for, mens krisen med AI-genereret CSAM accelererer.