Mikä on Gaussian probing?

Gaussian probing on ei-generatiivinen auditointimenetelmä, joka havaitsee, onko generatiivinen tekoälymalli erikoistettu tuottamaan CSAM-materiaalia hienosäädön (fine-tuning) avulla . Tekniikka keskittyy erityisesti Low-Rank Adaptation (LoRA) -menetelmään, joka on suosittu ja tehokas tapa erikoistaa perusmalli, kuten Stable Diffusion, tiettyyn tehtävään ilman koko mallin uudelleenkoulutusta . Haitalliset toimijat ovat käyttäneet LoRA-sovittimia luodakseen mallivariantteja, jotka pystyvät tuottamaan korkealaatuista CSAM-materiaalia .

Sen sijaan, että kysyttäisiin, mitä säädetty malli tuottaa lopputuloksena, Gaussian probing kysyy, miten sovitin muuttaa mallin sisäistä vasteprofiilia diffuusioprosessin luontaisessa Gaussisessa tilassa .

Miten se toimii?

Menetelmä mittaa, miten LoRA-sovitin toiminnallisesti häiritsee mallin sisäisiä esitysmuotoja. Käytännössä se syöttää referenssijoukon satunnaisia Gaussin latentteja tiloja mallin diffuusioprosessin läpi ja tarkkailee, miten piilokerrosten aktivaatiot muuttuvat .

Keskeinen matemaattinen työkalu on "probefunktionaali", joka laskee keskimääräisen piiloesityksen diffuusioaskelten yli Gaussisille kohinasyötteille ja kokoaa nämä ominaisuusvektoriksi, joka kuvaa sovittimen vaikutusta . Tämän jälkeen luokittelija koulutetaan erottamaan haitalliset (CSAM:iin erikoistuneet) sovittimet hyvänlaatuisista.

Kuten johtava kirjoittaja Vinith Suriyakumar, MIT:n jatko-opiskelija, selitti: "Ennen meillä ei ollut mitään keinoa mitata tätä. Se oli valtava sokea piste, jota jotkut käyttivät hyväkseen" .

Tarkkuus: 100 % testeissä

Testeissä Gaussian probing -menettely tunnisti CSAM-materiaalin tuottamiseen erikoistuneet mallivariantit 100 prosentin tarkkuudella . Tutkijat havaitsivat, että Gaussian probing erottaa luotettavasti hyvänlaatuisen erikoistumisen haitallisesta, toisin kuin raaka-painoon perustuvat perusmenetelmät, jotka saattavat luottaa satunnaisiin koulutusartefakteihin eivätkä merkityksellisiin sisältösignaaleihin .

Tekniikka osoittautui tehokkaaksi myös realistisissa olosuhteissa, mikä viittaa siihen, että sitä voitaisiin käyttää laajasti alustoilla, kuten Hugging Face tai Civitai, joilla käyttäjät lataavat LoRA-sovittimia .

Tutkimus oli yhteistyötä MIT:n jatko-opiskelija Vinith Suriyakumarin ja apulaisprofessorien Ashia Wilsonin ja Marzyeh Ghassemin sekä Thornin tutkijoiden, kuten tohtori Rebecca Portnoffin, välillä .

Gaussian probingin ratkaisema laillisuusparadoksi

Tavanomainen tekoälyn turvallisuusauditointi perustuu suoraviivaiseen prosessiin: malliin syötetään haitallisia kehotteita ja tarkastellaan tuotoksia. CSAM:n kohdalla tämä on laillisesti mahdotonta. Tällaisen sisällön tuottaminen on Yhdysvalloissa laitonta tarkoituksesta riippumatta .

Gaussian probing ratkaisee tämän paradoksin arvioimalla mallin kykyä tuottaa CSAM-materiaalia puhtaasti sisäisten aktivaatioiden perusteella, tuottamatta koskaan loppukuvaa. Kuten MIT:n tiedotteessa todetaan: "Heidän tekniikkansa tutkii, miten mallin sisäinen toiminta muuttuu, kun sitä hienosäädetään CSAM-materiaalilla – ilman että tarvitsee nähdä yhtäkään kuvaa" .

Menetelmä välttää myös eettisen ongelman, jossa turvallisuustutkijat altistuvat traumaattiselle materiaalille, koska se ei vaadi CSAM-kuvien katsomista testauksen aikana .

Tekoälyn tuottaman CSAM-materiaalin kasvava kriisi

Tekniikka tulee aikana, jolloin tekoälyn tuottaman CSAM-materiaalin määrä räjähtää. Keskeisiä tilastoja luotettavista lähteistä:

• NCMEC (National Center for Missing and Exploited Children) vastaanotti yli 1,5 miljoonaa tekoälyyn liittyvää CSAM-ilmoitusta vuonna 2025, mikä on valtava lisäys vuoden 2024 67 000 ilmoitukseen . Tämä on noin 22-kertainen vuosittainen kasvu.
• Jo vuoden 2025 ensimmäisellä puoliskolla NCMEC vastaanotti 485 000 ilmoitusta tekoälyyn liittyvästä CSAM-materiaalista, ja noin 35 teknologiayritystä raportoi nyt tällaista materiaalia .
• Internet Watch Foundation (IWF) arvioi, että 8 029 tekoälyn tuottamaa kuvaa ja videota esitti realistista lasten seksuaalista hyväksikäyttöä vuonna 2025 . Vaikka tekoälyn tuottama CSAM edustaa edelleen suhteellisen pientä osuutta kaikesta raportoidusta materiaalista, sen kuvataan olevan "laajalle levinnyttä ja kasvavaa" mittakaavaltaan, kehittyneisyydeltään ja saatavuudeltaan .
• Euroopan parlamentti totesi, että vuonna 2025 tapahtui "valtava lisäys" tekoälyn tuottamassa CSAM-materiaalissa, ja avoimen lähdekoodin teksti-kuva-mallit ovat ensisijainen väline .
• NCMEC raportoi 1 325 prosentin kasvun generatiiviseen tekoälyyn liittyvissä ilmoituksissa vuosien 2023 ja 2024 välillä .

Realistinen täysin liikkuva tekoälyvideo on yleistynyt. Vuonna 2025 IWF tunnisti 3 443 tekoälyn tuottamaa lasten seksuaalista hyväksikäyttöä esittävää videota, joista 65 % luokiteltiin A-luokkaan – vakavimpaan materiaaliin Ison-Britannian lainsäädännön mukaan .

Mitä tämä tarkoittaa tekoälyturvallisuudelle ja lastensuojelulle

Gaussian probing täyttää kriittisen aukon tekoälyn turvallisuustyökalupakissa. Nykyiset suojatoimet tekoälyn tuottamaa CSAM-materiaalia vastaan perustuvat lähinnä syötteiden suodatukseen, tuotosten suodatukseen ja koulutusdatan seulontaan . Kuten tutkimus on osoittanut, "konseptin uudelleen käyttöönotto on mahdollista hienosäädön avulla, vaikka suodatus olisi täydellistä", mikä tarkoittaa, että nykyiset suodatusmenetelmät tarjoavat "rajoitettua suojaa suljetuille malleille eivätkä suojaa avoimille malleille" .

Mahdollistamalla alustojen haitallisten hienosäädettyjen mallien havaitsemisen ennen niiden laajaa levittämistä, Gaussian probing voisi antaa alustoille, kuten Hugging Facelle ja Civitaille, keinon seuloa ladattuja LoRA-sovittimia turvautumatta laittomaan sisällöntuotantoon .

Toistaiseksi tekniikka tarjoaa skaalautuvan, ei-generatiivisen vaihtoehdon mallien turvallisuuden arviointiin erittäin riskialttiilla alueilla, joilla tuottaminen on laillisesti rajoitettua – työkalun, jota ala on kipeästi kaivannut tekoälyn tuottaman CSAM-materiaalin kriisin kiihtyessä.

Mikä on Gaussian probing?

Gaussian probing on ei-generatiivinen auditointimenetelmä, joka havaitsee, onko generatiivinen tekoälymalli erikoistettu tuottamaan CSAM-materiaalia hienosäädön (fine-tuning) avulla . Tekniikka keskittyy erityisesti Low-Rank Adaptation (LoRA) -menetelmään, joka on suosittu ja tehokas tapa erikoistaa perusmalli, kuten Stable Diffusion, tiettyyn tehtävään ilman koko mallin uudelleenkoulutusta . Haitalliset toimijat ovat käyttäneet LoRA-sovittimia luodakseen mallivariantteja, jotka pystyvät tuottamaan korkealaatuista CSAM-materiaalia .

Sen sijaan, että kysyttäisiin, mitä säädetty malli tuottaa lopputuloksena, Gaussian probing kysyy, miten sovitin muuttaa mallin sisäistä vasteprofiilia diffuusioprosessin luontaisessa Gaussisessa tilassa .

Miten se toimii?

Menetelmä mittaa, miten LoRA-sovitin toiminnallisesti häiritsee mallin sisäisiä esitysmuotoja. Käytännössä se syöttää referenssijoukon satunnaisia Gaussin latentteja tiloja mallin diffuusioprosessin läpi ja tarkkailee, miten piilokerrosten aktivaatiot muuttuvat .

Keskeinen matemaattinen työkalu on "probefunktionaali", joka laskee keskimääräisen piiloesityksen diffuusioaskelten yli Gaussisille kohinasyötteille ja kokoaa nämä ominaisuusvektoriksi, joka kuvaa sovittimen vaikutusta . Tämän jälkeen luokittelija koulutetaan erottamaan haitalliset (CSAM:iin erikoistuneet) sovittimet hyvänlaatuisista.

Kuten johtava kirjoittaja Vinith Suriyakumar, MIT:n jatko-opiskelija, selitti: "Ennen meillä ei ollut mitään keinoa mitata tätä. Se oli valtava sokea piste, jota jotkut käyttivät hyväkseen" .

Tarkkuus: 100 % testeissä

Testeissä Gaussian probing -menettely tunnisti CSAM-materiaalin tuottamiseen erikoistuneet mallivariantit 100 prosentin tarkkuudella . Tutkijat havaitsivat, että Gaussian probing erottaa luotettavasti hyvänlaatuisen erikoistumisen haitallisesta, toisin kuin raaka-painoon perustuvat perusmenetelmät, jotka saattavat luottaa satunnaisiin koulutusartefakteihin eivätkä merkityksellisiin sisältösignaaleihin .

Tekniikka osoittautui tehokkaaksi myös realistisissa olosuhteissa, mikä viittaa siihen, että sitä voitaisiin käyttää laajasti alustoilla, kuten Hugging Face tai Civitai, joilla käyttäjät lataavat LoRA-sovittimia .

Tutkimus oli yhteistyötä MIT:n jatko-opiskelija Vinith Suriyakumarin ja apulaisprofessorien Ashia Wilsonin ja Marzyeh Ghassemin sekä Thornin tutkijoiden, kuten tohtori Rebecca Portnoffin, välillä .

Gaussian probingin ratkaisema laillisuusparadoksi

Tavanomainen tekoälyn turvallisuusauditointi perustuu suoraviivaiseen prosessiin: malliin syötetään haitallisia kehotteita ja tarkastellaan tuotoksia. CSAM:n kohdalla tämä on laillisesti mahdotonta. Tällaisen sisällön tuottaminen on Yhdysvalloissa laitonta tarkoituksesta riippumatta .

Gaussian probing ratkaisee tämän paradoksin arvioimalla mallin kykyä tuottaa CSAM-materiaalia puhtaasti sisäisten aktivaatioiden perusteella, tuottamatta koskaan loppukuvaa. Kuten MIT:n tiedotteessa todetaan: "Heidän tekniikkansa tutkii, miten mallin sisäinen toiminta muuttuu, kun sitä hienosäädetään CSAM-materiaalilla – ilman että tarvitsee nähdä yhtäkään kuvaa" .

Menetelmä välttää myös eettisen ongelman, jossa turvallisuustutkijat altistuvat traumaattiselle materiaalille, koska se ei vaadi CSAM-kuvien katsomista testauksen aikana .

Tekoälyn tuottaman CSAM-materiaalin kasvava kriisi

Tekniikka tulee aikana, jolloin tekoälyn tuottaman CSAM-materiaalin määrä räjähtää. Keskeisiä tilastoja luotettavista lähteistä:

• NCMEC (National Center for Missing and Exploited Children) vastaanotti yli 1,5 miljoonaa tekoälyyn liittyvää CSAM-ilmoitusta vuonna 2025, mikä on valtava lisäys vuoden 2024 67 000 ilmoitukseen . Tämä on noin 22-kertainen vuosittainen kasvu.
• Jo vuoden 2025 ensimmäisellä puoliskolla NCMEC vastaanotti 485 000 ilmoitusta tekoälyyn liittyvästä CSAM-materiaalista, ja noin 35 teknologiayritystä raportoi nyt tällaista materiaalia .
• Internet Watch Foundation (IWF) arvioi, että 8 029 tekoälyn tuottamaa kuvaa ja videota esitti realistista lasten seksuaalista hyväksikäyttöä vuonna 2025 . Vaikka tekoälyn tuottama CSAM edustaa edelleen suhteellisen pientä osuutta kaikesta raportoidusta materiaalista, sen kuvataan olevan "laajalle levinnyttä ja kasvavaa" mittakaavaltaan, kehittyneisyydeltään ja saatavuudeltaan .
• Euroopan parlamentti totesi, että vuonna 2025 tapahtui "valtava lisäys" tekoälyn tuottamassa CSAM-materiaalissa, ja avoimen lähdekoodin teksti-kuva-mallit ovat ensisijainen väline .
• NCMEC raportoi 1 325 prosentin kasvun generatiiviseen tekoälyyn liittyvissä ilmoituksissa vuosien 2023 ja 2024 välillä .

Realistinen täysin liikkuva tekoälyvideo on yleistynyt. Vuonna 2025 IWF tunnisti 3 443 tekoälyn tuottamaa lasten seksuaalista hyväksikäyttöä esittävää videota, joista 65 % luokiteltiin A-luokkaan – vakavimpaan materiaaliin Ison-Britannian lainsäädännön mukaan .

Mitä tämä tarkoittaa tekoälyturvallisuudelle ja lastensuojelulle

Gaussian probing täyttää kriittisen aukon tekoälyn turvallisuustyökalupakissa. Nykyiset suojatoimet tekoälyn tuottamaa CSAM-materiaalia vastaan perustuvat lähinnä syötteiden suodatukseen, tuotosten suodatukseen ja koulutusdatan seulontaan . Kuten tutkimus on osoittanut, "konseptin uudelleen käyttöönotto on mahdollista hienosäädön avulla, vaikka suodatus olisi täydellistä", mikä tarkoittaa, että nykyiset suodatusmenetelmät tarjoavat "rajoitettua suojaa suljetuille malleille eivätkä suojaa avoimille malleille" .

Mahdollistamalla alustojen haitallisten hienosäädettyjen mallien havaitsemisen ennen niiden laajaa levittämistä, Gaussian probing voisi antaa alustoille, kuten Hugging Facelle ja Civitaille, keinon seuloa ladattuja LoRA-sovittimia turvautumatta laittomaan sisällöntuotantoon .

Toistaiseksi tekniikka tarjoaa skaalautuvan, ei-generatiivisen vaihtoehdon mallien turvallisuuden arviointiin erittäin riskialttiilla alueilla, joilla tuottaminen on laillisesti rajoitettua – työkalun, jota ala on kipeästi kaivannut tekoälyn tuottaman CSAM-materiaalin kriisin kiihtyessä.