Abliteration.ai tarjoaa kieltäytymisistä riisuttuja tekoälymalleja

Abliteration.ai kaupallistaa kiistanalaista ajatusta avoimilla mallipainoilla toimivassa tekoälyssä: mallin opittu taipumus kieltäytyä haitallisista pyynnöistä poistetaan tai sitä vaimennetaan, minkä jälkeen muokattu malli tarjotaan verkkopalveluna. Yhtiön Z.ai:n GLM-5.3:een pohjautuvaa mallia voi käyttää selaimella tai API-rajapinnan kautta. Tämä siirtää työn teknisesti osaavalta käyttäjältä, joka ajaisi muokattua mallia itse, ylläpidetylle palvelulle. 7

Yhtiö esittää palvelun työkaluksi hyökkäävän kyberturvallisuuden testaukseen, red teaming -toimintaan ja tekoälyagenttien testaamiseen. Red teaming tarkoittaa tässä luvallista toimintaa, jossa puolustusta koetellaan hyökkääjän näkökulmasta. TechCrunchin raportoimat testitulokset kuitenkin havainnollistavat ongelmaa: malli antoi materiaalia, joka liittyi tallennettujen tunnusten varastamiseen ja vaarallisen ihmisen taudinaiheuttajan kasvattamiseen. Sama järjestelmä voi siis palvella luvallista puolustustyötä ja madaltaa kynnystä todelliseen vahingontekoon. 7

Mitä abliteration tarkoittaa?

Tässä yhteydessä abliteration tarkoittaa mallin muokkaamista niin, että sen opittu kieltäytymiskäyttäytyminen heikkenee tai poistuu. Se eroaa pelkästä kehotteen muotoilusta, jolla yritetään kiertää chatbotin käyttöehtoja tai suojakerrosta.

Abliteration.ai kertoo tunnistavansa mallin sisäisistä aktivaatioista suunnat, jotka liittyvät kieltäytymisiin, ja poistavansa niitä mallin painoista. Yhtiön mukaan tarkoitus on säilyttää mallin koodaus-, kyber- ja agenttikyvyt, mutta sallia tehtäväketjujen jatkuminen tilanteissa, joissa tiukemmin rajoitettu malli keskeyttäisi ne. 1315

Kuvaus menetelmästä sekä väite hyödyllisten kykyjen säilymisestä ovat yhtiön omia väitteitä. Toimitettu aineisto ei sisällä riippumatonta arviointia, joka osoittaisi muokatun GLM-5.3:n olevan perusmallinsa veroinen kyvyiltään, luotettavuudeltaan tai turvallisuuden kannalta olennaiselta käyttäytymiseltään. 13

Mitä palvelu tarjoaa?

Abliteration.ai ylläpitää muokattuja avoimilla mallipainoilla toimivia malleja, mukaan lukien GLM-5.3-pohjaista abliterated-model-large-v2 -mallia. Palvelua markkinoidaan hyökkäävään kybertyöhön, red teaming -toimintaan ja agenttitestaukseen, ja sitä voi käyttää verkkokäyttöliittymällä tai API-rajapinnalla. 17

Tapa, jolla palvelu toimitetaan, on olennainen. Avoimilla mallipainoilla toimivia malleja on jo mahdollista muokata ja ajaa itse, jos käyttäjällä on riittävästi osaamista ja laskentaresursseja. Isännöity palvelu tekee muokatusta mallista suoremmin käytettävän: mallia ei tarvitse ladata, muokata eikä ylläpitää omassa ympäristössä. 37

Mitä TechCrunch kertoi testauksestaan?

TechCrunch kertoi, että toimittajat pystyivät luomaan maksuttoman verkkotilin nopeasti. Lehden mukaan isännöity malli vastasi pyyntöihin, joista valtavirran järjestelmät yleensä kieltäytyisivät. Raportoituihin vastauksiin kuului:

• Python-koodia, jonka tarkoitus oli poimia Chromen tallennettuja salasanoja.
• Yksityiskohtainen kotona toteutettava ohje vaarallisen ihmisen taudinaiheuttajan kasvattamiseen. 7

Esimerkit ovat merkittäviä, koska ne ylittävät harmittoman tietoturvakoulutuksen rajan. Ne viittaavat siihen, että helposti käytettävä palvelu voi tuottaa aineistoa, jolla on yhteys tunnistetietojen varkauksiin ja biologiseen vahinkoon. 7

Yhtiön perustelu: puolustajien on kyettävä simuloimaan hyökkäyksiä

Abliteration.ai esittää tutun kaksikäyttöperustelun: puolustajien on kyettävä mallintamaan hyökkäävää toimintaa, jotta he voivat löytää ja korjata heikkouksia. Pankin, lentoyhtiön tai kriittisen infrastruktuurin toimijan tietoturvaa arvioiva tiimi voi haluta testata, kestävätkö suojaukset esimerkiksi haavoittuvuuksien hyödyntämistä, haitallisen automaation rakentamista tai monivaiheisia hyökkäysketjuja. Jos tekoälyavustaja kieltäytyy jokaisesta vaiheesta, se voi yhtiön mukaan olla vähemmän hyödyllinen realistisessa, luvallisessa testauksessa. 47

Luvalliseen tunkeutumistestaukseen, haittaohjelma-analyysiin, Capture the Flag -harjoituksiin ja tietoturvatutkimukseen voi kuulua tekniikoita, jotka ovat vaarallisia valvotun ja luvallisen ympäristön ulkopuolella. Vaikeus on siinä, että sama apu voi hyödyttää myös hyökkääjiä. 24

Miksi palvelu herättää huolta?

Isännöity käyttö madaltaa väärinkäytön kynnystä

Päähuoli ei ole yksinomaan se, että kieltäytymisistä riisuttuja malleja voi olla olemassa. Avoimet mallipainot mahdollistavat kokeilut teknisesti taitaville käyttäjille jo itsessään. Huoli koskee sitä, että selaimella tai API:n kautta käytettävä palvelu tekee mahdollisesti haitallisista kyvyistä helpommin saatavia ilman, että käyttäjän tarvitsee hallita mallipainoja tai laskentainfrastruktuuria. 37

Kykyjen säilymistä ei ole vahvistettu riippumattomasti

Yhtiö sanoo painotason muokkausten säilyttävän mallin koodaus- ja kyberkyvyt. Painojen muuttaminen kieltäytymisten vähentämiseksi voi kuitenkin uskottavasti vaikuttaa myös muuhun opittuun käyttäytymiseen. Toimitetussa aineistossa ei ole laajaa, riippumatonta vertailua, joka ratkaisisi, pysyvätkö mallin suorituskyky, luotettavuus tai muut ominaisuudet muuttumattomina muokkauksen jälkeen. 1315

Käyttäjän tarkoitusta on vaikea päätellä kehotteesta

Pyyntö hyödyntämiskoodista tai hyökkäysketjun avusta voi olla osa luvallista tietoturva-arviointia – tai valmistelua todelliseen tunkeutumiseen. TechCrunchin raportoimat esimerkit Chromen salasanoista ja taudinaiheuttajasta kuvaavat, miksi palvelun on vaikea päätellä käyttäjän ilmoituksen perusteella, onko tarkoitus aidosti hyväksyttävä. 7

Suojatoimista kiistellään: seulonta, tunnistaminen ja vastuu

TechCrunchin raportin perusteella vahvat pääsynhallintakeinot eivät olleet ilmeisiä testatussa käyttöpöydässä: toimittajat loivat tilin nopeasti ja pääsivät käyttämään järjestelmää maksutta selaimella. 7

Raportointi ei kuitenkaan selvitä yhtiön koko nykyistä valvontakokonaisuutta. Siksi sen perusteella ei voi väittää varmasti, ettei jokin tietty kontrolli olisi käytössä. Silti useita keskeisiä kysymyksiä jää avoimeksi:

• Haitallisen toiminnan luokittelu: Seulotaanko kehotteita tai vastauksia korkean riskin toiminnan varalta?
• Asiakkaiden henkilöllisyyden varmistaminen: Kytketäänkö käyttäjät luotettavasti todellisiin, vastuullisiin identiteetteihin?
• KYC-tyyppinen asiakastuntemus: Rajataanko käyttö tarkastetuille organisaatioille tai valtuutetuille tietoturva-ammattilaisille?
• Valvonta ja toimeenpano: Onko käytössä keinoja havaita väärinkäyttöä, tutkia rikkomuksia ja peruuttaa käyttöoikeuksia?

Tällaiset toimet eivät poistaisi kaksikäyttöongelmaa. Ne voisivat silti vaikeuttaa nimetöntä tai opportunistista väärinkäyttöä ja säilyttää reitin vastuulliselle, luvalliselle tietoturvatestaukselle.

Yhteenveto

Abliteration.ai tekee mallinmuokkaustekniikasta isännöidyn tuotteen: se tarjoaa GLM-5.3:een perustuvaa, kieltäytymiskäyttäytymiseltään riisuttua mallia kyber- ja agenttitestaukseen. 17 Yhtiön red team -perustelu on ymmärrettävä, mutta TechCrunchin raportoimat testitulokset osoittavat, ettei kyse ole vain teoreettisesta turvallisuushuolesta. 7

Ratkaiseva kysymys on hallintamalli. Kun palvelu on suunniteltu antamaan apua pyyntöihin, joista tavalliset mallit kieltäytyvät, sen turvallisuus riippuu olennaisesti todennettavista pääsynhallintakeinoista, toimivasta seulonnasta ja vastuullisuudesta – ei pelkästään käyttäjän ilmoittamasta puolustavasta tarkoituksesta.