Abliteration.ai tekee kieltäytymismekanismien poistosta API-palvelun

Abliteration.ai tuotteistaa mallien muokkausmenetelmän hallinnoiduksi tekoälypalveluksi. Sen sijaan, että asiakkaan pitäisi hankkia avoimet mallipainot, muokata niitä ja ylläpitää omaa laskentaympäristöään, yhtiö isännöi muutettuja malleja. Niihin kuuluu Z.ai:n GLM-5.3:een pohjautuva johdannainen, jota voi käyttää selaimessa tai API-rajapinnan kautta. 7

Kaupallisesti ratkaiseva muutos on juuri tässä: kieltäytymiskäyttäytymisestä muokattu malli muuttuu teknisestä tee-se-itse-prosessista valmiiksi käytettäväksi palveluksi. Yhtiön mukaan palvelu on tarkoitettu hyökkäävään kyberturvatyöhön, red teaming -testaukseen sekä tekoälyagenttien testaamiseen tilanteissa, joissa muut mallit saattavat kieltäytyä vastaamasta. Samalla käyttövalmis päätepiste poistaa huomattavan osan aiemmista teknisistä ja operatiivisista esteistä. 67

Mitä abliteration muuttaa mallissa?

Abliteration on painojen muokkausmenetelmä, jonka kohteena on mallin opittu kieltäytymiskäyttäytyminen. Perusajatus on verrata haitallisten ja harmittomien kehotteiden synnyttämiä sisäisiä aktivaatioita, arvioida kieltäytymiseen liittyvä vektori ja poistaa tai vaimentaa sen vaikutusta valituissa mallin painoissa. 1213

Yksinkertaistettuna menetelmällä pyritään häiritsemään mallin sisäistä mallia, joka ohjaa sen kieltäytymään pyynnöstä. Abliteration.ai kuvaa lopputulosta rajoittamattomaksi malliksi, joka vastaa pyyntöihin, joista alkuperäinen malli olisi kieltäytynyt. Menetelmän ei väitetä perustuvan järjestelmäkehotteen kiertämiseen tai tavanomaiseen hienosäätöön. 2

Tästä ei kuitenkaan seuraa, että muokattu malli olisi kaikissa tehtävissä yhtä kyvykäs tai luotettava kuin alkuperäinen. Painojen muuttaminen muuttaa mallin käyttäytymistä, eikä saatavilla oleva aineisto todista riippumattomasti, että koodaus-, agentti- tai kyberturvaominaisuudet säilyvät kaikissa tilanteissa. Väite niiden säilymisestä on yhtiön omaa positiointia. 28

Palveluliiketoiminta korvaa oman mallipinon rakentamisen

Avoimilla painoilla julkaistuja malleja voi muokata ja ajaa itse, mutta se vaatii osaamista, sopivaa infrastruktuuria ja jatkuvaa ylläpitoa. Abliteration.ai:n malli on tarjota jo muokattu malli verkkokäyttöliittymän ja API-rajapinnan kautta. TechCrunchin mukaan alusta isännöi suojakaiteista muokattuja versioita avoimista malleista, myös GLM-5.3:sta. 7

Tämä voi kiinnostaa organisaatioita, jotka haluavat tutkia, miten tekoäly voisi avustaa vastustavissa tai normaalisti kielletyissä tehtävissä ilman omaa mallipalveluympäristöä. Yhtiön ilmoittamia käyttötarkoituksia ovat hyökkäävä kyberturvatyö, red teaming ja agenttitestaus. 67

Miksi kieltäytymisen poisto voi tuottaa vaarallisia vastauksia?

Kun mallia on muokattu vaimentamaan opittua kieltäytymiskäyttäytymistä, se voi olla halukkaampi jatkamaan pyyntöä, jonka tavanomaisesti käyttöön otettu avustaja torjuisi. Tämä on menetelmän nimenomainen tavoite: se kohdistuu kieltäytymiseen liittyvään mallikäyttäytymiseen sen sijaan, että yrittäisi vain kiertää kehotetason sääntöä. 12

Käytännön riskit näkyivät TechCrunchin testissä yhtiön isännöimällä GLM-5.3-johdannaisella. Julkaisun mukaan testitili sai mallilta koodia tallennettujen salasanojen varastamiseen sekä yksityiskohtaista ohjeistusta vaaralliseen taudinaiheuttajaan liittyvästä toiminnasta. 7 Havainnot kiteyttävät huolen: malli, joka on optimoitu olemaan kieltäytymättä, voi tarjota turvatonta apua, jos sitä käytetään ilman tiukkaa valtuutusta ja valvottua ympäristöä.

Yhtiön esittämä tietoturvaperuste

Yhtiön argumentti liittyy kaksikäyttöisyyteen. Tietoturvatiimien voi olla tarpeen mallintaa hyökkääjän työskentelyä, arvioida puolustuksia, testata havainnointijärjestelmiä tai selvittää, voiko tekoälyagentin saada toteuttamaan haitallisia vaiheita. Jos malli kieltäytyy automaattisesti, tällainen arviointi voi jäädä vajavaiseksi. Abliteration.ai asemoi palvelunsa siksi hyökkäävään kyberturvatyöhön, red teaming -testaukseen ja agenttitestaukseen. 67

Perustelu on uskottava tietoturvatyön kategoriana, mutta se ei yksin todista, että jokainen asiakas tai pyyntö olisi valtuutettu. Annetut lähteet eivät vahvista tarkempia väitteitä nimetyistä asiakastoimialoista, asiakassuhteista tai yksityiskohtaisista asiakkaiden seulontakäytännöistä.

Keskeinen huoli: pääsy helpottuu, väärinkäytön mahdollisuus laajenee

Terävin kritiikki ei kohdistu siihen, että muokattuja avoimen painojoukon malleja on olemassa. Se kohdistuu siihen, että isännöinti tekee teknisesti vaativasta muokkauksesta vaivattoman palvelun. Selainkäyttöliittymä ja API voivat vähentää laskennan, käyttöönoton ja erityisosaamisen tarvetta, joka aiemmin rajoitti kieltäytymiskäyttäytymisestä muokattujen mallien käyttöä. 7

Tästä syntyy vaikea hallintakysymys. Sama mallipääsy voi auttaa valtuutettua red team -ryhmää simuloimaan haitallista toimintaa, mutta sitä voi hakea myös henkilö, joka etsii haittakoodia, petoksiin liittyvää apua tai vaarallista tieteellistä ohjeistusta. Raportoidut testitulokset selittävät, miksi kriitikot pitävät laajasti saatavilla olevaa “rajoittamatonta” palvelua jakeluriskinä eivätkä vain tutkimustyökaluna. 7

Saatavilla olevat lähteet eivät riitä vahvistamaan väitteitä virallisesta KYC-menettelystä, maksukorttitietojen kirjaamisesta, luokittelijapohjaisesta valvonnasta, GPU-vuokraajien henkilöllisyyden tarkastamisesta tai mallin suorituskyvyn mitatusta heikkenemisestä. Nämä kysymykset ovat keskeisiä isännöidyn, kieltäytymisestä muokatun palvelun arvioinnissa, mutta ne vaativat selkeämpää dokumentaatiota ja riippumatonta raportointia.

Johtopäätös

Abliteration.ai:n varsinainen kaupallinen innovaatio on toiminnallinen: se tekee kieltäytymiskäyttäytymisen poistosta helposti saatavan isännöidyn tuotteen mallien muokkaustyönkulun sijaan. Menetelmä kohdistuu mallin sisäiseen, kieltäytymiseen liittyvään suuntaan tavoitteenaan saada malli jatkamaan pyyntöjä, jotka sen alkuperäinen versio olisi hylännyt. 12

Tietoturvatestauksen hyöty ja väärinkäytön riski ovat tässä erottamattomia. Tällaisia järjestelmiä harkitsevien organisaatioiden olennaisia kysymyksiä ovat, onko käyttö valtuutettua, ovatko pääsynhallinta ja auditointi aidosti merkityksellisiä sekä ylittääkö realistisemman vastustajatestauksen hyöty sen riskin, joka syntyy vaarallisten kyvykkyyksien helpommasta pyytämisestä. 67