Abliteration.ai selger AI-modeller uten avvisningsmekanismer

Abliteration.ai pakker en metode for å endre språkmodeller inn som en driftet AI-tjeneste. I stedet for at kundene må hente åpne modellvekter, endre dem og skaffe egen regnekraft, drifter selskapet modifiserte modeller selv – blant annet en avledning av Z.ai sin GLM-5.3 – som kan brukes i nettleseren eller gjennom et API. 7

Det er dette som er det kommersielle skiftet. Selskapet sier tjenesten er laget for offensivt cybersikkerhetsarbeid, red-teaming og testing av AI-agenter, altså oppgaver andre modeller kan nekte å utføre. Men når modeller uten avvisningsmekanismer tilbys som et ferdig endepunkt, forsvinner også mye av den tekniske og driftsmessige terskelen som ellers ville begrenset tilgangen. 67

Hva abliteration endrer i modellen

Abliteration er en metode for å endre modellvekter med sikte på modellens innlærte tilbøyelighet til å avslå forespørsler. I grove trekk sammenlignes interne aktiveringer fra sett med skadelige og ufarlige instruksjoner. Deretter estimeres en vektor som forbindes med avslag, før denne retningen fjernes eller reduseres i utvalgte modellvekter. 1213

Forenklet sagt er målet å forstyrre et internt mønster som ellers leder modellen mot å si nei. Abliteration.ai beskriver resultatet som en ubegrenset modell som svarer på forespørsler originalmodellen ville ha avvist – uten systemprompt-jailbreak eller vanlig finjustering. 2

Dette er imidlertid ikke et generelt bevis på at den endrede modellen er like kapabel eller pålitelig på alle områder. Å endre vekter endrer modellatferden, og det foreliggende materialet dokumenterer ikke uavhengig at kode-, agent- eller cybersikkerhetsevner bevares på tvers av oppgaver. At disse evnene beholdes, er selskapets egen posisjonering. 28

Forretningsmodellen: driftet tilgang fremfor gjør-det-selv

Åpne modeller kan endres og kjøres uavhengig, men det krever teknisk kompetanse, egnet infrastruktur og løpende drift. Abliteration.ai tilbyr i stedet en allerede endret modell via webgrensesnitt og API. TechCrunch rapporterte at plattformen drifter versjoner av åpne modeller der sikkerhetsrekkverkene er fjernet, inkludert GLM-5.3. 7

Det kan være nyttig for virksomheter som vil undersøke hvordan et AI-system kan bistå med motstanderorienterte eller forbudte oppgaver, uten å bygge en egen plattform for modellservering. Selskapets oppgitte bruksområder er offensivt cyberarbeid, AI-red-teaming og agenttesting. 67

Hvorfor fjerning av avslag kan gi skadelige svar

En modell som er endret for å dempe en innlært avvisningsatferd, kan være mer tilbøyelig til å fortsette en forespørsel som en konvensjonelt distribuert assistent ville avvist. Det er nettopp den tiltenkte virkningen: Metoden retter seg mot modellatferden knyttet til å si nei, fremfor å forsøke å omgå en regel på promptnivå. 12

De praktiske konsekvensene ble synlige i TechCrunchs test av den driftede GLM-5.3-avledningen. Publikasjonen opplyste at en testkonto fikk kode for passordtyveri og detaljert veiledning knyttet til farlige patogener. 7 Slike svar illustrerer hovedbekymringen: En modell som er optimalisert for ikke å avslå, kan gi hjelp som er utrygg utenfor et strengt autorisert og kontrollert miljø.

Selskapets argument for sikkerhetsbruk

Selskapets begrunnelse er et typisk eksempel på teknologi med både legitim og skadelig anvendelse. Sikkerhetsteam kan ha behov for å simulere en angripers arbeidsflyt, evaluere forsvar, teste deteksjonssystemer eller vurdere om en AI-agent kan presses til å utføre skadelige deloppgaver. En modell som automatisk avslår, kan begrense slike undersøkelser. Abliteration.ai posisjonerer derfor tjenesten for offensivt cybersikkerhetsarbeid, red-teaming og agenttesting. 67

Dette er en plausibel kategori av sikkerhetsarbeid, men begrunnelsen dokumenterer ikke i seg selv at hver kunde eller hver forespørsel er autorisert. Kildene som foreligger, underbygger ikke mer konkrete påstander om navngitte kundesegmenter, bestemte kundeforhold eller detaljerte rutiner for kundekontroll.

Hovedinnvendingen: Lavere terskel, større misbrukspotensial

Den skarpeste kritikken er ikke at modifiserte åpne modeller finnes, men at drift som tjeneste gjør en teknisk krevende endring til et lett tilgjengelig produkt. Et nettlesergrensesnitt og API kan redusere behovet for regnekraft, oppsett og spesialisert kunnskap for å bruke en modell uten avvisningsmekanismer. 7

Det skaper et krevende styringsproblem. Den samme tilgangen som kan hjelpe et autorisert red team med å simulere skadelig atferd, kan også etterspørres av personer som ønsker ondsinnet kode, svindelstøtte eller farlig vitenskapelig veiledning. De rapporterte testresultatene viser hvorfor kritikere ser en bredt tilgjengelig «ubegrenset» tjeneste som en distribusjonsrisiko, ikke bare som et forskningsverktøy. 7

Kildene gir ikke nok pålitelig dokumentasjon til å bekrefte påstander om formell KYC-kontroll, logging av betalingskort, klassifiseringssystemer for skadelig aktivitet, identitetskontroll for leietakere av kraftige GPU-er eller målt svekkelse av modellens evner. Dette er sentrale spørsmål i vurderingen av en driftet tjeneste med fjernede avvisningsmekanismer, men de krever tydeligere dokumentasjon og uavhengig rapportering enn materialet her gir grunnlag for.

Kort oppsummert

Abliteration.ai sin innovasjon er først og fremst operasjonell, ikke teoretisk: Selskapet gjør fjerning av avvisningsmekanismer om fra en modellendringsprosess til et tilgjengelig, driftet produkt. Metoden retter seg mot en intern retning knyttet til avslag, med det uttalte målet å få modellen til å fortsette forespørsler som originalversjonen ville avvist. 12

Begrunnelsen om sikkerhetstesting og risikoen for misbruk kan ikke skilles fra hverandre. For organisasjoner som vurderer slike systemer, er nøkkelspørsmålene om bruken er autorisert, om tilgangskontroll og revisjonsspor faktisk er meningsfulle, og om verdien av mer realistisk motstandertesting veier opp for risikoen ved å gjøre farlige egenskaper enklere å be om. 67