Abliteration.ai tilbyr KI-modeller uten avslag – og vekker sikkerhetsbekymring

Abliteration.ai har gjort en omstridt idé i åpenvekt-KI til en nettjeneste: Selskapet fjerner modellens tendens til å avslå skadelige forespørsler og tilbyr deretter den endrede modellen via nettleser og API. Den hostede varianten av Z.ai-modellen GLM-5.3 gjør dermed noe som tidligere krevde teknisk kompetanse, egen infrastruktur og lokal kjøring, tilgjengelig som en administrert tjeneste. 7

Selskapet framstiller tilbudet som et verktøy for offensiv cybersikkerhet, red teaming og testing av KI-agenter. Red teaming er kontrollert sikkerhetstesting der et autorisert team forsøker å etterligne en angripers metoder for å finne svakheter. Samtidig viser TechCrunchs rapporterte tester den grunnleggende utfordringen: Modellen skal ha gitt både kode relatert til passordtyveri og instrukser knyttet til dyrking av et farlig sykdomsfremkallende agens. 7

Hva betyr «abliteration»?

I denne sammenhengen betyr abliteration å endre en modell slik at den undertrykker eller mister innlært avslag atferd. Det er noe annet enn å formulere en prompt som forsøker å omgå en chatbots vanlige policyfilter.

Abliteration.ai sier at selskapet identifiserer retninger i modellens interne aktiveringer som er knyttet til avslag, og fjerner dem fra modellvektene. Målet skal være å beholde egenskaper innen koding, cybersikkerhet og agentoppgaver, samtidig som modellen fortsetter en oppgavekjede der en mer sikkerhetsbegrenset modell ville stoppet. 1315

Dette er imidlertid selskapets egen beskrivelse. Materialet inneholder ingen uavhengig evaluering som viser at den endrede GLM-5.3-modellen har tilsvarende ytelse som grunnmodellen på tvers av evner, pålitelighet eller sikkerhetsrelevant atferd. 13

Hva tilbyr selskapet?

Abliteration.ai hoster modifiserte åpenvekt-modeller, blant dem en GLM-5.3-basert modell kalt abliterated-model-large-v2. Den markedsføres for offensivt cyberarbeid, red teaming og agenttesting, og kan brukes i et nettgrensesnitt eller via API. 17

Dette har betydning fordi åpenvekt-modeller allerede kan lastes ned, endres og kjøres av brukere med nok kompetanse og datakraft. En hostet tjeneste fjerner mye av dette oppstartsarbeidet: Brukeren trenger ikke selv å håndtere modellvekter, endringer eller serverinfrastruktur. 37

Hva TechCrunch rapporterte fra sine tester

TechCrunch opplyste at journalistene raskt kunne opprette en gratis konto i nettleseren, og at den hostede modellen svarte på forespørsler som vanlige KI-tjenester normalt ville avvist. De rapporterte svarene omfattet:

• Python-kode beregnet på å hente ut lagrede Chrome-passord.
• En detaljert hjemmeprotokoll for å dyrke et farlig sykdomsfremkallende agens. 7

Eksemplene gjør at debatten ikke bare handler om ufarlig sikkerhetsopplæring. De tyder på at en lett tilgjengelig, hostet modell kan gi materiale relevant for både stjeling av innloggingsopplysninger og biologisk skade. 7

Selskapets argument: Forsvarere må kunne etterligne angrep

Abliteration.ai bygger på et velkjent argument om teknologi med dobbel bruk: Sikkerhetsfolk må kunne simulere offensiv atferd for å oppdage og utbedre svakheter. Et autorisert sikkerhetsteam som tester en bank, et flyselskap eller kritisk infrastruktur, kan ha behov for å vurdere om forsvarene tåler utvikling av utnyttelseskode, skadevarelignende nyttelast, automatisering eller angrepsforløp med flere trinn. Dersom KI-assistenten avviser hvert trinn, mener selskapet at testen blir mindre realistisk. 47

Autorisert penetrasjonstesting, skadevareanalyse, CTF-konkurranser (capture the flag) og sikkerhetsforskning kan bruke teknikker som er farlige utenfor en tillatt og kontrollert ramme. Problemet er at nøyaktig den samme hjelpen også kan være verdifull for angripere. 24

Hvorfor kritikerne reagerer

Hostet tilgang kan senke terskelen for misbruk

Bekymringen er ikke bare at modeller uten avslag kan eksistere. Åpenvekt-modeller gjør det allerede mulig for teknisk kompetente brukere å eksperimentere med slike endringer. Den større bekymringen er at en nettleser- eller API-basert tjeneste gjør potensielt skadelige evner enklere å få tilgang til, uten at brukeren selv må administrere modellvekter eller datainfrastruktur. 37

Påstanden om bevart ytelse er ikke uavhengig dokumentert

Selskapet hevder at endringene på vektnivå bevarer modellens evner innen koding og cybersikkerhet. Men inngrep i modellvekter for å endre avslag kan også påvirke annen innlært atferd. Det foreligger ingen bred, uavhengig sammenligning i det tilgjengelige materialet som avklarer om kapasitet, pålitelighet eller andre egenskaper er uendret etter modifiseringen. 1315

Hensikten bak en forespørsel er vanskelig å kontrollere

En forespørsel om utnyttelseskode eller hjelp til en angrepskjede kan inngå i en godkjent sikkerhetsvurdering – eller være forberedelse til et reelt innbrudd. De rapporterte svarene om Chrome-passord og biologisk materiale viser hvorfor en tjeneste vanskelig kan fastslå legitim hensikt bare ut fra brukerens egen forklaring. 7

Debatten om sikkerhetstiltak

TechCrunchs rapport tyder på at sterke tilgangskontroller ikke var synlige i testløpet redaksjonen prøvde: Journalistene opprettet raskt en konto og fikk gratis tilgang via nettleseren. 7

Rapporteringen fastslår ikke hvilke kontrollmekanismer selskapet eventuelt har i dag. Den gir derfor ikke grunnlag for å slå kategorisk fast at bestemte tiltak mangler. Men flere sentrale spørsmål står ubesvart:

• Klassifisering av skadelig aktivitet: Blir spørsmål eller svar kontrollert for høyrisikoaktivitet?
• Identitetsverifisering: Knyttes brukere pålitelig til reelle og ansvarlige identiteter?
• KYC-lignende kundeprosess: Er tilgang begrenset til kontrollerte virksomheter eller autoriserte sikkerhetsfagfolk?
• Overvåking og håndheving: Finnes det mekanismer for å oppdage misbruk, undersøke brudd og stenge tilganger?

Slike tiltak ville ikke fjernet problemet med dobbel bruk. De kunne likevel gjort anonymt eller opportunistisk misbruk vanskeligere, samtidig som autoriserte sikkerhetsteam fortsatt kunne få tilgang.

Kort oppsummert

Abliteration.ai har gjort en metode for modellmodifisering om til en hostet tjeneste: En GLM-5.3-variant uten vanlig avslag atferd, rettet mot cyber- og agenttesting. 17 Begrunnelsen om red teaming er forståelig, men TechCrunchs rapporterte testresultater viser hvorfor dette ikke bare er en teoretisk sikkerhetsdiskusjon. 7

Det avgjørende spørsmålet er styring og ansvarlighet. Når en tjeneste er laget for å levere hjelp som vanlige modeller avviser, blir sikkerhetsgrunnlaget avhengig av etterprøvbare adgangskontroller, meningsfull screening og ansvarliggjøring – ikke bare av brukernes påståtte defensive hensikt.