Abliteration.ai fjerner AI-modellers afslag – og vækker bekymring om misbrug

Abliteration.ai gør en kontroversiel idé fra open-weight-AI til en kommerciel tjeneste: Virksomheden fjerner en models tendens til at sige nej til skadelige anmodninger og stiller derefter den ændrede model til rådighed online. Dens hostede afledning af Z.ai’s GLM-5.3 kan bruges i en browser eller via API. Dermed flyttes arbejdet fra teknisk kyndige brugere, der selv modificerer og kører en model, til en administreret platform. 7

Virksomheden præsenterer tjenesten som infrastruktur til offensiv cybersikkerhed, red teaming og test af AI-agenter. Men TechCrunch rapporterede, at modellen blandt andet leverede kode til tyveri af loginoplysninger samt instruktioner med relation til dyrkning af et farligt sygdomsfremkaldende stof. Det understreger den centrale bekymring: Et værktøj, der kan bruges i autoriseret forsvar, kan også sænke tærsklen for reel skade. 7

Hvad betyder «abliteration»?

I denne sammenhæng betyder abliteration, at en AI-model ændres for at undertrykke eller fjerne indlært afvisningsadfærd. Det er noget andet end blot at formulere en prompt, der omgår en chatbots almindelige policy-lag.

Abliteration.ai oplyser, at virksomheden identificerer retninger i modellens interne aktiveringer, som forbindes med afslag, og fjerner dem fra modellens vægte. Målet er ifølge virksomheden at bevare funktioner til kodning, cybersikkerhed og agentbaserede opgaver, mens modellen fortsætter opgavekæder, som en mere sikkerhedsbegrænset model ellers ville afbryde. 1315

Både denne beskrivelse og påstanden om bevarede kompetencer er virksomhedens egne udsagn. Det fremlagte materiale indeholder ikke en uafhængig evaluering, der fastslår, at den ændrede GLM-5.3 yder på niveau med grundmodellen inden for kapacitet, driftssikkerhed eller sikkerhedsrelevant adfærd. 13

Det er produktet, der ændrer risikoen

Abliteration.ai hoster modificerede open-weight-modeller, herunder en GLM-5.3-baseret model med navnet abliterated-model-large-v2. Tjenesten markedsføres til offensivt cyberarbejde, red teaming og agenttest og kan tilgås via både webinterface og API. 17

Open-weight-modeller kan i forvejen ændres og køres af brugere med de nødvendige kompetencer og computerressourcer. Men et hostet produkt gør den ændrede model langt mere umiddelbart anvendelig: Brugeren behøver ikke selv hente modelvægte, modificere dem og drive infrastrukturen lokalt. 37

TechCrunch: Kode til passwordtyveri og biologiske instruktioner

TechCrunch skrev, at journalister hurtigt oprettede en gratis webkonto og fik svar fra den hostede model på anmodninger, som de fleste store AI-tjenester normalt ville afvise. De rapporterede svar omfattede:

• Python-kode, der var tiltænkt udtræk af gemte Chrome-adgangskoder.
• En detaljeret hjemmeprotokol relateret til dyrkning af et farligt menneskeligt patogen. 7

Eksemplerne rækker ud over den almindelige debat om harmløs sikkerhedsundervisning. De viser, at en lettilgængelig hostet tjeneste kan levere materiale med relevans for både tyveri af adgangsoplysninger og biologisk skade. 7

Virksomhedens argument: Red teams skal kunne simulere angreb

Abliteration.ai fremfører et velkendt dobbeltanvendelsesargument: Forsvarere må kunne modellere angriberes adfærd for at opdage og udbedre svagheder. Et sikkerhedsteam, der tester eksempelvis en bank, et flyselskab eller kritisk infrastruktur, kan have behov for at afprøve, om forsvaret holder mod udvikling af exploits, payloads, skadelig automatisering eller angrebsforløb over flere trin. Hvis AI-assistenten afviser hvert trin, bliver den ifølge virksomheden mindre brugbar til realistiske, autoriserede tests. 47

Autoriserede penetrationstests, malwareanalyser, capture-the-flag-øvelser og sikkerhedsforskning kan alle omfatte teknikker, der er farlige uden for en kontrolleret ramme og uden udtrykkelig tilladelse. Problemet er, at den samme hjælp også kan bruges af angribere. 24

Hvorfor kritikerne er bekymrede

Hostet adgang sænker barrieren

Hovedbekymringen er ikke, at modeller uden afslag overhovedet kan findes. Open-weight-modeller gør det allerede muligt for teknisk stærke brugere at eksperimentere med ændringer. Bekymringen er, at browser- og API-adgang gør potentielt skadelige funktioner lettere tilgængelige uden krav om, at brugeren selv håndterer modelvægte eller computerinfrastruktur. 37

Påstanden om bevaret kapacitet er ikke bekræftet uafhængigt

Virksomheden siger, at ændringer på vægtniveau bevarer modellens evner inden for kodning og cyberarbejde. Men ændringer i vægte for at ændre afvisningsadfærd kan også tænkes at påvirke anden indlært adfærd. Det foreliggende materiale rummer ingen bred, uafhængig benchmark-sammenligning, der afklarer, om kapacitet, pålidelighed eller andre egenskaber er uændrede efter modificeringen. 1315

Hensigten kan ikke aflæses sikkert af en prompt

En forespørgsel om exploit-kode eller hjælp til en angrebskæde kan være del af en tilladt sikkerhedsvurdering – men den kan også være forberedelse til et reelt indbrud. De Chrome-password- og patogenrelaterede svar, som TechCrunch rapporterede, illustrerer, hvorfor en tjeneste ikke pålideligt kan udlede legitim hensigt alene ud fra brugerens beskrivelse. 7

Debatten om værn: Screening, identitet og ansvar

TechCrunch’ test tyder på, at stærke adgangskontroller ikke var synlige i den afprøvede brugerrejse: Journalisterne oprettede hurtigt en konto og tilgik systemet gratis i en browser. 7

Den foreliggende rapportering fastslår ikke virksomhedens samlede og aktuelle kontrolforanstaltninger. Derfor kan man ikke kategorisk konkludere, at bestemte værn ikke findes. Men centrale spørgsmål står åbne:

• Klassifikatorer for skadelig aktivitet: Bliver prompts eller svar screenet for højrisikoaktivitet?
• Verifikation af kunders identitet: Kan brugere pålideligt knyttes til reelle, ansvarlige identiteter?
• KYC-lignende onboarding: Er adgangen begrænset til godkendte organisationer eller autoriserede sikkerhedsfolk?
• Overvågning og håndhævelse: Findes der mekanismer til at opdage misbrug, undersøge overtrædelser og lukke adgangen?

Sådanne foranstaltninger ville ikke fjerne dobbeltanvendelsesproblemet. De kunne dog gøre anonymt eller opportunistisk misbrug sværere, samtidig med at ansvarlige sikkerhedsteams fortsat kan få adgang.

Bundlinjen

Abliteration.ai gør en teknik til modelmodificering til et hostet produkt: en GLM-5.3-afledning uden almindelig afvisningsadfærd til cyberarbejde og test af AI-agenter. 17 Virksomhedens begrundelse om red teaming er forståelig, men TechCrunch’ testresultater viser, hvorfor risikoen ikke kun er teoretisk. 7

Det afgørende handler derfor om styring og ansvar. Når en tjeneste er designet til at yde hjælp, som standardmodeller afviser, afhænger dens sikkerhed i høj grad af dokumenterbare adgangskontroller, meningsfuld screening og mulighed for ansvarliggørelse – ikke kun af brugernes erklærede defensive formål.