Abliteration.ai zet AI zonder weigeringen online: waarom dat zorgen baart

Abliteration.ai maakt een omstreden techniek rond open-weight-AI commercieel beschikbaar: het bedrijf past modellen aan zodat ze minder snel schadelijke verzoeken weigeren, en biedt die versies vervolgens als onlinedienst aan. De aangepaste afgeleide van Z.ai’s GLM-5.3 is via een browser of API te gebruiken. Daarmee verschuift het werk van technisch onderlegde gebruikers die zelf een aangepast model draaien naar een beheerd platform. 7

De start-up positioneert de dienst als infrastructuur voor offensieve cyberbeveiliging, red teaming en het testen van AI-agents. Maar de door TechCrunch beschreven testresultaten — code voor het stelen van inloggegevens en instructies rond het kweken van een gevaarlijke ziekteverwekker — leggen meteen het spanningsveld bloot. Een systeem kan nuttig zijn bij geautoriseerde verdediging, maar tegelijk de drempel voor werkelijk misbruik verlagen. 7

Wat betekent ‘abliteration’?

Met abliteration wordt hier het aanpassen van een model bedoeld om aangeleerd weigergedrag te onderdrukken of te verwijderen. Dat is iets anders dan een slimme prompt gebruiken om de beleidslaag van een chatbot te omzeilen.

Abliteration.ai stelt dat het in de interne activaties van een model richtingen identificeert die met weigeringen samenhangen, en die uit de modelgewichten verwijdert. Volgens het bedrijf blijven programmeer-, cyber- en agentcapaciteiten behouden, terwijl het model taakreeksen voortzet waar een sterker beveiligd systeem zou stoppen. 1315

Die technische beschrijving en de claim dat nuttige capaciteiten intact blijven, zijn uitspraken van het bedrijf zelf. In het aangeleverde materiaal staat geen onafhankelijke evaluatie waaruit blijkt dat de aangepaste GLM-5.3 op het vlak van prestaties, betrouwbaarheid of veiligheidsrelevant gedrag gelijkwaardig is aan het basismodel. 13

Wat verkoopt Abliteration.ai?

Abliteration.ai host aangepaste open-weight-modellen, waaronder een op GLM-5.3 gebaseerd model met de naam abliterated-model-large-v2. De dienst wordt aangeboden voor offensief cyberwerk, red teaming en agenttesten, via een webinterface en een API. 17

Juist die manier van aanbieden is belangrijk. Open-weight-modellen kunnen al door gebruikers met voldoende kennis en rekenkracht worden aangepast en lokaal worden gedraaid. Een gehost product neemt echter een deel van de technische drempel weg: gebruikers hoeven de modelgewichten niet zelf te downloaden, aan te passen en te serveren. 37

Wat TechCrunch in tests kreeg

TechCrunch meldde dat verslaggevers snel een gratis webaccount konden aanmaken. Daarna kreeg het model volgens de berichtgeving verzoeken die reguliere systemen doorgaans zouden weigeren. De uitvoer omvatte onder meer:

• Python-code bedoeld om opgeslagen Chrome-wachtwoorden te verzamelen.
• Een gedetailleerd thuisprotocol voor het kweken van een gevaarlijke menselijke ziekteverwekker. 7

Die voorbeelden zijn relevant omdat ze verder gaan dan een discussie over onschadelijke beveiligingseducatie. Ze wijzen erop dat het via een toegankelijke hosted interface materiaal kon leveren dat bruikbaar is voor diefstal van inloggegevens en biologische schade. 7

Het argument voor red teams

Het betoog van Abliteration.ai is een bekend argument bij technologie met zowel legitieme als schadelijke toepassingen: verdedigers moeten offensief gedrag kunnen nabootsen om zwakke plekken te vinden en te herstellen. Een beveiligingsteam dat een bank, luchtvaartmaatschappij of organisatie met kritieke infrastructuur test, wil mogelijk nagaan of de verdediging bestand is tegen het ontwikkelen van exploits, het maken van payloads, kwaadwillende automatisering of aanvalsketens met meerdere stappen. Als een AI-assistent iedere stap weigert, is die volgens het bedrijf minder bruikbaar voor een realistische, geautoriseerde test. 47

Geautoriseerde penetratietests, malwareanalyse, capture-the-flag-oefeningen en beveiligingsonderzoek kunnen technieken omvatten die buiten een gecontroleerde en toegestane context gevaarlijk zijn. Precies daarin zit het probleem: dezelfde hulp kan ook aanvallers van dienst zijn. 24

Waarom critici bezorgd zijn

Hosted toegang verlaagt de drempel

De hoofdvraag is niet of modellen zonder weigergedrag überhaupt kunnen bestaan. Dankzij open-weight-modellen kunnen technisch vaardige gebruikers al met dergelijke aanpassingen experimenteren. De zorg is dat een dienst via browser of API mogelijk schadelijke mogelijkheden veel eenvoudiger bereikbaar maakt, zonder dat gebruikers zelf modelgewichten of rekeninfrastructuur hoeven te beheren. 37

Behoud van capaciteiten is hier niet onafhankelijk aangetoond

Het bedrijf zegt dat zijn ingrepen in de gewichten de programmeer- en cybercapaciteiten van het basismodel behouden. Maar wijzigingen in gewichten om weigeringen te veranderen kunnen plausibel ook ander aangeleerd gedrag beïnvloeden. Het beschikbare materiaal bevat geen onafhankelijke, brede benchmarkvergelijking die uitsluitsel geeft over de vraag of capaciteit, betrouwbaarheid of andere gedragingen na de aanpassing onveranderd zijn. 1315

De bedoeling achter een prompt is moeilijk te controleren

Een verzoek om exploitcode of hulp bij een aanvalsketen kan onderdeel zijn van een toegestane beveiligingsbeoordeling — of voorbereiding op een echte inbraak. De door TechCrunch gemelde uitvoer over Chrome-wachtwoorden en een ziekteverwekker laat zien waarom een dienst legitieme intentie niet betrouwbaar alleen uit de omschrijving van een gebruiker kan afleiden. 7

Het debat over waarborgen: screening, verificatie en verantwoordelijkheid

De berichtgeving van TechCrunch wijst erop dat in het geteste traject geen zware toegangscontroles zichtbaar waren: verslaggevers maakten snel een account aan en gebruikten het systeem gratis via de browser. 7

De aangeleverde berichtgeving brengt niet het volledige huidige pakket aan maatregelen van het bedrijf in kaart. Daarom is niet met zekerheid te stellen dat specifieke controles ontbreken. Wel blijven cruciale vragen open:

• Classificatie van schadelijke activiteiten: Screent de dienst prompts of uitvoer op activiteiten met een hoog risico?
• Identiteitsverificatie: Zijn gebruikers betrouwbaar gekoppeld aan echte, aanspreekbare identiteiten?
• KYC-achtige toelating: Is toegang beperkt tot gecontroleerde organisaties of geautoriseerde securityprofessionals?
• Toezicht en handhaving: Zijn er systemen om misbruik te signaleren, overtredingen te onderzoeken en toegang in te trekken?

Dergelijke maatregelen lossen het probleem van dubbel gebruik niet volledig op. Ze kunnen anoniem of opportunistisch misbruik wel moeilijker maken, terwijl geautoriseerde en verantwoordelijke beveiligingstests mogelijk blijven.

Conclusie

Abliteration.ai maakt van een modelaanpassing een gehost product: het biedt een GLM-5.3-afgeleide zonder weigergedrag voor cyberwerk en agenttesten. 17 De red-teamredenering van het bedrijf is begrijpelijk, maar de door TechCrunch gemelde testresultaten tonen waarom het risico meer is dan een theoretische veiligheidskwestie. 7

De kern is governance. Als een dienst juist is bedoeld om hulp te geven die standaardmodellen afwijzen, rust de veiligheidsclaim zwaar op aantoonbare toegangscontroles, betekenisvolle screening en verantwoordelijkheid — niet alleen op de verklaarde defensieve intentie van gebruikers.