Abliteration.ai udostępnia modele AI bez mechanizmu odmowy

Abliteration.ai komercjalizuje kontrowersyjny pomysł znany w świecie modeli o otwartych wagach: usunąć skłonność modelu do odmawiania realizacji niebezpiecznych poleceń, a następnie udostępnić tak zmodyfikowany system jako usługę online. Jej pochodną modelu GLM-5.3 firmy Z.ai można odpytywać w przeglądarce lub przez API. Oznacza to przeniesienie procesu, który wcześniej wymagał technicznej wiedzy, własnej infrastruktury i samodzielnego uruchomienia modelu, na gotową platformę. 7

Firma przedstawia usługę jako narzędzie dla ofensywnego cyberbezpieczeństwa, zespołów red team oraz testów agentów AI. Problem polega na tym, że model przydatny w autoryzowanych testach może równocześnie obniżać próg wejścia dla osób działających w złej wierze. Testy opisane przez TechCrunch wskazują właśnie na takie ryzyko. 7

Czym jest „abliteration”

W tym kontekście abliteration oznacza modyfikowanie modelu tak, aby ograniczyć albo usunąć wyuczone zachowanie polegające na odrzucaniu szkodliwych próśb. Nie jest to zwykłe znalezienie sprytnego promptu, który omija zasady chatbota.

Abliteration.ai twierdzi, że identyfikuje w wewnętrznych aktywacjach modelu kierunki związane z odmowami, a następnie usuwa je z wag modelu. Według firmy ma to zachować zdolności związane z programowaniem, cyberbezpieczeństwem i agentami AI, jednocześnie pozwalając modelowi kontynuować ciąg zadań, który system z silniejszymi ograniczeniami bezpieczeństwa przerwałby wcześniej. 1315

Ten opis oraz deklarację o zachowaniu użytecznych możliwości należy traktować jako stanowisko firmy. Dostarczone materiały nie zawierają niezależnej oceny, która potwierdzałaby, że zmodyfikowany GLM-5.3 działa tak samo jak model bazowy pod względem możliwości, niezawodności lub zachowania istotnego dla bezpieczeństwa. 13

Co oferuje Abliteration.ai

Abliteration.ai hostuje zmodyfikowane modele o otwartych wagach, w tym oparty na GLM-5.3 model o nazwie abliterated-model-large-v2. Usługa jest promowana do ofensywnych działań cybernetycznych, red teamingu i testowania agentów, z dostępem przez interfejs internetowy oraz API. 17

Sposób dystrybucji ma tu duże znaczenie. Modele o otwartych wagach można już samodzielnie modyfikować i uruchamiać, jeśli ma się odpowiednie kompetencje oraz zasoby obliczeniowe. Usługa hostowana usuwa jednak znaczną część tego wysiłku: użytkownik nie musi pobierać, zmieniać ani serwować modelu lokalnie. 37

Co uzyskał TechCrunch podczas testów

TechCrunch podał, że jego dziennikarze szybko założyli bezpłatne konto w wersji webowej i otrzymali od hostowanego modelu odpowiedzi na prośby, których popularne systemy zwykle by odmówiły. Wśród opisanych wyników znalazły się:

• kod w Pythonie przeznaczony do wykradania zapisanych haseł z Chrome;
• szczegółowy domowy protokół hodowli groźnego ludzkiego patogenu. 7

To istotne przykłady, ponieważ wykraczają poza debatę o nieszkodliwej edukacji z zakresu bezpieczeństwa. Wskazują, że dostępny przez internet model był w stanie dostarczać treści związane zarówno z kradzieżą danych uwierzytelniających, jak i potencjalnymi szkodami biologicznymi. 7

Argument firmy: red teaming potrzebuje realistycznych narzędzi

Stanowisko Abliteration.ai opiera się na klasycznym problemie podwójnego zastosowania technologii. Obrońcy muszą umieć odtwarzać zachowania napastników, aby wykrywać i usuwać słabe punkty. Zespół testujący zabezpieczenia banku, linii lotniczej lub operatora infrastruktury krytycznej może potrzebować sprawdzić odporność systemów na rozwój exploitów, tworzenie ładunków, złośliwą automatyzację czy wieloetapowe scenariusze ataku. Jeśli asystent AI odmawia na każdym etapie, firma przekonuje, że jest mniej przydatny w realistycznych, autoryzowanych testach. 47

Legalne testy penetracyjne, analiza złośliwego oprogramowania, zawody typu capture the flag (CTF) i badania bezpieczeństwa mogą obejmować techniki niebezpieczne poza kontrolowanym, dozwolonym środowiskiem. Trudność polega na tym, że identyczna pomoc może służyć również atakującym. 24

Skąd biorą się obawy krytyków

Usługa hostowana zmniejsza barierę nadużyć

Główne zastrzeżenie nie polega na tym, że modele pozbawione mechanizmów odmowy mogą w ogóle istnieć. Modele o otwartych wagach już pozwalają technicznie zaawansowanym użytkownikom eksperymentować z takimi zmianami. Chodzi raczej o to, że dostęp przez przeglądarkę lub API upraszcza zdobycie potencjalnie szkodliwych możliwości bez zarządzania wagami modelu i własną infrastrukturą obliczeniową. 37

Zachowanie możliwości modelu nie zostało niezależnie potwierdzone

Firma twierdzi, że jej ingerencja w wagi zachowuje podstawowe możliwości programistyczne i cybernetyczne modelu. Modyfikowanie wag w celu zmiany zachowania dotyczącego odmów może jednak wpływać również na inne wyuczone cechy. W dostarczonych materiałach brakuje niezależnego, szerokiego porównania benchmarkowego, które rozstrzygałoby, czy po modyfikacji nie zmieniają się możliwości, niezawodność lub inne zachowania modelu. 1315

Z promptu trudno ustalić rzeczywisty zamiar

Prośba o pomoc przy exploicie lub wieloetapowym ataku może należeć do dozwolonego audytu bezpieczeństwa — albo do przygotowań do prawdziwego włamania. Opisane przez TechCrunch odpowiedzi dotyczące haseł Chrome i patogenu pokazują, dlaczego sama deklaracja użytkownika nie pozwala wiarygodnie rozpoznać legalnego celu. 7

Debata o zabezpieczeniach: weryfikacja, filtrowanie i odpowiedzialność

Z relacji TechCrunch wynika, że w testowanej ścieżce dostępu nie były widoczne silne bariery: dziennikarze szybko utworzyli konto i skorzystali z systemu bezpłatnie przez przeglądarkę. 7

Dostarczone materiały nie pozwalają jednak kategorycznie stwierdzić, jaki pełny zestaw zabezpieczeń firma obecnie stosuje. Pozostają więc otwarte kluczowe pytania:

• Klasyfikatory szkodliwych działań: czy usługa analizuje prompty lub odpowiedzi pod kątem czynności wysokiego ryzyka?
• Weryfikacja tożsamości klienta: czy użytkownicy są wiarygodnie powiązani z prawdziwą, rozliczalną tożsamością?
• Onboarding w stylu KYC: czy dostęp jest ograniczony do zweryfikowanych organizacji albo uprawnionych specjalistów od bezpieczeństwa?
• Monitorowanie i egzekwowanie zasad: czy istnieją mechanizmy wykrywania nadużyć, badania naruszeń i odbierania dostępu?

Takie środki nie wyeliminowałyby problemu podwójnego zastosowania. Mogłyby jednak utrudnić anonimowe lub oportunistyczne nadużycia, pozostawiając drogę do rozliczalnych, autoryzowanych testów bezpieczeństwa.

Najważniejszy wniosek

Abliteration.ai zamienia technikę modyfikowania modelu w usługę hostowaną: oferuje pochodną GLM-5.3 pozbawioną mechanizmu odmowy, przeznaczoną do pracy w cyberbezpieczeństwie i testowania agentów. 17 Uzasadnienie związane z red teamingiem jest zrozumiałe, lecz wyniki testów opisane przez TechCrunch pokazują, że nie chodzi wyłącznie o teoretyczne ryzyko. 7

Sednem sprawy jest model nadzoru. Gdy usługa została zaprojektowana tak, by udzielać pomocy, której standardowe modele odmawiają, jej bezpieczeństwo zależy przede wszystkim od możliwych do zweryfikowania kontroli dostępu, sensownego filtrowania i rozliczalności użytkowników — a nie tylko od ich deklarowanego, obronnego celu.