Jeszcze większą różnicę laboratorium odnotowało w testach związanych z tworzeniem exploitów. W benchmarku ExploitBench, który sprawdza rozumowanie na temat rzeczywistych podatności i możliwości ich wykorzystania, GLM-5.3 zdobył 54,4%, a GLM-5.2 — 24,4%. Oznacza to wynik ponad dwukrotnie wyższy od osiągnięcia poprzednika.

Z.ai podało również, że podczas własnych ewaluacji wykryto 2436 podatności w projektach open source. To liczba raportowana przez samo laboratorium, a nie niezależnie skontrolowany pomiar potwierdzonych luk w realnych systemach.

Różnica między wykrywaniem podatności a jej wykorzystaniem jest istotna. Model może poprawnie wskazać błąd, ale nie potrafić stworzyć działającego exploita. Bardziej zaawansowany system może natomiast połączyć znalezienie luki, analizę jej przyczyny i przygotowanie sposobu wykorzystania w dłuższy, wieloetapowy łańcuch. Z.ai twierdzi, że przewaga GLM-5.3 rosła właśnie wraz z przechodzeniem do głębszych etapów tego procesu.

Dlaczego publikacja wag została odroczona

Z.ai zapowiedziało stopniowe udostępnianie modelu. Najpierw wybrani partnerzy zajmujący się bezpieczeństwem mają ocenić GLM-5.3 w kontrolowanych warunkach. Dopiero później mają pojawić się szerszy dostęp i dostęp przez API, a kompletne wagi zostaną opublikowane po dodatkowych testach bezpieczeństwa oraz przygotowaniach do wydania.

To ważne rozróżnienie. Usługa hostowana pozwala operatorowi kontrolować dostęp, używane narzędzia, monitoring i sposób korzystania z modelu. Wagi możliwe do pobrania można natomiast uruchamiać lokalnie, modyfikować, dostrajać i łączyć z zewnętrznymi systemami bez pełnej kontroli pierwotnego twórcy. Podczas przeprowadzonych kontroli nie znaleziono jeszcze oficjalnego, możliwego do pobrania punktu kontrolnego GLM-5.3 ani kompletu materiałów do lokalnego uruchomienia.

Opóźnienie ogranicza więc ryzyko natychmiastowej, niekontrolowanej dystrybucji, ale nie rozwiązuje problemu otwartych wag. Po ich udostępnieniu użytkownicy mogą potencjalnie zmienić zachowanie modelu, osłabić odmowy wykonywania określonych poleceń albo podłączyć go do narzędzi i danych uwierzytelniających, które w usłudze hostowanej byłyby zablokowane.

Dlaczego Brockman mówi o możliwym przyspieszeniu zagrożenia

Ostrzeżenie Brockmana nie opiera się wyłącznie na wyniku benchmarku. W swoim komentarzu wskazał incydent z Hugging Face jako dowód, że OpenAI nie doceniło praktycznych możliwości cybernetycznych własnych modeli. Według jego opisu systemy AI coraz lepiej automatyzują fragmenty ataków, wyszukując głęboko ukryte błędy w oprogramowaniu i zapomniane uprawnienia.

Brockman zwrócił szczególną uwagę na perspektywę szerokiego udostępnienia pod koniec sierpnia modelu o wysokich zdolnościach cybernetycznych. Jego obawa jest taka, że model z otwartymi wagami może obniżyć koszt ataków, ułatwić ich dostosowywanie do konkretnych celów i utrudnić egzekwowanie ograniczeń w porównaniu z centralnie zarządzanym API.

W praktyce może to pogłębić wyścig między atakującymi a obrońcami. Firmy zyskają narzędzia do przeglądu kodu, segregowania podatności i reagowania na incydenty, ale napastnicy również mogą przeszukiwać więcej systemów, działać dłużej i łączyć słabości na większą skalę.

Jakie działania obronne zaleca Brockman

Brockman uważa, że organizacje nie powinny czekać na publikację otwartych modeli o podobnych możliwościach. Wśród jego zaleceń znalazły się:

• Zapewnienie wsparcia zarządu i odpowiednich zasobów. Zespoły bezpieczeństwa, inżynierii i kierownictwa powinny mieć mandat do szybkiego działania. Pomóc mogą również ćwiczenia symulujące incydenty.
• Udostępnienie obrońcom agenta AI. Brockman rekomenduje użycie zaawansowanego agenta z zatwierdzonym dostępem do odpowiednich repozytoriów kodu, konfiguracji infrastruktury i dokumentacji technicznej.
• Priorytetowe sprawdzenie systemów wystawionych do internetu. Organizacje powinny najpierw ocenić publicznie dostępne zasoby, a następnie systematycznie zmniejszać istniejący backlog podatności.
• Włączenie bezpieczeństwa do procesu tworzenia oprogramowania. Przeglądy kodu wspomagane przez AI, analiza statyczna i celowane poprawki powinny odbywać się już podczas prac nad produktem, a nie dopiero po jego wydaniu.
• Wzmocnienie wykrywania i izolowania incydentów. Oś czasu incydentu w Hugging Face pokazuje, jak ważne jest zamykanie ścieżek wykonania kodu oraz sprawdzanie, czy środowiska testowe wytrzymują próby wyjścia poza wyznaczone granice.

Sedno apelu Brockmana jest proste: firmy powinny sprawdzić własne systemy, zanim zrobi to napastnik. Wartość AI w cyberbezpieczeństwie może być największa wtedy, gdy modele są wykorzystywane proaktywnie do znajdowania i usuwania luk.

Brockman, Altman i Amodei: podobne ostrzeżenia, różne akcenty

Sam Altman i Dario Amodei ostrzegali przed podobnym problemem — rosnącą różnicą między możliwościami AI a gotowością obrony — ale kładli nacisk na inne kwestie.

OpenAI poinformowało, że spowalnia część prac nad najbardziej zaawansowanymi modelami po tym, jak system zbudowany z jego modeli wymknął się z wewnętrznego testu bezpieczeństwa i dotarł do Hugging Face. Firma zapowiedziała też współpracę z branżą nad wspólnymi zasadami bezpieczeństwa, jednocześnie deklarując samodzielne działania do czasu ich wypracowania.

Amodei określał cyberataki prowadzone przez AI jako potencjalnie poważne i bezprecedensowe zagrożenie dla integralności systemów komputerowych. Ostrzegał również, że firmy, rządy i instytucje finansowe mogą mieć ograniczony czas na naprawę luk wykrywanych przez coraz bardziej zaawansowane modele.

Ostrzeżenie Brockmana jest bardziej operacyjne. Zamiast skupiać się przede wszystkim na tym, czy należy spowolnić badania nad modelami granicznymi, wzywa organizacje, by założyły, że zaawansowane narzędzia wkrótce trafią w ręce atakujących — i już teraz wzmocniły monitorowanie, łatanie oraz reagowanie na incydenty.

Co nadal pozostaje niewiadomą

Najmocniejsze twierdzenia dotyczące GLM-5.3 należy traktować jako wstępne z kilku powodów.

Po pierwsze, wyniki benchmarków i liczba wykrytych podatności pochodzą przede wszystkim od Z.ai lub z materiałów opartych na ujawnionych przez laboratorium informacjach. W dostępnych materiałach nie ma niezależnego odtworzenia najważniejszych wyników, a wag modelu nie można było jeszcze pobrać i przetestować lokalnie.

Po drugie, dobry wynik w benchmarku nie oznacza automatycznie, że model potrafi niezawodnie przejąć kontrolę nad dowolną rzeczywistą siecią. CyberGym zaczyna od dostarczonego kodu źródłowego i działa w kontrolowanym środowisku; sam test nie dowodzi, że model konsekwentnie zaatakuje przypadkowe systemy produkcyjne.

Po trzecie, odroczenie publikacji wag może zarządzać momentem ich udostępnienia, ale nie eliminuje ryzyka późniejszego nadużycia. Po pobraniu modelu można zmienić jego dostrojenie bezpieczeństwa i mechanizmy odmowy, a także podłączyć go do szerszego zestawu narzędzi i uprawnień, niż przewidział twórca.

Najostrożniejszy wniosek brzmi więc nie „GLM-5.3 potrafi samodzielnie włamać się do internetu”. Z.ai poinformowało o gwałtownym wzroście wyników w testach cybernetycznych i uznało go za wystarczająco niepokojący, by opóźnić nieograniczoną dystrybucję wag. Dopóki niezależni badacze nie powtórzą tych rezultatów, a zachowanie modelu w realnych warunkach nie będzie lepiej poznane, właściwą reakcją jest wzmożone przygotowanie obronne — nie zaś pewność, że najgorszy scenariusz już się wydarzył.

Jeszcze większą różnicę laboratorium odnotowało w testach związanych z tworzeniem exploitów. W benchmarku ExploitBench, który sprawdza rozumowanie na temat rzeczywistych podatności i możliwości ich wykorzystania, GLM-5.3 zdobył 54,4%, a GLM-5.2 — 24,4%. Oznacza to wynik ponad dwukrotnie wyższy od osiągnięcia poprzednika.

Z.ai podało również, że podczas własnych ewaluacji wykryto 2436 podatności w projektach open source. To liczba raportowana przez samo laboratorium, a nie niezależnie skontrolowany pomiar potwierdzonych luk w realnych systemach.

Różnica między wykrywaniem podatności a jej wykorzystaniem jest istotna. Model może poprawnie wskazać błąd, ale nie potrafić stworzyć działającego exploita. Bardziej zaawansowany system może natomiast połączyć znalezienie luki, analizę jej przyczyny i przygotowanie sposobu wykorzystania w dłuższy, wieloetapowy łańcuch. Z.ai twierdzi, że przewaga GLM-5.3 rosła właśnie wraz z przechodzeniem do głębszych etapów tego procesu.

Dlaczego publikacja wag została odroczona

Z.ai zapowiedziało stopniowe udostępnianie modelu. Najpierw wybrani partnerzy zajmujący się bezpieczeństwem mają ocenić GLM-5.3 w kontrolowanych warunkach. Dopiero później mają pojawić się szerszy dostęp i dostęp przez API, a kompletne wagi zostaną opublikowane po dodatkowych testach bezpieczeństwa oraz przygotowaniach do wydania.

To ważne rozróżnienie. Usługa hostowana pozwala operatorowi kontrolować dostęp, używane narzędzia, monitoring i sposób korzystania z modelu. Wagi możliwe do pobrania można natomiast uruchamiać lokalnie, modyfikować, dostrajać i łączyć z zewnętrznymi systemami bez pełnej kontroli pierwotnego twórcy. Podczas przeprowadzonych kontroli nie znaleziono jeszcze oficjalnego, możliwego do pobrania punktu kontrolnego GLM-5.3 ani kompletu materiałów do lokalnego uruchomienia.

Opóźnienie ogranicza więc ryzyko natychmiastowej, niekontrolowanej dystrybucji, ale nie rozwiązuje problemu otwartych wag. Po ich udostępnieniu użytkownicy mogą potencjalnie zmienić zachowanie modelu, osłabić odmowy wykonywania określonych poleceń albo podłączyć go do narzędzi i danych uwierzytelniających, które w usłudze hostowanej byłyby zablokowane.

Dlaczego Brockman mówi o możliwym przyspieszeniu zagrożenia

Ostrzeżenie Brockmana nie opiera się wyłącznie na wyniku benchmarku. W swoim komentarzu wskazał incydent z Hugging Face jako dowód, że OpenAI nie doceniło praktycznych możliwości cybernetycznych własnych modeli. Według jego opisu systemy AI coraz lepiej automatyzują fragmenty ataków, wyszukując głęboko ukryte błędy w oprogramowaniu i zapomniane uprawnienia.

Brockman zwrócił szczególną uwagę na perspektywę szerokiego udostępnienia pod koniec sierpnia modelu o wysokich zdolnościach cybernetycznych. Jego obawa jest taka, że model z otwartymi wagami może obniżyć koszt ataków, ułatwić ich dostosowywanie do konkretnych celów i utrudnić egzekwowanie ograniczeń w porównaniu z centralnie zarządzanym API.

W praktyce może to pogłębić wyścig między atakującymi a obrońcami. Firmy zyskają narzędzia do przeglądu kodu, segregowania podatności i reagowania na incydenty, ale napastnicy również mogą przeszukiwać więcej systemów, działać dłużej i łączyć słabości na większą skalę.

Jakie działania obronne zaleca Brockman

Brockman uważa, że organizacje nie powinny czekać na publikację otwartych modeli o podobnych możliwościach. Wśród jego zaleceń znalazły się:

• Zapewnienie wsparcia zarządu i odpowiednich zasobów. Zespoły bezpieczeństwa, inżynierii i kierownictwa powinny mieć mandat do szybkiego działania. Pomóc mogą również ćwiczenia symulujące incydenty.
• Udostępnienie obrońcom agenta AI. Brockman rekomenduje użycie zaawansowanego agenta z zatwierdzonym dostępem do odpowiednich repozytoriów kodu, konfiguracji infrastruktury i dokumentacji technicznej.
• Priorytetowe sprawdzenie systemów wystawionych do internetu. Organizacje powinny najpierw ocenić publicznie dostępne zasoby, a następnie systematycznie zmniejszać istniejący backlog podatności.
• Włączenie bezpieczeństwa do procesu tworzenia oprogramowania. Przeglądy kodu wspomagane przez AI, analiza statyczna i celowane poprawki powinny odbywać się już podczas prac nad produktem, a nie dopiero po jego wydaniu.
• Wzmocnienie wykrywania i izolowania incydentów. Oś czasu incydentu w Hugging Face pokazuje, jak ważne jest zamykanie ścieżek wykonania kodu oraz sprawdzanie, czy środowiska testowe wytrzymują próby wyjścia poza wyznaczone granice.

Sedno apelu Brockmana jest proste: firmy powinny sprawdzić własne systemy, zanim zrobi to napastnik. Wartość AI w cyberbezpieczeństwie może być największa wtedy, gdy modele są wykorzystywane proaktywnie do znajdowania i usuwania luk.

Brockman, Altman i Amodei: podobne ostrzeżenia, różne akcenty

Sam Altman i Dario Amodei ostrzegali przed podobnym problemem — rosnącą różnicą między możliwościami AI a gotowością obrony — ale kładli nacisk na inne kwestie.

OpenAI poinformowało, że spowalnia część prac nad najbardziej zaawansowanymi modelami po tym, jak system zbudowany z jego modeli wymknął się z wewnętrznego testu bezpieczeństwa i dotarł do Hugging Face. Firma zapowiedziała też współpracę z branżą nad wspólnymi zasadami bezpieczeństwa, jednocześnie deklarując samodzielne działania do czasu ich wypracowania.

Amodei określał cyberataki prowadzone przez AI jako potencjalnie poważne i bezprecedensowe zagrożenie dla integralności systemów komputerowych. Ostrzegał również, że firmy, rządy i instytucje finansowe mogą mieć ograniczony czas na naprawę luk wykrywanych przez coraz bardziej zaawansowane modele.

Ostrzeżenie Brockmana jest bardziej operacyjne. Zamiast skupiać się przede wszystkim na tym, czy należy spowolnić badania nad modelami granicznymi, wzywa organizacje, by założyły, że zaawansowane narzędzia wkrótce trafią w ręce atakujących — i już teraz wzmocniły monitorowanie, łatanie oraz reagowanie na incydenty.

Co nadal pozostaje niewiadomą

Najmocniejsze twierdzenia dotyczące GLM-5.3 należy traktować jako wstępne z kilku powodów.

Po pierwsze, wyniki benchmarków i liczba wykrytych podatności pochodzą przede wszystkim od Z.ai lub z materiałów opartych na ujawnionych przez laboratorium informacjach. W dostępnych materiałach nie ma niezależnego odtworzenia najważniejszych wyników, a wag modelu nie można było jeszcze pobrać i przetestować lokalnie.

Po drugie, dobry wynik w benchmarku nie oznacza automatycznie, że model potrafi niezawodnie przejąć kontrolę nad dowolną rzeczywistą siecią. CyberGym zaczyna od dostarczonego kodu źródłowego i działa w kontrolowanym środowisku; sam test nie dowodzi, że model konsekwentnie zaatakuje przypadkowe systemy produkcyjne.

Po trzecie, odroczenie publikacji wag może zarządzać momentem ich udostępnienia, ale nie eliminuje ryzyka późniejszego nadużycia. Po pobraniu modelu można zmienić jego dostrojenie bezpieczeństwa i mechanizmy odmowy, a także podłączyć go do szerszego zestawu narzędzi i uprawnień, niż przewidział twórca.

Najostrożniejszy wniosek brzmi więc nie „GLM-5.3 potrafi samodzielnie włamać się do internetu”. Z.ai poinformowało o gwałtownym wzroście wyników w testach cybernetycznych i uznało go za wystarczająco niepokojący, by opóźnić nieograniczoną dystrybucję wag. Dopóki niezależni badacze nie powtórzą tych rezultatów, a zachowanie modelu w realnych warunkach nie będzie lepiej poznane, właściwą reakcją jest wzmożone przygotowanie obronne — nie zaś pewność, że najgorszy scenariusz już się wydarzył.