Wnętrze zautomatyzowanego „red teamingu” OpenAI: Jak SI ucząca się przez „self-play” znalazła słabości GPT-5.6, zanim Ty zdążyłeś mrugnąć

Metoda ta wykorzystuje „self-play”, w którym zautomatyzowany atakujący oparty na LLM (dużym modelu językowym) bada model docelowy pod kątem słabości, takich jak wstrzykiwanie promptów i jailbreak . OpenAI stwierdziło, że to podejście oparte na RL pomaga proaktywnie odkrywać i łatować exploity, zanim zostaną one użyte w realnym świecie . Firma określiła wstrzykiwanie promptów jako „czołowe wyzwanie bezpieczeństwa” i aktywnie wykorzystuje zautomatyzowany „red teaming” do opracowywania nowatorskich ataków tego typu .

Test czarnej skrzynki GPT-5.6 za 700 000 godzin GPU

Zanim GPT-5.6 trafił do ogólnego użytku, OpenAI poddało model najobszerniejszemu jak dotąd okresowi oceny . Karta systemowa GPT-5.6 Preview stwierdza: „Przeznaczyliśmy również ponad 700 000 godzin GPU A100e na automatyczne znajdowanie uniwersalnych jailbreaków i innych luk” . Te zautomatyzowane testy stanowiły uzupełnienie tygodni „red teamingu” prowadzonego przez ludzi oraz ocen zewnętrznych ekspertów dziedzinowych .

Firma przeznaczyła ten ogromny budżet obliczeniowy na poszukiwanie ogólnych, systemowych jailbreaków, a nie tylko wąskich, jednorazowych błędów . Zautomatyzowany „red teaming” został zaprojektowany tak, aby działał w sposób ciągły nawet po wdrożeniu, a po zgłoszeniu nowych jailbreaków stosowane są środki zaradcze i ponowne testowanie .

Oceny ryzyka GPT-5.6: Wysokie, ale poniżej krytycznego

Zgodnie z ramami gotowości OpenAI (Preparedness Framework), wszystkie trzy warianty GPT-5.6 – Sol (flagship), Terra (niższy koszt) i Luna (najszybszy) – są klasyfikowane jako „Wysokie” pod względem zdolności w cyberbezpieczeństwie oraz ryzyku biologicznym i chemicznym . Po raz pierwszy nawet mniejsze, tańsze modele przekroczyły próg „Wysokiego” w tych kategoriach .

Żaden z modeli nie osiągnął jednak progu „Krytycznego”. Wewnętrzne testy cyberbezpieczeństwa wykazały, że GPT-5.6 Sol i Terra potrafią identyfikować luki i fragmenty exploitów, ale nie są w stanie autonomicznie przeprowadzić kompletnych, kompleksowych ataków . Żaden z modeli nie osiągnął wysokiego progu w kategorii samodoskonalenia AI .

Wielowarstwowy stos bezpieczeństwa

GPT-5.6 jest dostarczany z tym, co OpenAI określa jako „najsolidniejsze zabezpieczenia do tej pory” . Architektura bezpieczeństwa obejmuje:

• Wbudowaną odmowę na poziomie modelu dla żądań wysokiego ryzyka,
• Klasyfikatory aktywacji działające w czasie rzeczywistym, które skanują wewnętrzne sygnały neuronowe podczas wnioskowania i mogą wstrzymać generowanie, jeśli pojawią się wzorce wysokiego ryzyka ,
• Klasyfikatory czasu rzeczywistego dla nadużyć cybernetycznych i biologicznych ,
• Przegląd na poziomie konta i zróżnicowaną kontrolę dostępu .

To warstwowe podejście odzwierciedla wniosek OpenAI, że żaden pojedynczy środek bezpieczeństwa nie jest wystarczający .

Rola badacza zautomatyzowanego „red teamingu” (ART)

OpenAI aktywnie buduje swoje wewnętrzne zdolności w zakresie zautomatyzowanego „red teamingu”. Firma poszukuje pracownika na stanowisko Researcher, Automated Red Teaming (wynagrodzenie zasadnicze 295 000 – 445 000 USD), którego rolą będzie „kierowanie wysiłkami zautomatyzowanego „red teamingu”, koncentrując się na budowaniu skalowalnych systemów do wykrywania trybów awarii w modelach AI i zabezpieczeniach” . Firma rekrutuje również specjalistę ds. „red teamingu” w zakresie bezpieczeństwa biologicznego (Biosafety Red Teaming Specialist, 158 000 – 320 000 USD), który ma kierować działaniami związanymi z bezpieczeństwem biologicznym i CBRN .

Wyzwanie Kaggle za 500 000 dolarów

OpenAI było gospodarzem wyzwania Red-Teaming Challenge na platformie Kaggle z pulą nagród w wysokości 500 000 dolarów, skoncentrowanego na swoich modelach o otwartej wadze: gpt-oss-120b i gpt-oss-20b . Konkurs zachęcał uczestników do odkrycia nowatorskich luk, które nie zostały wcześniej zidentyfikowane . Chociaż konkretna kwota 500 000 dolarów i szczegóły wyzwania nie mogły zostać niezależnie zweryfikowane w oficjalnych źródłach OpenAI w ramach tej analizy, doniesienia zewnętrzne, np. z TechPolicy.Press, potwierdzają istnienie konkursu . Karta systemowa GPT-5.6 wspomina o „MLE-Bench Revised”, który ocenia modele w konkursach Kaggle, ale nie odnosi się bezpośrednio do nagrody 500 000 dolarów.

Kontekst regulacyjny i niepewność

Dostępne dowody potwierdzają, że GPT-5.6 jest dostarczany z wielowarstwowym stosem zabezpieczeń, a ramach gotowości OpenAI klasyfikują własne modele . Relacje zewnętrzne odnotowują zaangażowanie rządu USA w kontekście „gatekeepingu”, w ramach którego rząd może wpływać na dostęp do najbardziej wydajnych modeli . Jednak bezpośrednie wzmianki o UK AI Safety Institute lub konkretnych działaniach regulacyjnych USA nie były obecne w przeszukanych źródłach pierwotnych. Oficjalna dokumentacja karty systemowej OpenAI dotyczy klasyfikacji bezpieczeństwa, ale nie opisuje szczegółowo zewnętrznego nadzoru regulacyjnego poza własnymi ramami gotowości .