OpenAI’s geautomatiseerde red-teaming: hoe AI met zelfspel de zwakke plekken van GPT-5.6 blootlegde

Wat OpenAI werkelijk gebruikt: een RL-gebaseerd geautomatiseerd red-teaming-framework

OpenAI’s aanpak van geautomatiseerd red-teaming staat beschreven in de paper ‘Diverse and Effective Red Teaming with Auto-generated Rewards’ (14 juli 2026) . Het systeem verdeelt het red-teaming-probleem in twee stappen:

1. Geautomatiseerd genereren van diverse aanvalsdoelen – het systeem creëert een breed scala aan adversarial doelen om te testen.
2. Effectieve aanvalsgeneratie met meerstaps-reinforcement learning – een aanvalsmodel wordt getraind en beloond voor het succesvol produceren van aanvallen die deze doelen bereiken .

Deze methode maakt gebruik van zelfspel, waarbij een op LLM gebaseerde geautomatiseerde aanvaller het doelsysteem doorzoekt op zwakke plekken zoals prompt injectie en jailbreaks . OpenAI stelt dat deze RL-gedreven aanpak helpt om exploits proactief te ontdekken en te verhelpen voordat ze in het wild worden ingezet . Het bedrijf beschouwt prompt injectie als een ‘frontier-beveiligingsuitdaging’ en zet geautomatiseerd red-teaming actief in om nieuwe prompt-injectie-aanvallen te ontwikkelen .

De 700.000 GPU-uren durende black-boxtest van GPT-5.6

Voordat GPT-5.6 algemeen beschikbaar kwam, onderwierp OpenAI het model aan de meest uitgebreide evaluatieperiode tot nu toe . De GPT-5.6 Preview System Card vermeldt: ‘We hebben ook meer dan 700.000 A100 GPU-uren besteed aan het automatisch vinden van universele jailbreaks en andere kwetsbaarheden’ . Deze geautomatiseerde tests vulden wekenlange human red-teaming en evaluaties door externe domeinexperts aan .

Het bedrijf zette dit enorme computervolume in om te zoeken naar algemene, systemische jailbreaks in plaats van alleen smalle, eenmalige fouten . Het geautomatiseerd red-teaming was ontworpen om ook na de uitrol continu te draaien, met mitigaties en hertests zodra nieuwe jailbreaks werden gemeld .

GPT-5.6’s risicoclassificaties: hoog maar niet kritiek

Binnen OpenAI’s Preparedness Framework worden alle drie GPT-5.6-varianten – Sol (vlaggenschip), Terra (goedkoper) en Luna (snelste) – geclassificeerd als ‘Hoog’ in zowel cybersecurity als biologisch/chemisch risico . Voor het eerst overschrijden zelfs de kleinere, goedkopere modellen de hoge drempel voor deze categorieën .

Geen van de modellen bereikte echter de ‘Kritieke’ drempel. Interne cybersecurity-tests toonden aan dat GPT-5.6 Sol en Terra weliswaar kwetsbaarheden en delen van exploits konden identificeren, maar niet in staat waren om autonoom volledige end-to-end-aanvallen uit te voeren . Geen van de modellen bereikte de hoge drempel voor AI-zelfverbetering .

De meerlaagse veiligheidsstack

GPT-5.6 wordt geleverd met wat OpenAI omschrijft als zijn ‘meest robuuste beveiligingsmaatregelen tot nu toe’ . De veiligheidsarchitectuur omvat:

• Ingebouwde weigering op modelniveau voor risicovolle verzoeken
• Real-time activatieclassificatoren die interne neurale signalen tijdens de inferentie screenen en de generatie kunnen pauzeren als er risicovolle patronen worden gedetecteerd
• Real-time classificatoren voor cyber- en biologisch misbruik
• Beoordeling op accountniveau en differentiële toegangscontrole

Deze gelaagde aanpak weerspiegelt OpenAI’s conclusie dat geen enkele beveiligingsmaatregel op zichzelf voldoende is .

De Automated Red Teaming (ART)-onderzoekersrol

OpenAI bouwt actief aan zijn interne capaciteit voor geautomatiseerd red-teaming. Het bedrijf werft een Researcher, Automated Red Teaming (basissalaris $295K–$445K) wiens taak het is om ‘de Automated Red Teaming-inspanning te leiden, met focus op het bouwen van schaalbare systemen om foutmodi in AI-modellen en beveiligingsmaatregelen bloot te leggen’ . Ook zoekt het bedrijf een Biosafety Red Teaming Specialist ($158K–$320K) om bioveiligheid en CBRN-red-teaming te leiden .

De $500.000 Kaggle-uitdaging

OpenAI organiseerde een Red-Teaming Challenge op Kaggle met een prijzenpot van $500.000, gericht op de opengewichtsmodellen gpt-oss-120b en gpt-oss-20b . De competitie stimuleerde deelnemers om nieuwe kwetsbaarheden te ontdekken die nog niet eerder waren geïdentificeerd . Hoewel het specifieke bedrag van $500.000 en de details van de challenge in deze analyse niet onafhankelijk uit officiële OpenAI-bronnen konden worden geverifieerd, bevestigt berichtgeving van TechPolicy.Press het bestaan van de competitie . De GPT-5.6 System Card vermeldt ‘MLE-Bench Revised’, dat modellen evalueert op Kaggle-competities, maar verwijst niet rechtstreeks naar de $500.000-prijs.

Regelgevingscontext en onzekerheid

Het beschikbare bewijs bevestigt dat GPT-5.6 wordt geleverd met een meerlaagse veiligheidsstack en dat OpenAI’s Preparedness Framework de eigen modellen classificeert . Berichtgeving van derden wijst op betrokkenheid van de Amerikaanse overheid in een ‘poortwachters’-context, waarbij de overheid de toegang tot de meest capabele modellen kan beïnvloeden . Directe vermelding van het UK AI Safety Institute of specifieke Amerikaanse regelgevende maatregelen was echter niet aanwezig in de geraadpleegde primaire bronnen. OpenAI’s eigen systeemkaartdocumentatie behandelt veiligheidsclassificaties, maar gaat niet in detail over externe toezicht buiten het eigen Preparedness Framework .