OpenAI's AI-modeller bestod en selvlært sikkerhedstest: 700.000 GPU-timer afslørede sårbarheder i GPT-5.6

Hvad OpenAI faktisk bruger: Et RL-baseret automatiseret red-teaming-rammeværk

OpenAI's tilgang til automatiseret red-teaming er dokumenteret i deres rapport 'Diverse and Effective Red Teaming with Auto-generated Rewards' (14. juli 2026) . Systemet opdeler red-teaming-problemet i to trin:

1. Automatisk generering af forskellige angrebsmål – systemet skaber en bred vifte af modstridende mål, der skal testes.
2. Effektiv angrebsgenerering ved hjælp af multi-step reinforcement learning – en angrebsmodel trænes og belønnes for at producere succesfulde angreb, der opfylder disse mål .

Denne metode bruger self-play, hvor en LLM-baseret automatisk angriber undersøger target-modellen for svagheder som prompt injection og jailbreaks . OpenAI har udtalt, at denne RL-drevne tilgang hjælper med proaktivt at opdage og rette sikkerhedshuller, før de kan udnyttes i virkeligheden . Virksomheden har beskrevet prompt injection som en 'front-sikkerhedsudfordring' og bruger aktivt automatiseret red-teaming til at udvikle nye prompt injection-angreb .

700.000 GPU-timers black-box-test af GPT-5.6

Før GPT-5.6 blev almindeligt tilgængelig, underkastede OpenAI modellen sin mest omfattende evalueringsperiode nogensinde . GPT-5.6 Preview System Card udtaler: 'Vi har også brugt over 700.000 A100e GPU-timer på automatisk at finde universelle jailbreaks og andre sårbarheder' . Denne automatiserede testning supplerede ugers menneskelig red-teaming og eksterne domæneekspertvurderinger .

Virksomheden allokerede dette massive computerbudget til at søge efter generelle, systemiske jailbreaks snarere end bare snævre, enkeltstående fejl . Det automatiserede red-teaming var designet til at køre kontinuerligt selv efter implementering, med afhjælpninger og gentestning, efterhånden som nye jailbreaks bliver rapporteret .

GPT-5.6's risikovurderinger: Høj, men under kritisk

Under OpenAI's Preparedness Framework er alle tre GPT-5.6-varianter – Sol (flagskib), Terra (lavere omkostning) og Luna (hurtigst) – klassificeret som 'Høj' kapabilitet inden for både cybersikkerhed og biologisk/kemisk risiko . Dette er første gang, selv de mindre, billigere modeller har krydset Høj-tærsklen for disse kategorier .

Ingen af modellerne nåede dog 'Kritisk'-tærsklen. Interne cybersikkerhedstests viste, at GPT-5.6 Sol og Terra kunne identificere sårbarheder og dele af udnyttelser, men ikke selvstændigt kunne gennemføre komplette ende-til-ende-angreb . Ingen af modellerne nåede Høj-tærsklen for AI-selvforbedring .

Det flerlagede sikkerhedsstack

GPT-5.6 leveres med, hvad OpenAI beskriver som 'de mest robuste sikkerhedsforanstaltninger til dato' . Sikkerhedsarkitekturen omfatter:

• Indbygget modelafvisning for højrisikoforespørgsler
• Realtidsaktiveringsklassifikatorer, der screener interne neurale signaler under inferens og kan pause generation, hvis højrisikomønstre opstår
• Realtidsklassifikatorer for cyber- og biologi-misbrug
• Kontoniveaugennemgang og differentieret adgangskontrol

Denne lagdelte tilgang afspejler OpenAI's konklusion om, at ingen enkelt sikkerhedsforanstaltning er tilstrækkelig .

Forskerrollen inden for automatiseret red-teaming (ART)

OpenAI opbygger aktivt sin interne kapacitet til automatiseret red-teaming. Virksomheden ansætter en Researcher, Automated Red Teaming (basisløn $295K–$445K), hvis rolle er at 'lede Automated Red Teaming-indsatsen med fokus på at bygge skalerbare systemer til at afdække fejltilstande i AI-modeller og sikkerhedsforanstaltninger' . Virksomheden rekrutterer også en Biosafety Red Teaming Specialist ($158K–$320K) til at lede biosikkerheds- og CBRN-red-teaming-indsatsen .

$500.000 Kaggle-udfordringen

OpenAI var vært for en Red-Teaming Challenge på Kaggle med en præmiepulje på $500.000, med fokus på deres open-weight-modeller gpt-oss-120b og gpt-oss-20b . Konkurrencen incitamenterede deltagere til at opdage nye sårbarheder, der ikke tidligere var identificeret . Mens det specifikke $500.000-beløb og udfordringsdetaljer ikke kunne verificeres uafhængigt fra officielle OpenAI-kilder i denne analyse, bekræfter tredjepartsrapportering fra TechPolicy.Press konkurrencens eksistens . GPT-5.6 System Card nævner 'MLE-Bench Revised', som evaluerer modeller på Kaggle-konkurrencer, men henviser ikke direkte til $500.000-præmien.

Regulatorisk kontekst og usikkerhed

De tilgængelige beviser bekræfter, at GPT-5.6 leveres med et flerlaget sikkerhedsstack, og at OpenAI's beredskabsramme klassificerede deres egne modeller . Tredjepartsdækning bemærker, at den amerikanske regering er engageret i en 'gatekeeping'-kontekst, hvor regeringen kan påvirke adgangen til de mest kapable modeller . Direkte omtale af UK AI Safety Institute eller specifikke amerikanske regulatoriske handlinger var dog ikke til stede i de gennemgåede primære kilder. OpenAI's egen systemkortdokumentation adresserer sikkerhedsklassifikationer, men detaljerer ikke eksternt regulatorisk tilsyn ud over dets eget Preparedness Framework .