OpenAIs automatiserade rödlagningssystem testade GPT-5.6 i 700.000 GPU-timmar – så fungerar det

Vad OpenAI faktiskt använder: Ett RL-baserat automatiserat rödlagningsramverk

OpenAIs automatiserade rödlagningsmetodik beskrivs i forskningsrapporten 'Diverse and Effective Red Teaming with Auto-generated Rewards' (14 juli 2026) . Systemet delar upp rödlagningsproblemet i två steg:

1. Automatiserad generering av varierande attackmål – systemet skapar en bred uppsättning motståndarobjekt att testa.
2. Effektiv attackgenerering med flerstegs-förstärkningsinlärning – en attackmodell tränas och belönas för att framgångsrikt producera attacker som uppfyller målen .

Metoden använder självspel, där en LLM-baserad automatisk angripare testar målmodellen för svagheter som prompt injection och jailbreaks . OpenAI har uppgett att detta RL-drivna tillvägagångssätt hjälper till att proaktivt upptäcka och åtgärda sårbarheter innan de kan utnyttjas i verkligheten . Företaget har beskrivit prompt injection som en 'frontsäkerhetsutmaning' och använder aktivt automatiserad rödlaging för att utveckla nya typer av promptinjektionsattacker .

700.000 GPU-timmars black-box-test av GPT-5.6

Innan GPT-5.6 nådde allmän tillgänglighet utsatte OpenAI modellen för sin mest omfattande utvärderingsperiod hittills . I GPT-5.6 Preview System Card står det: 'Vi har också dedicerat över 700.000 A100e GPU-timmar för att automatiskt hitta universella jailbreaks och andra sårbarheter' . Den automatiserade testningen kompletterade veckor av mänsklig rödlaging och externa expertevalueringar .

Företaget använde den massiva datorbudgeten för att söka efter generella, systemiska jailbreaks snarare än bara smala, isolerade fel . Den automatiserade rödlagningen designades för att fortsätta även efter lansering, med åtgärder och omtestning när nya jailbreaks rapporteras .

GPT-5.6:s riskklassificering: Hög men under kritisk

Enligt OpenAIs beredskapsramverk (Preparedness Framework) klassificeras alla tre GPT-5.6-varianter – Sol (flaggskepp), Terra (lägre kostnad) och Luna (snabbast) – som 'Hög' förmåga inom både cybersäkerhet och biologisk/kemisk risk . Detta är första gången även de mindre, billigare modellerna har passerat tröskeln för 'Hög' i dessa kategorier .

Ingen av modellerna nådde dock tröskeln för 'Kritisk'. Interna cybersäkerhetstester visade att GPT-5.6 Sol och Terra kunde identifiera sårbarheter och delar av attacker, men inte autonomt genomföra hela attacker från början till slut . Ingen av modellerna nådde heller tröskeln för 'Hög' inom AI-självförbättring .

Säkerhetsarkitekturen i flera lager

GPT-5.6 levereras med vad OpenAI beskriver som 'sina mest robusta säkerhetsåtgärder hittills' . Säkerhetsarkitekturen omfattar:

• Inbyggda modellavvisanden för högriskförfrågningar
• Realtidsaktiveringsklassificerare som övervakar interna neurala signaler under inferens och kan pausa genereringen om högriskmönster upptäcks
• Realtidsklassificerare för cyber- och biologimissbruk
• Kontobaserad granskning och differentierad åtkomstkontroll

Denna skiktade strategi speglar OpenAIs slutsats att ingen enskild säkerhetsåtgärd är tillräcklig .

Forskarrollen inom automatiserad rödlaging (ART)

OpenAI bygger aktivt upp sin interna kapacitet för automatiserad rödlaging. Företaget anställer en 'Researcher, Automated Red Teaming' (grundlön $295.000–$445.000) vars uppgift är att 'leda det automatiserade rödlagningsarbetet med fokus på att bygga skalbara system som upptäcker felbeteenden i AI-modeller och säkerhetsåtgärder' . Företaget rekryterar också en 'Biosafety Red Teaming Specialist' ($158.000–$320.000) för att leda biosäkerhets- och CBRN-rödlagningsarbete .

$500.000 Kaggle-utmaningen

OpenAI arrangerade en rödlagningsutmaning på Kaggle med en prispott på $500.000, fokuserad på sina öppna viktmodeller gpt-oss-120b och gpt-oss-20b . Tävlingen uppmuntrade deltagarna att upptäcka nya sårbarheter som inte tidigare identifierats . Även om den specifika summan på $500.000 och utmaningsdetaljerna inte kunde verifieras oberoende från officiella OpenAI-källor i denna analys, bekräftar tredjepartsrapportering från TechPolicy.Press att tävlingen ägde rum . GPT-5.6 System Card nämner 'MLE-Bench Revised', som utvärderar modeller på Kaggle-tävlingar, men refererar inte direkt till priset på $500.000.

Regulatorisk kontext och osäkerhet

Tillgänglig information bekräftar att GPT-5.6 levereras med en flerskiktad säkerhetsstack och att OpenAIs beredskapsramverk klassificerade sina egna modeller . Tredjepartsrapportering noterar engagemang från den amerikanska regeringen i en 'gatekeeping'-kontext, där regeringen kan påverka tillgången till de mest kapabla modellerna . Direkta omnämnanden av UK AI Safety Institute eller specifika amerikanska regleringsåtgärder återfanns dock inte i de crawlade primärkällorna. OpenAIs egen systemkortsdokumentation behandlar säkerhetsklassificeringar men detaljerar inte extern regulatorisk granskning utöver sitt eget beredskapsramverk .