OpenAIs hemmelige våpen: KI som hacker KI

Metoden bruker selvspill, der en LLM-basert automatisk angriper tester målmodellen for svakheter som prompt injection og jailbreaks . OpenAI har uttalt at denne RL-drevne tilnærmingen bidrar til å oppdage og lappe sårbarheter før de kan utnyttes i praksis . Selskapet omtaler prompt injection som en «sikkerhetsutfordring på frontlinjen» og bruker aktivt automatisert testing for å utvikle nye angrepsmetoder .

700 000 GPU-timer med svart-boks-testing av GPT-5.6

Før GPT-5.6 ble allment tilgjengelig, gjennomgikk modellen den mest omfattende evalueringsperioden noensinne . I systemkortet for GPT-5.6 Preview står det: «Vi har også dedikert over 700 000 A100e GPU-timer til automatisk å finne universelle jailbreaks og andre sårbarheter» . Denne automatiske testingen supplerte uker med manuell testing og eksterne ekspertvurderinger .

Selskapet brukte den massive datakraften til å lete etter generelle, systematiske jailbreaks snarere enn bare snevre, enkeltstående feil . Den automatiske testingen er designet for å kjøre kontinuerlig også etter lansering, med lapping og ny testing hver gang nye jailbreaks rapporteres .

GPT-5.6s risikovurderinger: Høy, men under kritisk

I henhold til OpenAIs beredskapsrammeverk (Preparedness Framework) er alle tre GPT-5.6-variantene – Sol (flaggskip), Terra (lavere kostnad) og Luna (raskest) – klassifisert som «Høy» kapabilitet innen både cybersikkerhet og biologisk/kjemisk risiko . Dette er første gang selv de mindre, rimeligere modellene når det høye nivået i disse kategoriene .

Ingen av modellene nådde imidlertid terskelen for «Kritisk». Interne tester viste at GPT-5.6 Sol og Terra kunne identifisere sårbarheter og deler av utnyttelsesmetoder, men ikke utføre fullstendige, ende-til-ende-angrep autonomt . Ingen av modellene nådde heller høy terskel for KI-selvforbedring .

Sikkerhetsarkitekturen i flere lag

GPT-5.6 leveres med det OpenAI kaller «sine mest robuste sikkerhetstiltak til nå» . Sikkerhetsarkitekturen inkluderer:

• Innebygd avvisning på modellnivå for høyrisikoforespørsler
• Sanntidsaktiveringsklassifisering som overvåker interne signalsignaler under inferens og kan stoppe generering hvis høyrisikomønstre oppdages
• Sanntidsklassifisering for misbruk innen cyber og biologi
• Gjennomgang på kontonivå og differensiert tilgangskontroll

Denne lagdelte tilnærmingen gjenspeiler OpenAIs erkjennelse av at ingen enkelt sikkerhetstiltak er tilstrekkelig .

Stillingen som forsker i automatisert testing (ART)

OpenAI bygger aktivt intern kapasitet for automatisert testing. Selskapet ansetter en «Researcher, Automated Red Teaming» (grunnlønn $295 000–$445 000) med ansvar for å «lede den automatiserte testing-innsatsen, med fokus på å bygge skalerbare systemer for å avdekke feilmoduser i KI-modeller og sikkerhetstiltak» . Samtidig rekrutteres en «Biosafety Red Teaming Specialist» ($158 000–$320 000) for å lede testing innen biosikkerhet og CBRN .

$500 000 Kaggle-utfordringen

OpenAI arrangerte en testing-utfordring på Kaggle med en premiepott på $500 000, rettet mot selskapets åpne vektmodeller gpt-oss-120b og gpt-oss-20b . Konkurransen skulle motivere deltakere til å oppdage nye sårbarheter som ikke var kjent fra før . Selv om det nøyaktige $500 000-beløpet og utfordringsdetaljene ikke kunne verifiseres uavhengig fra offisielle OpenAI-kilder i denne analysen, bekrefter tredjepartsrapportering fra TechPolicy.Press at konkurransen fant sted . Systemkortet for GPT-5.6 nevner «MLE-Bench Revised», som evaluerer modeller på Kaggle-konkurranser, men refererer ikke direkte til $500 000-premien.

Regulatorisk kontekst og usikkerhet

Tilgjengelig dokumentasjon bekrefter at GPT-5.6 leveres med et sikkerhetssystem i flere lag, og at OpenAIs eget beredskapsrammeverk klassifiserer modellene . Tredjepartsdekning omtaler at amerikanske myndigheter er involvert i en «portvokter»-rolle, der myndighetene kan påvirke tilgangen til de mest kapable modellene . Direkte omtale av det britiske AI Safety Institute eller spesifikke amerikanske reguleringstiltak finnes ikke i de gjennomgåtte kildene. OpenAIs eget systemkort adresserer sikkerhetsklassifisering, men går ikke i detalj på ekstern regulering utover selskapets eget beredskapsrammeverk .