Tajemství bezpečnosti GPT-5.6: Umělá inteligence, která sama sebe napadá

OpenAI svůj přístup k automatizovanému red-teamingu podrobně popsala v článku „Diverse and Effective Red Teaming with Auto-generated Rewards“ z 14. července 2026 . Celý problém rozděluje do dvou kroků:

1. Automatické generování různorodých útočných cílů – systém vytváří širokou škálu scénářů, na které chce model otestovat.
2. Generování účinných útoků pomocí vícekrokového posilovaného učení – útočící model je trénován a odměňován za to, že se mu podaří daného cíle dosáhnout .

Tato metoda využívá self-play: model v roli útočníka zkouší prolomit bezpečnostní mechanismy cílového modelu – například prompt injection nebo jailbreaky . OpenAI uvádí, že tento postup „nám pomáhá proaktivně objevovat a opravovat zranitelnosti dříve, než je někdo zneužije v praxi“ .

700 000 GPU hodin černé skříňky: Testování GPT-5.6

Než se modely rodiny GPT-5.6 dostaly k široké veřejnosti, prošly zatím nejrozsáhlejším bezpečnostním hodnocením v historii OpenAI . Systémový list GPT-5.6 Preview uvádí: „Věnovali jsme také přes 700 000 A100e GPU hodin automatizovanému hledání univerzálních jailbreaků a dalších zranitelností“ . Toto testování doplnilo týdny lidského red-teamingu a hodnocení externích odborníků .

OpenAI nasadila obrovský výpočetní výkon především na hledání systémových, univerzálních selhání – nikoli jen na odhalování jednotlivých chyb . Společnost navíc plánuje v automatizovaném red-teamingu pokračovat i po nasazení modelů. S každým nově nahlášeným jailbreakem se zranitelnost zreprodukuje, opraví a znovu otestuje .

Hodnocení rizik: Vysoké, ale ne kritické

Podle interního Preparedness Framework společnosti OpenAI spadají všechny tři varianty GPT-5.6 – Sol (vlajková loď), Terra (levnější) a Luna (nejrychlejší) – do kategorie „High“ v oblasti kybernetické bezpečnosti i biologických a chemických rizik . Poprvé v historii OpenAI se na tuto úroveň dostaly i menší a levnější modely .

Žádný z modelů však nepřekročil hranici „Critical“. Interní testy ukázaly, že GPT-5.6 Sol a Terra dokážou identifikovat zranitelnosti a části kódu pro zneužití, ale nejsou schopny samostatně a plně autonomně provést útok od začátku do konce . Žádný z modelů také nedosáhl vysokého hodnocení v kategorii schopnosti vylepšovat sebe sama (AI self-improvement) .

Vícevrstvá bezpečnostní architektura

GPT-5.6 přichází s tím, co OpenAI označuje za „dosud nejrobustnější bezpečnostní prvky“ . Tato architektura zahrnuje:

• Vestavěné odmítání na úrovni modelu pro vysoce rizikové požadavky
• Aktivační klasifikátory v reálném čase, které během inference monitorují vnitřní neuronové signály a dokážou okamžitě zastavit generování, pokud se objeví rizikové vzorce
• Klasifikátory v reálném čase pro kybernetické a biologické zneužití
• Kontrolu na úrovni účtu a diferencované řízení přístupu

Tento vrstevnatý přístup vychází z poznání OpenAI, že žádné jednotlivé bezpečnostní opatření není dostačující .

Role Researcher, Automated Red Teaming (ART) a výzva za 500 000 dolarů

OpenAI aktivně posiluje své interní kapacity v oblasti automatizovaného red-teamingu. Společnost hledá výzkumníka pro tuto oblast s nabízeným platem 295 000 až 445 000 dolarů ročně. Jeho úkolem bude „vést úsilí v Automated Red Teaming, zaměřené na budování škálovatelných systémů, které odhalují selhání AI modelů a bezpečnostních opatření“ . Současně je otevřená pozice specialisty na biosafety red-teaming s platem 158 000 až 320 000 dolarů .

Kromě toho OpenAI uspořádala Red-Teaming Challenge na platformě Kaggle s prize poolem 500 000 dolarů. Soutěž byla zaměřena na otevřené modely gpt-oss-120b a gpt-oss-20b a motivovala účastníky k objevování dosud neznámých zranitelností .

Regulační souvislosti

Dostupné důkazy potvrzují, že GPT-5.6 je dodáván s vícevrstvou bezpečnostní architekturou a že OpenAI klasifikovala vlastní modely podle svého Preparedness Framework . Některé třetí strany zmiňují zapojení americké vlády v kontextu „gatekeepingu“, tedy možnosti, že vláda ovlivní přístup k nejschopnějším modelům . Přímá zmínka o Britském institutu pro bezpečnost AI (UK AI Safety Institute) nebo konkrétních krocích americké regulace však v použitých primárních zdrojích nebyla .