OpenAI popisuje pokus vytěžit skryté uvažování svých modelů

OpenAI tvrdí, že v červenci 2026 narušilo koordinovanou kampaň, jejímž cílem bylo přimět GPT modely odhalovat chráněné, skryté uvažování. „Jádro“ aktivity připsalo jednotlivcům spojovaným s Moonshot AI, vývojářem modelů Kimi — nikoli však celou kampaň. Zveřejněné počty navíc popisují pokusy, ne nutně úspěšné získání dat. 739

Co OpenAI uvádí o rozsahu a načasování

Podle OpenAI se první aktivita objevila 1. července. Ve dnech 24. a 25. července zaznamenala 16 000 požadavků využívajících vzorec zaměřený na získání chráněného uvažování, a to od více než 4 000 uživatelů. Širší vyšetřování odhalilo podobné vzorce u více než 15 000 uživatelů; související aktivitu firma podle svého vyjádření do 28. července zastavila. 7

Jedna z popsaných metod údajně spočívala v tom, že operátoři zkopírovali zašifrované uvažování z jedné konverzace a v jiné požádali model, aby je rozšifroval a přepsal. OpenAI ovšem uvedlo, že nelze určit, zda všichni pozorovaní operátoři patřili k jedinému aktérovi. 7

Co tvrdí americké úřady a Anthropic

Společné doporučení NSA, CISA a FBI z 8. září jmenuje Moonshot mezi šesti čínskými společnostmi, které podle úřadů získávaly schopnosti amerických špičkových modelů pomocí rozsáhlého dotazování. Úřady popisují celkově miliardy tokenů získaných miliony požadavků od nejméně konce roku 2024. Jde o souhrn za jmenované společnosti, nikoli o čísla připsaná samotnému Moonshot AI. Doporučení také upozorňuje, že požadavky mohou procházet různými cestami, včetně API, vzdálených cloudových služeb a zprostředkovatelů, kteří mohou zastírat údaje o uživateli. 3

Anthropic samostatně obvinil Moonshot AI, že bez vědomí uživatelů přeposílal jejich požadavky modelu Claude a odpovědi vydával za vlastní. Anthropic uvedl, že během jednoho desetidenního období takto zaznamenal téměř 300 000 zákaznických požadavků, z nichž většina mířila na model Opus. Jde o tvrzení Anthropicu, nikoli o nezávislé potvrzení, že byly všechny požadavky použity stejným způsobem. 9

Jaká ochranná opatření úřady doporučily

Doporučení vyzývá americké AI společnosti, aby posílily odhalování a omezování průmyslového, neoprávněného získávání schopností modelů. Z popisu hrozeb vyplývá zejména potřeba věnovat pozornost neobvyklým vzorcům dotazování a různým přístupovým cestám, které mohou zakrývat původ požadavků. Dostupný podklad zde ale neumožňuje ověřit úplný a přesný seznam všech doporučených kontrol; není proto namístě úřadům připisovat konkrétní vyčerpávající kontrolní seznam. 3

Kimi K3 v Codexu: pozoruhodný kontrast, ne důkaz

Zprávy z konce září uvádějí, že firemní zákazníci mohli používat Kimi K3 v programovacím nástroji Codex přes amerického poskytovatele inferenčních služeb Baseten. Náklady se podle nich započítávaly do stávajících závazků zákazníků vůči OpenAI, takže nebylo nutné uzavírat smlouvu s novým dodavatelem. Kimi K3 byl popisován jako první čínský otevřený model v tomto firemním nákupním kanálu. 31

Vedle obvinění OpenAI jde o nápadný kontrast, nikoli však o důkaz, že integrace Codexu umožnila údajné získávání skrytého uvažování. 31