Private Safety Processing: jak OpenAI hledá koordinované zneužití AI bez ukládání obsahu

Klíčový je rozdíl mezi analýzou a uchováváním dat. OpenAI uvádí, že systém může související aktivitu automaticky analyzovat z bezpečnostních důvodů, ale samotné prompty a odpovědi modelu nemají být prostřednictvím tohoto systému zpřístupněny pracovníkům společnosti.

OpenAI popisuje dvě možné varianty správy dat v nasazeních se ZDR:

• Obsah může zůstat na infrastruktuře, kterou kontroluje zákazník.
• Pokud je uložen na infrastruktuře OpenAI, může být zašifrován klíči spravovanými zákazníkem, nikoli pracovníky OpenAI.

V obou případech mají automatizované systémy identifikovat možné zneužití a vrátit omezený bezpečnostní signál bez odhalení původních promptů nebo odpovědí.

Co OpenAI obdrží při odhalení hrozby?

Podle popisu preview dostává OpenAI úzce vymezené upozornění o typu sledované aktivity. Schéma systému společnosti popisuje výstup jako kategorii upozornění a úroveň závažnosti, nikoli jako samotnou konverzaci.

Tento signál může sloužit jako podklad pro bezpečnostní nebo sankční rozhodnutí. Neznamená však, že OpenAI obdrží celou historii relace. Prakticky má proces vypadat takto:

1. Automatizované systémy prověří související interakce a hledají potenciálně škodlivý vzorec.
2. Pokud vzorec překročí stanovenou rizikovou hranici, systém vytvoří omezenou bezpečnostní klasifikaci.
3. OpenAI obdrží tuto klasifikaci namísto promptů, výstupů nebo přepisu konverzace.
4. Zákazník si ponechá možnost prošetřit původní aktivitu ve vlastním prostředí.

Jde stále o preview, takže pro firemní zákazníky budou zásadní konkrétní technické podrobnosti, prahové hodnoty i postupy při chybném vyhodnocení. OpenAI uvedlo, že širší nasazení a technický white paper plánuje na září 2026.

Proč pracovníci OpenAI běžně neuvidí označenou konverzaci

Samotné bezpečnostní označení automaticky neotevírá pracovníkům OpenAI přístup ke konverzaci. V popsaných variantách ZDR společnost uvádí, že zákaznický obsah neuchovává a v případě úložiště na infrastruktuře OpenAI nemá ani dešifrovací klíče kontrolované zákazníkem.

Zákazník může relevantní materiály dobrovolně sdílet například při odvolání proti zásahu, při vysvětlování legitimního použití nebo při vyšetřování potvrzeného zneužití. Bez takového dobrovolného poskytnutí zůstává upozornění omezeno na strojově vytvořenou bezpečnostní informaci odeslanou OpenAI.

Vzniká tak oddělení mezi důkazními materiály pod kontrolou zákazníka a rizikovým signálem dostupným poskytovateli. Tento model může snížit množství citlivých dat, s nimiž musí poskytovatel pracovat, a zároveň zachovat schopnost odhalit vzorce, které by filtr kontrolující jednotlivé požadavky přehlédl.

Kdo systém testuje?

OpenAI mezi zákazníky, kteří pomáhají preview formovat nebo testovat, uvádí společnosti Glean, Databricks, Abridge a Microsoft. Další zprávy jako rané testovací zákazníky zmiňují také Microsoft a Databricks.

Nejde o obecné nastavení pro běžné spotřebitele. Funkce míří na způsobilá API nasazení, v nichž organizace chtějí používat pokročilé modely a současně si zachovat přísnou kontrolu nad prompty a výstupy.

OpenAI vs. Anthropic: dvě odlišné bezpečnostní volby

OpenAI staví svůj přístup na odhalování zneužití při minimalizaci přístupu poskytovatele k zákaznickému obsahu. Anthropic u svých tzv. Covered Models volí opačný kompromis: prompty a odpovědi jsou po dobu 30 dnů uchovávány pro bezpečnostní práci, včetně kontrolovaného posuzování.

Dokumentace Anthropic uvádí, že tato podmínka se vztahuje na Covered Models včetně modelů třídy Mythos a že tyto modely nejsou dostupné v režimu ZDR. Zároveň uvádí, že uchovávaná data nejsou bez výslovného souhlasu zákazníka používána k trénování modelů.

Praktický rozdíl je proto výrazný:

• OpenAI Private Safety Processing: automatická analýza souvisejících interakcí; podle popisu preview dostává OpenAI omezený bezpečnostní signál místo samotného obsahu.
• Politika Anthropic pro Covered Models: prompty a odpovědi jsou po dobu 30 dnů uchovávány pro bezpečnostní práci a kontrolované posuzování.

Ani jeden z těchto modelů nenahrazuje interní správu dat na straně zákazníka. Před nasazením citlivých úloh musí firmy ověřit podmínky způsobilosti, umístění zpracování, správu klíčů, přístupová oprávnění, dobu uchovávání, regionální požadavky, postup při odvolání i smluvní závazky.

Proč na tom záleží regulovaným firmám

Banky, zdravotnické organizace a právní kanceláře pracují s informacemi podléhajícími smluvní mlčenlivosti, ochraně soukromí, profesním povinnostem nebo oborovým pravidlům. Možnost poskytovatele uchovávat a případně kontrolovat prompty proto může ovlivnit posouzení minimalizace dat, interní schvalování, podobu auditů i hodnocení dodavatelských rizik.

To neznamená, že 30denní uchovávání je automaticky nepřípustné nebo že samotný režim ZDR zaručuje soulad s předpisy. Obě architektury však vytvářejí odlišné otázky pro bezpečnostní a právní týmy. Podmínky Anthropic vyžadují započítat uchovávání a kontrolu dat poskytovatelem, zatímco OpenAI prezentuje ZDR a Private Safety Processing jako způsob, jak omezit přístup poskytovatele k samotnému obsahu.

Pro firemního zákazníka jsou klíčové zejména tyto otázky:

• Je konkrétní model a způsob nasazení způsobilý pro ZDR?
• Kde se obsah zpracovává a kdo kontroluje šifrovací klíče, pokud se ukládá?
• Jaká přesná pole obsahuje bezpečnostní upozornění?
• Může zákazník označení auditovat nebo napadnout, aniž by poskytl celý rozhovor?
• Co se stane, pokud poskytovatel pojme podezření na závažné zneužití?
• Odpovídají pravidla uchovávání a kontroly dat smluvním a regulatorním povinnostem organizace?

Soupeření o firemní AI se přesouvá i do ochrany dat

Private Safety Processing ukazuje, že soukromí se stává součástí samotného produktu AI bezpečnosti. Otázka už nezní jen, zda model dokáže zablokovat nebezpečný požadavek. Jde také o to, zda poskytovatel dokáže odhalit koordinované zneužití v dlouhých pracovních postupech, aniž by potřeboval přístup ke každé zákaznické konverzaci.

OpenAI nabízí jednu odpověď: ponechat obsah pod kontrolou zákazníka nebo jej chránit klíči spravovanými zákazníkem, pomocí automatizovaných systémů hledat vzorce napříč interakcemi a poskytovateli odesílat pouze úzkou rizikovou klasifikaci.

Anthropic nabízí jiný model: relevantní prompty a odpovědi po omezenou dobu uchovávat, aby je bezpečnostní týmy mohly vyšetřovat, s kontrolovaným posuzováním a deklarovaným omezením využití dat pro trénování.

Která varianta bude pro firmu přijatelnější, závisí na citlivosti jejích úloh, toleranci k riziku a názoru na to, kolik vyšetřovacího přístupu poskytovatel špičkového modelu skutečně potřebuje. Plánovaný technický white paper OpenAI a širší nasazení v září 2026 by měly ukázat, jak tyto sliby o ochraně soukromí fungují v reálných implementacích.