OpenAI testar säkerhetsövervakning utan insyn i kundernas innehåll

OpenAI testar ett sätt att övervaka missbruk av avancerade AI-modeller utan att överge löftet om Zero Data Retention (ZDR) för kvalificerade företagsinstallationer. Private Safety Processing, som presenterades den 19 augusti 2026, ska hitta riskmönster över flera relaterade interaktioner – inte bara bedöma varje förfrågan separat – samtidigt som det underliggande kundinnehållet hålls otillgängligt för OpenAI-personal. 31

Det är en lösning på en central målkonflikt för företag: Säkerhetsteam behöver kunna upptäcka missbruk som byggs upp steg för steg, medan kunder inom exempelvis reglerade eller säkerhetskänsliga branscher ofta vill undvika att en modellleverantör sparar deras promptar och AI-svar.

Så förändras ZDR

I traditionella ZDR-kompatibla säkerhetssystem bedöms interaktioner var för sig. Det kan göra att en distribuerad attack passerar obemärkt: Ingen enskild prompt behöver vara tydligt skadlig, men en serie relaterade förfrågningar kan tillsammans stödja ett farligt mål.

OpenAI uppger att den nya förhandsversionen utökar de automatiska skydden till relaterade interaktioner. På så sätt ska systemet kunna upptäcka bredare mönster, bland annat aktivitet kopplad till hackningsförsök utförda av människor eller av AI-agenter som agerar på ett sätt som inte ligger i linje med deras avsedda mål. 31

I praktiken kan flera förfrågningar som var och en ser harmlösa ut bilda ett riskmönster när de analyseras tillsammans – exempelvis ett arbetsflöde som kan ha koppling till utveckling av skadlig kod eller intrång. Källorna visar dock att detta beskrivs som en möjlighet att upptäcka mönster, inte som ett bevis på att systemet säkert kan identifiera varje sådan kampanj.

Vad OpenAI säger att företaget kan se

Den viktiga integritetsgränsen är att analysen ska ske automatiskt utan att OpenAI-personal får tillgång till det underliggande kundinnehållet. När ett möjligt problem upptäcks ska OpenAI i stället få en snävt definierad säkerhetssignal – inte den råa konversationen. 310

Kunddata kan enligt rapporteringen stanna på infrastruktur som kunden själv kontrollerar, eller skyddas med krypteringsnycklar som kunden innehar. 157 Tanken är att bevara den sekretess som företag normalt förknippar med ZDR, samtidigt som OpenAI får tillräcklig information för att agera vid ett misstänkt säkerhetsproblem.

Det innebär inte att en signal saknar praktiska följder. Den kan leda till en säkerhetsåtgärd på kontonivå eller till att kunden ombeds undersöka saken. Kunden kan också frivilligt lämna relevant information för att bestrida en flaggning eller hjälpa till i en utredning. Förhandsversionen beskrivs däremot inte som ett system där OpenAI automatiskt får tillgång till den lagrade konversationen. 23

Många frågor återstår

Private Safety Processing testas fortfarande med utvalda tidiga kunder och är inte presenterat som en färdig, brett tillgänglig tjänst. 35 Därför går det ännu inte att dra säkra slutsatser om bland annat:

• hur träffsäkra risk­signalerna är när flera konversationer vägs samman,
• hur ofta legitim företagsanvändning kan ge falska positiva resultat,
• vilka åtgärder som följer av olika risknivåer,
• hur kunden kan granska eller överklaga en signal när OpenAI inte ser innehållet, och
• vilken teknisk dokumentation kunder får före en bredare lansering.

Löftet är alltså mer begränsat än att integritetsskyddad säkerhet skulle lösa problemet med AI-missbruk. OpenAI testar om en begränsad signal kan ge användbar upptäckt av missbruk utan den bredare datahantering och mänskliga granskning som följer av att kundtrafik sparas.

Anthropic väljer en annan väg

Anthropic har valt en mer lagringsinriktad modell för vissa avancerade modeller. Företagets policy kräver att promptar och svar för så kallade täckta modeller sparas i 30 dagar för säkerhetsarbete. Det gäller bland annat Mythos-klassen och framtida modeller med liknande kapacitet.

Anthropic uppger att materialet inte används för att träna nya Claude-modeller eller för andra ändamål än säkerhet. Företaget säger också att åtkomsten begränsas, att mänsklig åtkomst loggas och att uppgifterna raderas efter 30 dagar i nästan alla fall.

Den här modellen ger säkerhetsteam ett tidsfönster för att utreda komplexa attacker och granska möjliga falska positiva resultat. Samtidigt innebär den ett större ansvar för datastyrning hos kunden.

Enligt rapportering planerar Anthropic att behålla kravet på 30 dagars lagring, men ge företagskunder möjlighet att lagra uppgifterna i sin egen molninfrastruktur. Det kan minska vissa problem kring vem som har kontroll över datan, men tar inte bort själva lagringskravet.

Två olika kompromisser för företagskunder

De båda företagen gör i praktiken olika avvägningar:

• OpenAI: Automatiserad analys över flera interaktioner och endast en begränsad säkerhetssignal skickas vidare, vilket minimerar leverantörens åtkomst till kundinnehåll.
• Anthropic: Trafik från täckta modeller sparas i 30 dagar med kontrollerad åtkomst, vilket ger mer material för utredning och granskning.

OpenAI-modellen kan vara mer attraktiv för kunder vars upphandlings- eller compliancekrav starkt begränsar leverantörens innehav av innehåll. Nackdelen är att en sparsam signal kan ge mindre bevismaterial när en händelse är omstridd eller svårtolkad.

Anthropics modell kan ge bättre möjligheter till efterhandsanalys, men innebär samtidigt en lagrings- och efterlevnadsbörda även för kunder som föredrar en strikt lösning utan datalagring.

Ingen av modellerna tar bort grundproblemet. Missbruk i flera steg kan vara svårt att skilja från legitim forskning, och starka integritetsskydd kan begränsa det underlag som mänskliga utredare får tillgång till. Det avgörande testet för OpenAIs förhandsversion blir därför om de automatiska signalerna är tillräckligt träffsäkra för att stödja säkerhetsåtgärder utan att personal behöver se innehållet som signalerna sammanfattar.

Därför sker lanseringen nu

Integritetsskillnaden kommer samtidigt som OpenAI och Anthropic konkurrerar allt hårdare om företagskunder och avancerade AI-modeller. Anthropics årliga intäktstakt uppgavs ha passerat 65 miljarder dollar i slutet av juli. Det är en prognos baserad på den senaste försäljningstakten – inte bokförda intäkter för ett helt år.

Investerare har dessutom enligt rapporter diskuterat en värdering på 2 biljoner dollar eller mer för Anthropic vid en möjlig börsnotering. Det är rapporterade förväntningar, inte en garanterad värdering eller en genomförd notering.

Siffrorna ger en bild av konkurrensläget, men visar inte att Private Safety Processing enbart skapades som ett svar på Anthropic. Den mer försiktiga slutsatsen är att OpenAI försöker lösa ett konkret inköpsproblem för företag: Hur kan de använda mycket kapabla modeller med skärpt missbruksövervakning utan att leverantören får tillgång till konfidentiell affärsdata?

De tillgängliga källorna fastställer inte någon färdig tidsplan eller några slutliga villkor för en börsnotering av OpenAI. Påståenden om en nära förestående eller fastställd notering kräver därför separat bekräftelse.

Slutsats

Private Safety Processing är OpenAIs försök att utvidga ZDR från filtrering av enskilda interaktioner till säkerhetsövervakning över flera konversationer – utan att behålla kundernas promptar och svar som innehåll tillgängligt för personalen. Systemet ska i stället lämna ifrån sig en snävt definierad säkerhetssignal, medan fortsatt samarbete från kunden beskrivs som frivilligt.

Det gör lösningen till ett lovande, integritetsorienterat alternativ till Anthropics modell med 30 dagars lagring. Men än så länge är det bara en förhandsversion. Företag som utvärderar tekniken bör därför invänta oberoende belägg för träffsäkerhet, andelen falska positiva resultat, möjligheten att granska signalerna och hur säkerhetsåtgärder faktiskt genomförs i praktiken.