OpenAI vil opdage koordineret AI-misbrug uden at se kundernes indhold

Den afgørende forskel ligger mellem analyse og opbevaring. OpenAI beskriver systemet som en måde at analysere relateret aktivitet til sikkerhedsformål på, uden at det underliggende indhold bliver gjort tilgængeligt for virksomhedens medarbejdere gennem systemet.

OpenAI beskriver to mulige modeller for datakontrol i ZDR-installationer:

• Kundernes indhold kan blive på infrastruktur, som kunden selv kontrollerer.
• Hvis indholdet opbevares på OpenAI-infrastruktur, kan det krypteres med nøgler, som kunden kontrollerer, og som OpenAI-medarbejdere ikke har adgang til.

I begge tilfælde kan automatiserede systemer identificere potentielt misbrug og returnere et begrænset sikkerhedssignal uden at eksponere de underliggende prompts eller svar.

Hvad modtager OpenAI, hvis systemet finder en trussel?

Ifølge beskrivelsen af forhåndsversionen modtager OpenAI et snævert signal om typen af aktivitet. OpenAIs systemdiagram beskriver resultatet som en alarmkategori og en alvorlighedsgrad – ikke som selve samtalen.

Forløbet kan derfor skitseres sådan:

1. Automatiserede systemer undersøger relaterede interaktioner for et muligt skadeligt mønster.
2. Hvis mønstret overskrider en risikotærskel, opretter systemet en begrænset sikkerhedsklassifikation.
3. OpenAI modtager klassifikationen i stedet for prompts, outputs eller en samtaletransskription.
4. Kunden kan selv undersøge den underliggende aktivitet i sit eget miljø.

Et sikkerhedssignal er dermed ikke det samme som at sende OpenAI hele sessionshistorikken. Den præcise implementering, tærsklerne og procedurerne ved fejl vil dog være afgørende for virksomheder, der overvejer løsningen. OpenAI har sagt, at en bredere udrulning og en teknisk whitepaper er planlagt til september 2026.

Hvorfor kan OpenAI-medarbejdere normalt ikke læse en markeret samtale?

En sikkerhedsmarkering giver ikke automatisk OpenAI-medarbejdere adgang til samtalen. I de beskrevne ZDR-modeller siger OpenAI, at virksomheden hverken opbevarer kundernes indhold eller har de kundekontrollerede dekrypteringsnøgler i modellen, hvor indholdet ligger på OpenAI-infrastruktur.

Kunden kan selv vælge at dele relevant materiale, hvis den vil klage over en håndhævelsesbeslutning, forklare legitim brug eller hjælpe med at undersøge bekræftet misbrug. Uden en sådan frivillig deling er markeringen begrænset til de maskinskabte sikkerhedsoplysninger, der sendes til OpenAI.

Det skaber en adskillelse mellem beviser, som kunden kontrollerer, og risikosignaler på leverandørniveau. Modellen kan begrænse mængden af følsomt materiale, som OpenAI skal håndtere, samtidig med at virksomheden får mulighed for at opdage mønstre, som et filter, der vurderer én forespørgsel ad gangen, kan overse.

Hvem tester forhåndsversionen?

OpenAI har nævnt Glean, Databricks, Abridge og Microsoft blandt de kunder, der er med til at forme eller teste forhåndsversionen. Anden omtale peger også på Microsoft og Databricks som tidlige testkunder.

Funktionen er ikke præsenteret som en almindelig indstilling for forbrugere. Den er målrettet berettigede API-installationer, hvor organisationer vil bruge avancerede modeller og samtidig bevare streng kontrol over prompts og svar.

OpenAI og Anthropic vælger forskellige kompromiser

OpenAIs tilgang prioriterer at opdage misbrug, samtidig med at leverandørens adgang til kundernes indhold begrænses. Anthropics regler for de såkaldte Covered Models vælger et andet kompromis: Prompts og svar til de omfattede modeller opbevares i 30 dage for at understøtte sikkerhedsarbejde, herunder kontrolleret gennemgang.

Anthropics dokumentation siger, at kravet gælder Covered Models, herunder Mythos-modeller, og at disse modeller ikke er tilgængelige under ZDR. Anthropic oplyser samtidig, at de opbevarede data ikke bruges til modeltræning uden kundens udtrykkelige tilladelse.

Den praktiske forskel er derfor betydelig:

• OpenAI Private Safety Processing: Automatiseret analyse på tværs af relaterede interaktioner, hvor OpenAI ifølge forhåndsbeskrivelsen modtager et begrænset sikkerhedssignal i stedet for selve indholdet.
• Anthropics regler for Covered Models: Prompts og svar opbevares i 30 dage, så de kan bruges til sikkerhedsarbejde og kontrolleret gennemgang.

Ingen af modellerne fjerner behovet for intern datastyring. Virksomheder bør fortsat kontrollere regler for berettigelse, systemarkitektur, adgangsbegrænsninger, opbevaring, geografisk placering, klageadgang og kontraktlige forpligtelser, før de bruger løsningen til følsomme arbejdsopgaver.

Hvorfor er forskellen vigtig for regulerede virksomheder?

Organisationer inden for finans, sundhed og jura håndterer ofte oplysninger, der er omfattet af fortrolighedsaftaler, privatlivsregler, faglige tavshedspligter eller sektorspecifikke krav. En leverandørs mulighed for at opbevare og eventuelt gennemgå prompts kan derfor påvirke virksomhedens vurdering af dataminimering, interne godkendelser, revisionsspor og leverandørrisiko.

Det betyder ikke, at 30 dages opbevaring automatisk er forbudt, eller at ZDR i sig selv gør en installation lovlig. Det betyder, at de to modeller stiller forskellige spørgsmål til sikkerheds- og juridiske teams. Anthropics regler kræver, at virksomheden forholder sig til leverandørens opbevaring og gennemgang, mens OpenAI positionerer ZDR og Private Safety Processing som en måde at begrænse leverandørens adgang til selve indholdet på.

For en virksomhedskunde er de centrale spørgsmål praktiske:

• Er den valgte model og installation berettiget til ZDR?
• Hvor behandles indholdet, og hvem kontrollerer krypteringsnøglerne, hvis det opbevares?
• Hvilke præcise felter indgår i et sikkerhedssignal?
• Kan kunden revidere eller anfægte en markering uden at udlevere hele samtalen?
• Hvad sker der, hvis leverandøren mistænker alvorligt misbrug?
• Er leverandørens regler for opbevaring og gennemgang forenelige med virksomhedens kontraktlige og regulatoriske krav?

Privatliv bliver en del af AI-produktet

Private Safety Processing viser, hvordan privatliv er ved at blive en del af selve AI-sikkerhedsproduktet. Spørgsmålet er ikke længere kun, om en model kan afvise en farlig forespørgsel. Det handler også om, hvorvidt en leverandør kan opdage koordineret misbrug på tværs af længere arbejdsgange uden at få adgang til alle kundens samtaler.

OpenAIs forhåndsvisning tilbyder én mulig løsning: Lad det underliggende indhold blive under kundens kontrol eller beskyt det med kundekontrollerede nøgler, brug automatiserede systemer til at finde mønstre på tværs af interaktioner, og send leverandøren en snæver risikoklassifikation.

Anthropics Covered Model-politik tilbyder en anden løsning: Opbevar de relevante prompts og svar i en begrænset periode, så sikkerhedsteams kan undersøge dem under kontrollerede forhold, samtidig med at data ikke bruges til modeltræning uden udtrykkelig tilladelse.

Valget mellem modellerne vil afhænge af kundens risikotolerance, arbejdsopgavernes følsomhed og vurderingen af, hvor meget undersøgelsesadgang en leverandør af avancerede modeller har brug for. OpenAIs lovede whitepaper og bredere udrulning bliver derfor vigtige for at vurdere, hvordan privatlivsmodellen fungerer i praksis.

Markedskonteksten

Forskellen i datapraksis er samtidig blevet et konkurrenceparameter på erhvervsmarkedet. OpenAI forsøger at sælge idéen om sikkerhedsmonitorering uden leverandøradgang til kundernes indhold, mens Anthropic prioriterer større mulighed for at undersøge misbrug af de mest avancerede modeller.

Anthropic har ifølge rapporter oplyst investorer, at selskabets årlige omsætningsrate nåede 65 mia. dollar ved udgangen af juli 2026, mens OpenAIs tilsvarende rate blev rapporteret til omkring 40 mia. dollar. Anthropics foreløbige omsætning for andet kvartal blev desuden rapporteret til over 11,5 mia. dollar.

Der har også været rapporter om en mulig børsnotering af Anthropic til en værdiansættelse på omkring 2.000 mia. dollar, men det er investorforventninger – ikke en fastslået markedsværdi eller en gennemført børsnotering. De tilgængelige kilder dokumenterer ikke på samme måde pålideligt et fortroligt S-1-indlæg fra OpenAI i juni 2026. Påstande om OpenAIs langsommere vækst i andet kvartal bør derfor behandles som rapporterede sammenligninger, ikke som en bekræftet offentlig selskabsmeddelelse.