OpenAI tester sikkerhedssystem, der skal opdage AI-misbrug uden adgang til kundernes indhold

OpenAI tester en ny måde at overvåge misbrug af avancerede AI-modeller på uden at opgive løftet om Zero Data Retention (ZDR) for kvalificerede erhvervsinstallationer. Private Safety Processing blev annonceret 19. august 2026 og er designet til at finde risikomønstre på tværs af relaterede interaktioner – ikke kun vurdere hver forespørgsel isoleret – samtidig med at det underliggende kundeindhold holdes utilgængeligt for OpenAIs medarbejdere. 31

Det forsøger at løse et centralt dilemma for virksomheder: Sikkerhedsteams har brug for tilstrækkelig indsigt til at opdage misbrug, der udvikler sig over tid, mens kunder i eksempelvis regulerede eller sikkerhedsfølsomme brancher kan have stærke grunde til ikke at lade en modeludbyder gemme deres prompts og svar.

Fra enkeltforespørgsler til mønstre på tværs af samtaler

ZDR-kompatible sikkerhedssystemer har traditionelt vurderet hver interaktion for sig. Det kan gøre det svært at opdage et distribueret angreb, hvor ingen enkelt prompt tydeligt er skadelig, men hvor en række relaterede forespørgsler tilsammen understøtter et farligt mål.

OpenAI siger, at Private Safety Processing udvider de automatiske sikkerhedsforanstaltninger til relaterede interaktioner. På den måde skal systemet kunne identificere bredere mønstre, herunder aktivitet forbundet med hackingforsøg udført af mennesker eller af AI-agenter, der handler på uhensigtsmæssige måder. 31

I praksis kan en række forespørgsler, der hver for sig ser harmløse ud, danne et risikomønster, når de ses i sammenhæng. Det kunne for eksempel være et arbejdsforløb, der potentielt relaterer sig til udvikling af malware eller indtrængen i it-systemer. Kilderne beskriver dog en funktion til mønstergenkendelse – ikke dokumentation for, at testversionen pålideligt kan identificere enhver kampagne af den type.

Hvad kan OpenAI se?

Den afgørende privatlivsgrænse er ifølge OpenAI, at kundeaktiviteten analyseres automatisk, uden at medarbejdere får adgang til de oprindelige prompts og modelsvar. Hvis systemet opdager et muligt problem, skal OpenAI modtage et snævert defineret sikkerhedssignal i stedet for selve samtaleindholdet. 310

Kundedata kan ifølge omtalen af testversionen blive på infrastruktur, som kunden selv kontrollerer, eller beskyttes med krypteringsnøgler, som kunden har kontrollen over. 157 Arkitekturen skal dermed bevare den fortrolighed, virksomheder typisk forbinder med ZDR, samtidig med at OpenAI får nok information til at reagere på en mulig sikkerhedshændelse.

Det betyder ikke, at et signal er uden praktiske konsekvenser. Det kan føre til en sikkerhedsforanstaltning på kontoniveau eller en anmodning om, at kunden undersøger sagen. Kunden kan også frivilligt dele relevant kontekst, hvis den vil gøre indsigelse mod en markering eller hjælpe med en undersøgelse. Testversionen er ikke beskrevet som en ordning, der automatisk giver OpenAI adgang til den bevarede samtale. 23

De ubesvarede spørgsmål

Private Safety Processing bliver afprøvet med udvalgte tidlige kunder og er ikke lanceret som en fuldt etableret, bredt tilgængelig tjeneste. 35 Derfor er flere vigtige forhold endnu uklare:

• Hvor præcise er risikosignalerne på tværs af samtaler?
• Hvor ofte vil legitim virksomhedsaktivitet udløse en falsk positiv?
• Hvilke konkrete kontohandlinger følger efter forskellige risikokategorier?
• Hvordan kan kunden revidere eller anfægte et signal, hvis OpenAI ikke kan se det underliggende indhold?
• Hvilken teknisk dokumentation får kunderne før en bredere udrulning?

Løftet er derfor mere begrænset end påstanden om, at privatlivsbevarende sikkerhed løser AI-misbrug. OpenAI tester, om et begrænset signal kan give brugbar misbrugsdetektion uden den bredere dataopbevaring og menneskelige gennemgang, der normalt følger med lagring af kundetrafik.

Anthropic vælger en anden model

Anthropic har valgt en mere lagringsorienteret tilgang for sine omfattede modeller. Virksomhedens politik kræver, at prompts til og svar fra omfattede modeller – herunder Mythos-modeller og fremtidige modeller med tilsvarende egenskaber – gemmes i 30 dage til sikkerhedsarbejde.

Anthropic oplyser, at dataene ikke bruges til at træne nye Claude-modeller eller til ikke-sikkerhedsrelaterede formål. Beskyttelsen omfatter blandt andet begrænset adgang, logning af menneskelig adgang og sletning efter 30 dage i næsten alle tilfælde.

Denne model giver sikkerhedsteams et tidsvindue til at undersøge komplekse angreb og vurdere mulige falske positiver. Til gengæld medfører den en større opgave med datastyring og compliance for kunder, der helst vil undgå, at udbyderen opbevarer deres data.

Ifølge omtale af en planlagt ændring vil Anthropic fortsat kræve 30 dages opbevaring, men give erhvervskunder mulighed for at opbevare dataene i deres egen cloudinfrastruktur. Det kan mindske nogle bekymringer om dataejerskab, men fjerner ikke selve kravet om opbevaring.

To forskellige kompromiser

De to virksomheder satser grundlæggende på hver sin løsning:

• OpenAI: Automatisk analyse på tværs af interaktioner og videregivelse af et begrænset sikkerhedssignal for at minimere udbyderens adgang til kundeindhold.
• Anthropic: Opbevaring af trafik fra omfattede modeller i 30 dage under kontrollerede forhold for at bevare mere information til efterforskning og vurdering.

OpenAIs model kan være attraktiv for kunder, hvis indkøbs- og sikkerhedsregler gør udbyderopbevaring af indhold vanskelig. Svagheden er, at et sparsomt signal kan give færre beviser, hvis en hændelse bestrides eller er tvetydig.

Anthropics løsning kan give bedre mulighed for efterforskning efter en hændelse, men pålægger virksomhederne en opbevarings- og compliancebyrde – også når de helst ville have en strikt ordning uden datalagring.

Ingen af modellerne fjerner det grundlæggende sikkerhedsproblem. Flertrinsmisbrug kan være svært at skelne fra legitim forskning, mens privatlivsbeskyttelse samtidig kan begrænse det materiale, menneskelige efterforskere har adgang til. Den afgørende test for OpenAIs prøveversion bliver derfor, om de automatiske signaler er præcise nok til at understøtte håndhævelse uden adgang til det indhold, de sammenfatter.

Hvorfor det sker nu

Privatlivsforskellen kommer, mens OpenAI og Anthropic konkurrerer stadig hårdere om erhvervskunder og kunder, der arbejder med avancerede frontier-modeller. Anthropics annualiserede omsætningsrate blev ifølge rapporter opgjort til over 65 milliarder dollar ved udgangen af juli. Det er en fremskrivning baseret på den seneste udvikling – ikke faktisk bogført omsætning for et helt år.

Investorer skal også ifølge rapporter have talt om en mulig værdisætning af Anthropic på mindst 2 billioner dollar i forbindelse med en potentiel børsnotering. Det er markedets og investorernes forventning ifølge eksterne kilder, ikke en garanteret værdiansættelse eller en gennemført børsnotering.

Tallene giver kontekst, men dokumenterer ikke, at Private Safety Processing udelukkende blev skabt som et konkurrencemæssigt modsvar. Den mere forsigtige konklusion er, at OpenAIs annoncering adresserer en konkret bekymring hos virksomheders indkøbs- og sikkerhedsteams: Hvordan kan man bruge meget avancerede modeller med stærkere overvågning af misbrug og samtidig begrænse udbyderens adgang til fortrolige forretningsdata?

De tilgængelige kilder fastslår ikke en endelig tidsplan eller konkrete vilkår for en OpenAI-børsnotering. Påstande om en nært forestående eller fastlagt børsnotering kræver derfor separat bekræftelse.

Konklusion

Private Safety Processing er OpenAIs forsøg på at udvide ZDR fra filtrering af enkeltinteraktioner til sikkerhedsovervågning på tværs af samtaler uden at gemme kundernes prompts og svar som indhold, medarbejdere kan tilgå. Systemet skal returnere et snævert defineret sikkerhedssignal, mens yderligere hjælp fra kunden beskrives som frivillig.

Det gør løsningen til et lovende privatlivsorienteret alternativ til Anthropics model med 30 dages opbevaring – men foreløbig kun et testforsøg. Virksomheder bør betragte OpenAIs udmeldinger som en design- og testhypotese, indtil uafhængige oplysninger viser, hvor præcist systemet opdager misbrug, hvor mange falske positiver det skaber, hvor let det kan revideres, og hvordan håndhævelsen fungerer i praksis.