Anthropic vil give virksomheder kontrol over AI-data – men fastholder 30 dages opbevaring

Den planlagte ændring handler først og fremmest om, hvem der kontrollerer opbevaringsmiljøet. Selve overvågningsperioden ændres ikke. Ifølge oplysninger fra en kilde med kendskab til planen skal virksomheder fortsat opbevare dataene i 30 dage, men de skal kunne gøre det på infrastruktur, de selv kontrollerer.

I praksis minder forslaget derfor mere om kundestyret dataopbevaring end om nul dataopbevaring:

• Prompts og modeloutput vil fortsat være tilgængelige i den krævede periode.
• Kunden kan få kontrol over det miljø, hvor dataene gemmes.
• Anthropic fastholder sit mål om sikkerhedsovervågning, men reducerer den direkte tredjepartskontrol over følsomme virksomhedsdata.

Lanceringen ventes senere i 2026. Den tekniske udformning, kravene til deltagelse, adgangskontrollen og proceduren for sletning er derfor endnu ikke fastlagt i detaljer.

Hvorfor kræver Anthropic 30 dage?

Anthropic beskriver begrænset opbevaring og efterfølgende gennemgang som en del af virksomhedens sikkerhedsarbejde. Argumentet er, at avanceret misbrug ikke nødvendigvis kan ses i én enkelt samtale. Et angreb kan udvikle sig gennem en række interaktioner, og en historik over disse interaktioner kan gøre det lettere at opdage mønstre og undersøge, hvad der er sket.

Det skaber en tydelig afvejning. Opbevaring af prompts og svar kan gøre det lettere at rekonstruere mistænkelig aktivitet, men den medfører også ekstra krav til datastyring for virksomheder, der håndterer fortrolige, regulerede eller juridisk privilegerede oplysninger.

Anthropics egen risikorapport anerkender, at beslutningen kan være upopulær blandt kunder, der er vant til nul dataopbevaring, og at den kan skabe forretningsmæssige risici. Samtidig fremstiller virksomheden kravet som nødvendigt for at opdage avancerede angreb.

Politikken er dermed et sikkerhedsmæssigt valg – ikke en påstand om, at opbevaring er uden risiko. Virksomheder skal veje værdien af et rekonstruerbart bevisgrundlag op mod de risici, der følger med at gemme selve indholdet.

Hvorfor efterspurgte virksomheder en anden løsning?

For mange regulerede organisationer kan leverandørens egne logfiler være vanskelige at acceptere. De skal blandt andet tage stilling til:

• hvor data fysisk og geografisk opbevares
• hvem internt og hos leverandøren der kan få adgang
• krav til fortrolighed og databeskyttelse
• beredskab ved sikkerhedshændelser
• juridisk udlevering og e-discovery
• konsekvenserne af at placere følsomme prompts i en ekstern leverandørs miljø

Muligheden for kundestyret cloud-opbevaring adresserer spørgsmålet om dataforvaring mere direkte end en almindelig politik, hvor leverandøren selv opbevarer loggene. En virksomhed kan potentielt anvende egne identitetskontroller, regionale cloud-arkitekturer, nøglehåndtering, overvågning og regler for datalivscyklus – selv om den konkrete beskyttelse vil afhænge af den endelige tekniske løsning og kontrakten.

Den nye mulighed fjerner dog ikke behovet for sikkerhedsgennemgang. Den ændrer, hvem der kontrollerer lagringsmiljøet, og kan samtidig flytte mere af det praktiske ansvar for at beskytte og fremskaffe data over på kunden.

Sådan adskiller OpenAI sig

OpenAI har previewet Private Safety Processing som en måde at bevare beskyttelsen ved nul dataopbevaring, samtidig med at systemet leder efter sikkerhedsmønstre på tværs af relaterede interaktioner. OpenAI oplyser, at systemet kan sende et snævert defineret sikkerhedssignal uden at give virksomhedens medarbejdere adgang til de underliggende prompts eller svar.

For implementeringer med nul dataopbevaring forbliver kundernes indhold på infrastruktur, som kunden kontrollerer. OpenAI udvikler også en mulighed, hvor krypteret indhold gemmes på OpenAI-infrastruktur, mens krypteringsnøglerne kontrolleres af kunden.

Den arkitektoniske forskel kan opsummeres sådan:

• Anthropic: Prompts og modeloutput gemmes i 30 dage, med en planlagt mulighed for at lade kunden hoste de gemte data.
• OpenAI: Interaktioner behandles for at udlede sikkerhedssignaler, samtidig med at målet er ikke at gemme eller give OpenAI-medarbejdere adgang til det rå indhold.

Det er altså ikke kun forskellige kontraktvilkår. Virksomhederne giver forskellige svar på, hvordan en AI-leverandør skal opdage langsomt udviklende eller tilpassende misbrug. Anthropic prioriterer en historik, der kan genskabes og undersøges. OpenAI prioriterer privatlivsbevarende databehandling og mindst mulig leverandørkontrol over dataene.

OpenAIs løsning er dog fortsat et preview. Dækningen, effektiviteten, antallet af falske positive og negative resultater, de tekniske sikkerhedsforanstaltninger og procedurerne ved eskalering bør derfor vurderes gennem dokumentation, test og uafhængig kontrol, før virksomheder opfatter systemet som en etableret sikkerhedsgaranti.

Hvad bør virksomheder undersøge?

Det rigtige valg afhænger af virksomhedens trusselsmodel og compliancekrav – ikke blot af, om leverandøren bruger betegnelsen “zero retention”. Indkøbs-, juridiske og sikkerhedsteams bør blandt andet spørge:

1. Hvad gemmes præcist? Afklar, om politikken omfatter prompts, modeloutput, metadata, sikkerhedssignaler, misbrugslogge eller applikationstilstand.
2. Hvor opbevares dataene? Undersøg region, cloudkontoens ejer, sikkerhedskopier, replikaer og eventuelle underdatabehandlere.
3. Hvem kan få adgang? Få klarhed over, om leverandørens medarbejdere, kontrahenter, automatiserede systemer eller kundens administratorer kan se eller hente indhold.
4. Hvem kontrollerer krypteringsnøglerne? Kundekontrollerede nøgler kan begrænse leverandørens adgang, men implementering og gendannelsesprocedurer er afgørende.
5. Hvordan dokumenteres sletning? Kræv klare tidsfrister, bevis for sletning, regler for sikkerhedskopier og procedurer for data, der er markeret til sikkerhedsgennemgang.
6. Hvad sker der ved en hændelse? Fastlæg krav til underretning, undersøgelse, samarbejde, ansvar og bevaring af bevismateriale.
7. Kan sikkerhedssystemet vurderes uafhængigt? Bed om trusselsmodeller, tekniske rapporter, revisionsrettigheder, mål for ydeevne og klare regler for eskalering.

Anthropics kundestyrede model kan være relevant for organisationer, der lægger vægt på et rekonstruerbart revisionsspor og kan håndtere 30 dages opbevaring i eget miljø. OpenAIs tilgang kan være mere attraktiv for virksomheder, hvor opbevaring af råt indhold og leverandøradgang ikke er acceptabelt. Men fordi løsningen stadig er på preview-stadiet, bør kunder kræve dokumentation, før de bruger den til de mest følsomme arbejdsopgaver.

Den større afvejning for erhvervslivet

Striden handler ikke kun om privatliv over for sikkerhed. Den handler også om, hvor sikkerhedsbeviserne befinder sig, hvem der kontrollerer dem, og hvilken part der bærer ansvaret for compliance og håndtering af sikkerhedshændelser.

Anthropic satser på, at avancerede modeller kræver en historik over interaktioner for at identificere sofistikeret misbrug i flere trin. OpenAI satser på, at privatlivsbevarende databehandling kan give en tilsvarende sikkerhedsovervågning uden at gemme kundernes rå indhold. Ingen af påstandene bør betragtes som endeligt dokumenterede, før systemerne er fuldt beskrevet, bredt implementeret og vurderet uafhængigt.

For virksomheder er modelkapacitet derfor kun én del af beslutningen. Dataforvaring, revisionsmuligheder, sletning, adgang og leverandørens evne til at forklare sin sikkerhedsarkitektur kan være mindst lige så afgørende.