OpenAI test privacyvriendelijke methode om AI-misbruik over meerdere gesprekken te signaleren

OpenAI test een nieuwe manier om misbruik van geavanceerde AI-modellen te signaleren zonder de inhoud van klantgesprekken voor zijn medewerkers toegankelijk te maken. Private Safety Processing, aangekondigd op 19 augustus 2026, moet risico’s herkennen die pas zichtbaar worden wanneer meerdere gerelateerde interacties samen worden bekeken. Tegelijk wil OpenAI zijn belofte van Zero Data Retention (ZDR) — geen opslag van klantprompts en modelantwoorden bij daarvoor in aanmerking komende zakelijke implementaties — behouden. 31

Daarmee probeert het bedrijf een lastig dilemma voor ondernemingen op te lossen. Veiligheidsteams hebben voldoende zicht nodig om misbruik te herkennen dat zich over tijd ontvouwt. Maar organisaties in bijvoorbeeld gereguleerde of beveiligingsgevoelige sectoren willen niet dat een modelleverancier hun vertrouwelijke gegevens bewaart.

Van losse controles naar patronen over meerdere gesprekken

Bestaande veiligheidssystemen die met ZDR werken, beoordelen interacties afzonderlijk. Dat kan een verspreide aanval missen: geen enkele prompt lijkt op zichzelf duidelijk kwaadaardig, maar een reeks verzoeken kan samen wel bijdragen aan een schadelijk doel.

Private Safety Processing moet die bescherming uitbreiden naar meerdere gerelateerde interacties. Geautomatiseerde systemen kunnen zo bredere patronen zoeken, waaronder activiteiten die verband houden met hackpogingen door menselijke aanvallers of door niet goed afgestemde AI-agenten. 31

In de praktijk kan een reeks op zichzelf onschuldige verzoeken samen een risicopatroon vormen — bijvoorbeeld een workflow die mogelijk verband houdt met de ontwikkeling van malware of een inbraak in computersystemen. De beschikbare bronnen beschrijven dit als een mogelijkheid om patronen te herkennen, niet als bewijs dat de preview iedere dergelijke campagne betrouwbaar kan opsporen.

Wat OpenAI wel en niet te zien krijgt

De belangrijkste privacygrens is volgens OpenAI dat de analyse automatisch verloopt. De onderliggende prompts en modelantwoorden worden niet aan medewerkers van OpenAI blootgesteld. Als het systeem een mogelijk probleem detecteert, zou het bedrijf een nauw omschreven veiligheidssignaal ontvangen in plaats van de ruwe gespreksinhoud. 310

Klantdata kan volgens berichtgeving op infrastructuur blijven staan die door de klant wordt beheerd. Een andere mogelijkheid is opslag bij OpenAI, maar dan versleuteld met sleutels die de klant zelf beheert. 157 Die architectuur moet de vertrouwelijkheidsvoordelen van ZDR behouden en OpenAI toch genoeg informatie geven om op een vermoedelijk veiligheidsprobleem te reageren.

Dat betekent niet dat een signaal zonder gevolgen blijft. Het kan leiden tot een veiligheidsmaatregel op accountniveau of tot een verzoek aan de klant om de situatie te onderzoeken. Een klant kan daarnaast vrijwillig relevante context delen om een melding te betwisten of een onderzoek te ondersteunen. De preview wordt niet beschreven als een systeem waarmee OpenAI automatisch toegang krijgt tot de bewaarde gesprekken. 23

Belangrijke vragen zijn nog onbeantwoord

Private Safety Processing wordt getest met geselecteerde vroege klanten en is nog geen volledig uitgerolde, breed beschikbare dienst. 35 Daardoor valt op basis van de aankondiging nog weinig te zeggen over onder meer:

• de nauwkeurigheid van signalen die gesprekken met elkaar verbinden;
• het aantal valse positieven bij legitiem zakelijk gebruik;
• de accountmaatregelen die bij verschillende risicocategorieën volgen;
• de manier waarop klanten een signaal kunnen controleren of aanvechten zonder dat OpenAI de inhoud bekijkt;
• de technische documentatie die klanten vóór een bredere uitrol krijgen.

De belofte is daarom beperkter dan de claim dat privacyvriendelijke veiligheidscontrole misbruik volledig oplost. OpenAI onderzoekt of een beperkt signaal nuttige misbruikdetectie kan bieden zonder de bredere gegevensbewaring en menselijke beoordeling die horen bij het opslaan van klantverkeer.

Anthropic kiest voor dertig dagen bewaren

Anthropic heeft voor bepaalde krachtige modellen een meer op gegevensbewaring gerichte aanpak gekozen. Het bedrijf vereist dat prompts en antwoorden van zogenoemde covered models — waaronder Mythos-modellen en toekomstige modellen met vergelijkbare mogelijkheden — 30 dagen worden bewaard voor veiligheidswerk.

Anthropic zegt dat deze gegevens niet worden gebruikt om nieuwe Claude-modellen te trainen of voor andere dan veiligheidsdoeleinden. Tot de gepubliceerde maatregelen behoren beperkte toegang, registratie van menselijke toegang en verwijdering na 30 dagen in vrijwel alle gevallen.

Zo’n bewaartermijn geeft veiligheidsteams een terugkijkperiode om complexe aanvallen te onderzoeken en mogelijke valse positieven te beoordelen. Daar staat een grotere verplichting rond gegevensbeheer tegenover voor klanten die juist helemaal geen opslag door de modelleverancier willen.

Volgens berichtgeving wil Anthropic de bewaarplicht van 30 dagen handhaven, maar zakelijke klanten de mogelijkheid bieden de data in hun eigen cloudinfrastructuur te bewaren. Dat kan zorgen over de zeggenschap over de gegevens verkleinen, maar neemt de bewaarplicht zelf niet weg.

Twee verschillende keuzes voor zakelijke klanten

De aanpakken leggen elk een ander accent:

• OpenAI: geautomatiseerde analyse over meerdere interacties en alleen een beperkt veiligheidssignaal naar de leverancier, met zo min mogelijk toegang tot klantinhoud.
• Anthropic: 30 dagen opslag van verkeer van covered models onder gecontroleerde toegangsvoorwaarden, zodat er meer informatie beschikbaar blijft voor onderzoek en beoordeling.

OpenAI’s aanpak kan aantrekkelijker zijn voor organisaties waarvan inkoop- of compliancebeleid opslag van inhoud bij de leverancier sterk beperkt. Het nadeel is dat een schaars veiligheidssignaal mogelijk minder bewijs oplevert bij een betwist of onduidelijk incident.

Anthropic biedt mogelijk meer forensisch inzicht, maar legt klanten een bewaartermijn en extra complianceverplichtingen op — ook wanneer zij liever een strikt beleid zonder opslag hanteren.

Geen van beide modellen neemt het onderliggende veiligheidsprobleem weg. Misbruik in meerdere stappen kan moeilijk te onderscheiden zijn van legitiem onderzoek. Tegelijk kunnen privacymaatregelen de hoeveelheid bewijs beperken die menselijke onderzoekers kunnen bekijken. De doorslaggevende test voor OpenAI wordt daarom of de automatische signalen nauwkeurig genoeg zijn om handhaving te ondersteunen zonder toegang tot de inhoud waarop ze betrekking hebben.

De bredere concurrentiestrijd

Het privacyverschil ontstaat terwijl OpenAI en Anthropic intensiever concurreren om zakelijke klanten en gebruikers van de krachtigste modellen. De geannualiseerde omzet-run rate van Anthropic zou eind juli boven 65 miljard dollar zijn uitgekomen. Dat is een projectie op basis van recente prestaties, geen geboekte omzet over een volledig jaar.

Beleggers zouden bovendien hebben gerekend op een mogelijke beurswaardering van 2 biljoen dollar of meer voor Anthropic. Dat is een verwachting die door externe bronnen wordt gemeld, geen gegarandeerde waardering of afgeronde beursgang.

Deze financiële cijfers geven context, maar bewijzen niet dat Private Safety Processing uitsluitend als concurrentiële reactie is ontwikkeld. De voorzichtigste conclusie is dat OpenAI een concreet obstakel bij zakelijke inkoop probeert weg te nemen: hoe bedrijven zeer krachtige modellen kunnen gebruiken met stevige controle op misbruik, terwijl de leverancier zo min mogelijk toegang heeft tot vertrouwelijke bedrijfsdata.

De beschikbare bronnen geven geen vastgestelde planning of voorwaarden voor een beursgang van OpenAI. Een bewering dat OpenAI binnenkort of definitief naar de beurs gaat, zou daarom afzonderlijk en actueel moeten worden bevestigd.

Conclusie

Private Safety Processing is OpenAI’s poging om ZDR uit te breiden van filtering per afzonderlijke interactie naar veiligheidsmonitoring over meerdere gesprekken, zonder klantprompts en modelantwoorden als voor medewerkers toegankelijke inhoud te bewaren. Het systeem moet een nauw omschreven veiligheidssignaal opleveren; verdere medewerking van de klant wordt als vrijwillig beschreven.

Daarmee presenteert OpenAI een privacygerichte tegenhanger van het 30-dagenmodel van Anthropic. Vooralsnog gaat het echter om een preview. Zakelijke afnemers zullen de claims moeten zien als een ontwerp dat wordt getest, totdat onafhankelijke informatie duidelijk maakt hoe nauwkeurig de detectie is, hoe vaak valse positieven voorkomen, hoe controleerbaar de signalen zijn en hoe handhaving er in de praktijk uitziet.