OpenAI veut détecter les abus de l’IA sans conserver les données des entreprises

OpenAI teste une nouvelle manière de surveiller les usages dangereux de ses modèles avancés sans renoncer à la promesse de Zero Data Retention (ZDR) — ou « zéro conservation des données » — pour certains déploiements destinés aux entreprises. Présenté le 19 août 2026, Private Safety Processing doit analyser des schémas de risque à travers plusieurs interactions liées, au lieu d’évaluer chaque demande séparément, tout en empêchant le personnel d’OpenAI d’accéder au contenu client sous-jacent. 31

L’enjeu est particulièrement important pour les organisations réglementées ou détentrices de données sensibles. Elles veulent pouvoir utiliser des modèles très performants avec des garde-fous contre les abus, mais rechignent à confier leurs prompts et leurs réponses à un fournisseur qui les conserverait.

Ce que Private Safety Processing change pour le ZDR

Les systèmes de sécurité compatibles avec le ZDR évaluent généralement chaque interaction de façon isolée. Cette méthode peut laisser passer une attaque progressive : aucune demande ne paraît nécessairement abusive prise séparément, mais leur enchaînement peut contribuer à un objectif malveillant.

Private Safety Processing cherche à étendre les protections automatisées aux interactions liées. OpenAI affirme que cette approche pourrait aider à repérer des activités associées à des tentatives de piratage menées par des humains, mais aussi par des agents d’IA mal alignés. 31

En pratique, plusieurs requêtes apparemment anodines pourraient former un schéma de risque lorsqu’elles sont examinées ensemble — par exemple un flux de travail potentiellement lié au développement de logiciels malveillants ou à une intrusion informatique. Les sources disponibles décrivent une capacité de détection de motifs entre plusieurs interactions, et non la preuve que le système identifierait de manière fiable toutes les campagnes de ce type.

Ce qu’OpenAI dit pouvoir voir

La frontière de confidentialité constitue le point central du dispositif. L’analyse doit être réalisée automatiquement, sans exposer aux employés d’OpenAI les prompts et les réponses à l’origine du signal. Lorsqu’un problème potentiel est détecté, l’entreprise affirme recevoir uniquement un signal de sécurité défini de manière restrictive, plutôt que le contenu brut de la conversation. 310

Les données du client peuvent rester sur une infrastructure contrôlée par celui-ci ou être protégées par des clés de chiffrement détenues par le client, selon les informations publiées sur la version testée. 157 L’objectif est de préserver les garanties de confidentialité généralement recherchées dans un contrat ZDR, tout en fournissant à OpenAI suffisamment d’éléments pour réagir à un risque de sécurité présumé.

Cela ne signifie pas que le signal serait sans conséquence opérationnelle. Il pourrait entraîner une mesure de sécurité au niveau du compte ou une demande adressée au client afin qu’il examine la situation. L’entreprise pourrait également transmettre volontairement des informations complémentaires pour contester un signal ou participer à une enquête. Le dispositif n’est toutefois pas présenté comme donnant à OpenAI un accès automatique aux conversations conservées par le client. 23

Une promesse encore à vérifier

Private Safety Processing est pour l’instant testé auprès d’un nombre limité de premiers clients. OpenAI le présente comme une préversion, et non comme un service largement déployé et définitivement documenté. 35

Plusieurs questions restent donc ouvertes :

• Quelle est la précision des signaux qui croisent plusieurs conversations ?
• À quelle fréquence une activité légitime d’entreprise pourrait-elle déclencher une fausse alerte ?
• Quelles mesures sont associées aux différentes catégories de risque ?
• Comment un client peut-il auditer ou contester un signal si OpenAI ne peut pas consulter le contenu d’origine ?
• Quelle documentation technique sera fournie avant une éventuelle généralisation ?

La portée de l’annonce est donc plus limitée que l’idée selon laquelle une sécurité respectueuse de la vie privée aurait déjà résolu le problème des abus. OpenAI cherche à vérifier si un signal restreint peut suffire à détecter des usages malveillants, sans adopter un modèle reposant sur la conservation généralisée du trafic client et son examen humain.

Anthropic fait un choix différent

Anthropic a adopté, pour ses modèles concernés, une approche davantage fondée sur la conservation des données. Sa politique prévoit de garder pendant 30 jours les prompts envoyés aux modèles couverts et les réponses générées par ceux-ci. Cela concerne notamment les modèles de classe Mythos et les futurs modèles présentant des capacités similaires.

Anthropic précise que ces données ne servent pas à entraîner de nouveaux modèles Claude ni à des fins étrangères à la sécurité. L’entreprise affirme également limiter les accès, enregistrer les accès humains et supprimer les données au terme des 30 jours dans presque tous les cas.

Cette conservation offre aux équipes de sécurité une fenêtre de retour en arrière pour examiner des attaques complexes et analyser d’éventuelles fausses alertes. En contrepartie, elle impose aux entreprises une charge supplémentaire en matière de gouvernance des données et de conformité.

Selon des informations faisant état d’une évolution prochaine, Anthropic conserverait l’obligation de 30 jours tout en permettant à ses clients professionnels de stocker les données dans leur propre infrastructure cloud. Cette option pourrait réduire les inquiétudes liées à la garde des données, sans supprimer l’obligation de conservation elle-même.

Deux arbitrages pour les clients professionnels

Les deux entreprises font des choix sensiblement différents :

• OpenAI : analyser automatiquement les interactions liées et transmettre uniquement un signal de sécurité limité, afin de réduire l’accès du fournisseur au contenu client.
• Anthropic : conserver pendant 30 jours le trafic des modèles concernés, avec des accès contrôlés, pour préserver davantage d’éléments utiles aux enquêtes.

L’approche d’OpenAI pourrait séduire les entreprises dont les règles d’achat interdisent ou découragent fortement la conservation de contenus par un fournisseur. Sa faiblesse potentielle est qu’un signal peu détaillé peut fournir moins d’éléments pour comprendre un incident contesté ou ambigu.

La méthode d’Anthropic peut offrir une meilleure visibilité a posteriori, mais elle crée une obligation de conservation et de contrôle que certaines organisations préféreraient éviter. Aucun des deux modèles ne supprime le problème de fond : une utilisation malveillante en plusieurs étapes peut être difficile à distinguer d’une recherche légitime, tandis que les protections de confidentialité réduisent parfois les preuves accessibles aux enquêteurs.

Le véritable test pour la préversion d’OpenAI sera donc sa capacité à produire des signaux assez fiables pour justifier une action de sécurité, sans obliger le fournisseur à consulter les contenus qu’ils résument.

Un sujet aussi commercial que technique

Cette différence de politique intervient alors qu’OpenAI et Anthropic se livrent une concurrence plus intense pour attirer les entreprises et les utilisateurs de modèles de pointe. Le chiffre d’affaires annualisé d’Anthropic aurait dépassé 65 milliards de dollars à la fin juillet. Il s’agit d’une projection fondée sur le rythme récent des ventes, et non du chiffre d’affaires effectivement enregistré sur une année complète.

Des investisseurs auraient par ailleurs évoqué une valorisation d’au moins 2 000 milliards de dollars pour Anthropic dans le cadre d’une éventuelle entrée en Bourse. Cette estimation rapportée par des sources externes ne constitue ni une valorisation garantie ni une introduction en Bourse réalisée.

Ces éléments donnent le contexte de la rivalité, mais ne permettent pas d’affirmer que Private Safety Processing a été créé uniquement en réaction à Anthropic. La conclusion la plus solide est plus concrète : OpenAI tente de répondre à une difficulté fréquente lors des achats professionnels, à savoir combiner une surveillance renforcée des abus avec un accès minimal du fournisseur aux données confidentielles.

Les sources disponibles ne permettent pas non plus d’établir un calendrier ou des conditions définitives pour une éventuelle introduction en Bourse d’OpenAI. Toute affirmation selon laquelle l’entreprise préparerait une cotation imminente ou finalisée nécessiterait une confirmation distincte et à jour.

À retenir

Private Safety Processing veut faire passer le ZDR du filtrage d’une interaction isolée à une surveillance de sécurité entre plusieurs conversations, sans conserver les prompts et les réponses des clients sous une forme accessible au personnel d’OpenAI. En cas de détection, le système doit transmettre un signal de sécurité limité ; une coopération ultérieure du client est présentée comme volontaire.

Le dispositif pourrait ainsi constituer une alternative privilégiant la confidentialité face au modèle de conservation de 30 jours d’Anthropic. Mais il ne s’agit encore que d’une préversion. Avant d’en faire un critère décisif, les entreprises devront attendre des éléments plus solides sur la précision des détections, le taux de fausses alertes, l’auditabilité et les procédures réellement appliquées en cas de signalement.