Project Lily : comment des sous-traitants d’OpenAI examineraient des conversations ChatGPT

L’enquête de 404 Media sur le projet interne Project Lily décrit un dispositif de retour humain fondé sur de véritables conversations de particuliers avec ChatGPT. D’après des documents internes divulgués, des exemples de requêtes et des déclarations examinés par le média, des sous-traitants peuvent lire le contexte d’échanges afin d’évaluer les réponses du modèle, y compris lorsque ces conversations renferment des données personnelles sensibles. 1

Pour les personnes qui utilisent ChatGPT pour parler de santé, de relations, de droit, de travail ou de sujets intimes, le point essentiel est simple : demander au chatbot de « garder cela entre nous » n’est pas un paramètre de confidentialité. Le réglage pertinent est celui qui autorise — ou non — l’utilisation des nouvelles conversations pour l’amélioration des modèles. 1

Ce que feraient les évaluateurs de Project Lily

404 Media rapporte que des centaines de sous-traitants, recrutés via des sociétés de placement et rémunérés à plus de 50 dollars de l’heure, examinent un flux important de conversations ChatGPT réelles. Leurs tâches comprendraient notamment :

• résumer l’intention de l’utilisateur ;
• comparer quatre réponses possibles du modèle ;
• attribuer des notes de 1 à 7 ;
• signaler ce qui rend une réponse moins utile ou moins digne de confiance. 1

Les critères d’évaluation viseraient à améliorer le ton et la qualité des réponses. Les prestataires seraient invités à repérer les formulations trop typiques d’une IA, les erreurs factuelles, l’excès de validation ou de flatterie, les problèmes de sécurité, ainsi que les réponses laissant croire à tort que le modèle possède une expérience ou des émotions personnelles. 1

Cette boucle de retour vise à produire des réponses plus naturelles et moins mécaniques. Elle implique toutefois que l’amélioration de la qualité puisse passer par un accès humain au contenu des conversations. 1

Retirer un nom d’utilisateur ne rend pas nécessairement un échange anonyme

OpenAI a déclaré à 404 Media que les noms d’utilisateur étaient retirés et qu’un filtre de confidentialité était appliqué avant l’envoi des contenus aux évaluateurs. L’enquête a néanmoins relevé que les dossiers soumis à examen pouvaient inclure l’intégralité du contexte d’une conversation ainsi que des résumés de mémoire générés par le modèle. Ces résumés contiendraient, par exemple, une localisation approximative, une profession ou des circonstances personnelles très sensibles. 1

La limite tient à l’identification par le contexte. Même sans nom ni identifiant de compte, l’association d’événements personnels, de précisions professionnelles, de données géographiques ou de références inhabituelles peut rendre une conversation reconnaissable pour une personne qui connaît l’utilisateur — ou, à défaut, particulièrement sensible à divulguer. Selon 404 Media, OpenAI a reconnu que les filtres peuvent peiner à repérer des identifiants rares ou des références privées ambiguës, dépendantes du contexte. 1

« Gardez cela entre nous » ne bloque pas une relecture

Demander à ChatGPT de traiter une discussion comme confidentielle est une instruction formulée dans la conversation ; ce n’est pas une préférence de confidentialité du compte. Cela ne remplace pas les réglages d’usage des données et n’empêche pas qu’un échange soit sélectionné dans le cadre d’un processus d’amélioration tel que celui décrit par 404 Media. 1

Il ne faut donc pas considérer un chatbot grand public comme un canal confidentiel simplement parce que l’échange paraît personnel. Si une information ne devrait pas être vue par un évaluateur autorisé, il est plus prudent de ne pas la saisir dans un espace personnel où l’amélioration des modèles est activée.

Désactiver l’utilisation des nouvelles conversations pour améliorer ChatGPT

La documentation d’OpenAI indique que les utilisateurs d’un espace personnel peuvent désactiver l’amélioration des modèles en suivant ce chemin :

1. Profil → Paramètres
2. Contrôles des données
3. Désactiver « Améliorer le modèle pour tout le monde »

Lorsque cette option est désactivée, les nouvelles conversations restent dans l’historique, mais ne sont pas utilisées pour entraîner ou améliorer les modèles de ChatGPT. Le réglage s’applique au compte, et non à un appareil en particulier.

Le moment où ce choix est effectué compte : OpenAI précise que le retrait s’applique aux nouvelles conversations. Il ne retire pas rétroactivement les échanges déjà soumis alors que l’amélioration des modèles était activée.

Comptes Business, Enterprise et Edu : ce qu’il faut savoir

OpenAI indique ne pas utiliser par défaut les entrées et sorties de ChatGPT Business, Enterprise, Edu ni de sa plateforme API pour entraîner ses modèles. À l’inverse, le partage pour l’amélioration des modèles est activé par défaut pour les utilisateurs de ChatGPT Free, Plus et Pro dans un espace personnel, avec une possibilité de désactivation via les Contrôles des données.

Cette distinction ne dispense pas les organisations de leurs obligations de gouvernance des données. Les équipes doivent toujours respecter les règles de leur employeur et vérifier les paramètres propres à leur espace de travail. Mais elle marque une différence importante avec le traitement par défaut des conversations de particuliers.

OpenAI est-il le seul à faire intervenir des humains ?

Non. La politique de confidentialité d’Anthropic indique que l’entreprise peut entraîner et améliorer ses modèles à partir des entrées et sorties fournies par des utilisateurs ou des travailleurs externes, sauf opposition de l’utilisateur. Une analyse académique des pratiques de confidentialité de grands fournisseurs d’IA relève également que Google et OpenAI évoquent tous deux une relecture humaine de conversations pour l’entraînement ou l’amélioration des modèles.

La question de fond n’est donc pas l’existence même de retours humains. Elle est de savoir si les utilisateurs comprennent quand leurs échanges peuvent entrer dans ce processus, ce que la désidentification protège réellement — et ce qu’elle ne peut pas masquer — ainsi que la manière de modifier les paramètres concernés.

À retenir pour préserver sa vie privée

Project Lily, tel que décrit par 404 Media, rappelle qu’une conversation avec une IA grand public n’est pas automatiquement un échange confidentiel en tête-à-tête. Les mesures de désidentification peuvent réduire l’exposition, sans forcément effacer tous les éléments révélateurs d’une conversation chargée de contexte personnel. 1

Avant de confier des informations sensibles à ChatGPT, vérifiez Paramètres → Contrôles des données → Améliorer le modèle pour tout le monde. Si l’amélioration des modèles est activée, considérez que les nouvelles discussions peuvent être éligibles à une utilisation pour améliorer le service ; si elle est désactivée, OpenAI affirme que les nouvelles conversations ne seront pas utilisées à cette fin.