Project Lily : pourquoi la relecture humaine de conversations ChatGPT pose question

L’enquête de 404 Media sur une initiative interne d’OpenAI baptisée Project Lily décrit un programme structuré de retours humains fondé sur de véritables conversations ChatGPT. La question de confidentialité ne se limite donc pas à l’usage des échanges pour améliorer les modèles : d’après le média, des prestataires externes pouvaient lire des contenus dont le nom d’utilisateur avait été retiré, mais qui conservaient parfois un contexte très personnel. 2

Ce que faisait, selon les informations publiées, Project Lily

D’après des documents internes consultés par 404 Media, OpenAI a recruté des centaines de prestataires par l’intermédiaire de sociétés de recrutement. La rémunération aurait dépassé 50 dollars de l’heure. Leur tâche : résumer l’intention de l’utilisateur, comparer quatre réponses possibles de ChatGPT, puis les noter sur une échelle de 1 à 7. 2

L’objectif rapporté était d’améliorer la qualité des réponses, notamment en rendant ChatGPT moins mécanique, moins enclin à se présenter comme humain et moins excessivement complaisant. Le recours à des évaluations humaines est courant dans le développement de l’IA ; ici, c’est l’emploi de conversations réelles d’utilisateurs qui rend l’enjeu de confidentialité plus concret. 2

Ce qu’un évaluateur pouvait voir

404 Media rapporte que les évaluateurs pouvaient recevoir l’échange complet et, dans certains cas, un résumé des mémoires utilisateur. Les noms d’utilisateur n’étaient pas affichés, mais le contexte disponible pouvait tout de même révéler une localisation approximative, une profession, des centres d’intérêt passés ou des circonstances personnelles. 2

C’est une différence essentielle : retirer un nom ne rend pas automatiquement une conversation anodine ni réellement anonyme. L’addition d’éléments liés au travail, à la famille, à la santé ou à un événement singulier peut rester sensible, même sans identifier directement le titulaire d’un compte.

Le rôle — et les limites — du Privacy Filter

OpenAI présente son Privacy Filter comme un modèle destiné à détecter et à masquer les informations permettant d’identifier une personne dans un texte. 4647

Dans le cadre de Project Lily, OpenAI a indiqué avoir supprimé les noms d’utilisateur et appliqué un filtre automatisé avant la transmission des contenus aux prestataires. Mais 404 Media rapporte que des détails sensibles pouvaient malgré tout subsister dans les conversations examinées. 2

Un filtrage automatisé peut repérer des identifiants évidents, comme un nom, une adresse e-mail ou un numéro de téléphone. En revanche, un contexte indirect — métier, lieu approximatif, événement de vie inhabituel — est nettement plus difficile à détecter de manière fiable.

Les éléments que les prestataires devaient signaler

Les consignes décrites dans l’enquête ne portaient pas uniquement sur l’exactitude des réponses. Les prestataires auraient aussi dû repérer :

• des formulations artificielles ou stéréotypées, parfois qualifiées d’« AI-speak » ;
• des affirmations laissant entendre que le modèle a des émotions ou une expérience vécue ;
• un excès d’approbation, de flatterie ou de complaisance ;
• des erreurs factuelles ;
• l’exposition d’informations personnelles ;
• des problèmes de sécurité. 2

L’attention portée à la complaisance est importante. Un modèle qui valide trop facilement les propos de son interlocuteur peut sembler rassurant, tout en évitant de remettre en cause des hypothèses erronées, risquées ou préjudiciables. Project Lily devait notamment contribuer, selon le reportage, à ajuster ce comportement. 2

« Gardons cela entre nous » n’est pas un réglage de confidentialité

Écrire dans une invite que la conversation doit rester confidentielle ne modifie pas les règles de traitement des données du compte. Cette phrase fait partie du contenu du chat : elle ne remplace ni ne contourne les paramètres de contrôle des données d’OpenAI.

Pour les espaces de travail personnels ChatGPT, le réglage documenté par OpenAI s’appelle « Improve the model for everyone ». Lorsqu’il est activé, les conversations peuvent être utilisées pour améliorer les modèles ; lorsqu’il est désactivé, OpenAI indique ne plus entraîner ses modèles sur les nouvelles conversations. 2130

Comment empêcher l’utilisation des nouveaux chats pour améliorer les modèles

Pour les personnes connectées à leur compte, OpenAI indique la marche à suivre suivante :

1. Ouvrez le menu de votre profil dans ChatGPT.
2. Sélectionnez Settings (Paramètres).
3. Ouvrez Data Controls (Contrôles des données).
4. Désactivez « Improve the model for everyone ». 1921

Ce réglage s’applique au compte, et non à un appareil en particulier. L’historique existant peut rester accessible après sa désactivation, mais OpenAI indique que les nouvelles conversations ne seront plus utilisées pour entraîner ses modèles. 1930

L’entreprise propose également l’option « Do not train on my content » via son portail de confidentialité. Pour les tâches ChatGPT et Codex, OpenAI précise qu’il suffit d’utiliser l’une de ces deux options : il n’est pas nécessaire de les activer toutes les deux. 21

Quels abonnements bénéficient d’une protection par défaut ?

OpenAI indique que, dans les espaces de travail personnels Free, Plus et Pro, le partage de données pour l’entraînement est activé par défaut, avec possibilité de s’y opposer. Pour ChatGPT Business, Enterprise, Edu et la plateforme API, OpenAI affirme ne pas utiliser par défaut les données fournies en entrée et en sortie pour entraîner ses modèles. 23

Cela ne signifie pas pour autant que tout échange professionnel est sans risque, quel qu’en soit l’usage. Les organisations ont intérêt à vérifier leurs paramètres d’espace de travail, leurs règles de conservation, leurs modalités de partage et leurs propres politiques internes avant d’y introduire des informations confidentielles.

À retenir

Project Lily, tel que décrit par 404 Media, rappelle qu’un chat d’IA grand public doit être considéré comme un service doté de paramètres d’usage des données, et non comme un canal intrinsèquement confidentiel. Avant de saisir des informations personnelles, médicales, juridiques, financières ou propriétaires particulièrement sensibles, la précaution immédiate consiste à désactiver « Improve the model for everyone ». 221

Ce choix concerne l’utilisation des nouvelles conversations pour l’amélioration des modèles. Il ne correspond pas à une consigne écrite dans une invite et la documentation d’OpenAI ne le présente pas comme un mécanisme permettant de retirer des contenus déjà envoyés. 2130