Project Lily: Menschen prüfen offenbar echte ChatGPT-Gespräche

Eine Recherche von 404 Media über eine interne OpenAI-Initiative namens Project Lily beschreibt ein strukturiertes Programm mit menschlichem Feedback auf Basis echter ChatGPT-Unterhaltungen. Die Datenschutzfrage geht dabei über das allgemeine Modelltraining hinaus: Externe Auftragnehmer konnten dem Bericht zufolge Gesprächsinhalte lesen, aus denen zwar Nutzernamen entfernt worden waren, die aber weiterhin sehr persönliche Zusammenhänge enthalten konnten. 2

Was Project Lily laut Bericht macht

Nach Angaben von 404 Media, das geleakte interne Unterlagen eingesehen hat, rekrutierte OpenAI über Personalvermittler Hunderte Auftragnehmer. Sie sollten reale Eingaben und Antworten von ChatGPT prüfen; die Vergütung habe bei mehr als 50 US-Dollar pro Stunde gelegen. Die Prüfer fassten demnach die Absicht hinter einer Anfrage zusammen, verglichen vier Antwortvorschläge und bewerteten sie auf einer Skala von 1 bis 7. 2

Ziel sei es gewesen, die Antwortqualität zu verbessern: ChatGPT sollte weniger roboterhaft klingen, weniger menschliche Gefühle oder Erfahrungen für sich beanspruchen und Nutzenden nicht übermäßig zustimmen oder schmeicheln. Menschliches Feedback für die KI-Entwicklung ist nicht neu. Die Nutzung echter Unterhaltungen von Verbraucherinnen und Verbrauchern macht die Privatsphäre-Frage jedoch besonders konkret. 2

Welche Informationen Prüfer sehen konnten

404 Media berichtet, dass Prüfer vollständige Gesprächsverläufe und in einigen Fällen auch eine Zusammenfassung gespeicherter Nutzererinnerungen erhalten konnten. Nutzernamen seien nicht angezeigt worden. Der sichtbare Kontext könne aber Hinweise auf ungefähren Standort, Beruf, frühere Interessen und persönliche Lebensumstände enthalten. 2

Das ist ein entscheidender Unterschied: Einen Namen zu entfernen, bedeutet nicht automatisch, dass ein Gespräch praktisch anonym oder unbedenklich ist. Die Kombination aus Angaben zu Arbeit, Familie, Gesundheit oder einem ungewöhnlichen Ereignis kann sehr sensibel sein – auch ohne ein Konto direkt zuzuordnen.

Was der Privacy Filter leisten soll – und was nicht

OpenAI beschreibt seinen Privacy Filter als Modell, das personenbezogene Informationen in Texten erkennen und schwärzen soll. 4647

Im Zusammenhang mit Project Lily erklärte OpenAI laut 404 Media, Nutzernamen würden entfernt und die Inhalte vor der Weitergabe an Auftragnehmer automatisch gefiltert. Der Bericht sagt jedoch, dass trotz dieser Maßnahmen sensible Angaben in den geprüften Gesprächen verbleiben konnten. 2

Das verdeutlicht eine Grenze automatischer Schwärzung: Namen, E-Mail-Adressen oder Telefonnummern lassen sich eher erkennen. Indirekte, kontextabhängige Hinweise können dagegen deutlich schwerer zuverlässig als potenziell identifizierend eingestuft werden.

Worauf die Prüfer achten sollten

Die beschriebenen Leitlinien bezogen sich nicht nur auf sachliche Korrektheit. Auftragnehmer sollten demnach unter anderem folgende Probleme markieren:

• formelhafte oder unnatürliche „KI-Sprache“
• Behauptungen, die menschliche Gefühle oder Lebenserfahrung suggerieren
• übermäßige Zustimmung, Schmeichelei oder anderes anbiederndes Verhalten
• sachliche Fehler
• Preisgabe persönlicher Informationen
• Sicherheitsbedenken 2

Der Fokus auf übermäßige Zustimmung ist bedeutsam. Ein Modell, das Nutzerinnen und Nutzern zu bereitwillig Recht gibt, kann zwar unterstützend wirken, aber falsche, riskante oder schädliche Annahmen unzureichend hinterfragen. Project Lily sollte laut Bericht auch dazu dienen, dieses Verhalten besser abzustimmen. 2

„Das bleibt unter uns“ ist keine Datenschutzeinstellung

Eine Bitte um Vertraulichkeit innerhalb eines Prompts ändert nicht, wie die Datenkontrollen eines Kontos greifen. Sie ist lediglich Teil des Chatinhalts – keine technische Anweisung, die OpenAIs Einstellungen zur Datennutzung überschreibt.

Für persönliche ChatGPT-Arbeitsbereiche dokumentiert OpenAI die Option „Improve the model for everyone“. Ist sie aktiviert, können Chats zur Verbesserung der Modelle genutzt werden. Nach einer Deaktivierung will OpenAI neue Unterhaltungen nicht mehr zum Training verwenden. 2130

So deaktivieren Sie die Nutzung neuer Chats zur Modellverbesserung

Für angemeldete Nutzerinnen und Nutzer nennt OpenAI diese Schritte:

1. Öffnen Sie in ChatGPT Ihr Profilmenü.
2. Wählen Sie „Einstellungen“.
3. Öffnen Sie „Datenkontrollen“.
4. Deaktivieren Sie „Improve the model for everyone“. 1921

Die Einstellung gilt für das Konto, nicht nur für ein bestimmtes Gerät. Der bisherige Chatverlauf kann erhalten bleiben; neue Unterhaltungen sollen laut OpenAI jedoch nicht zum Training der Modelle verwendet werden. 1930

Alternativ gibt es im Datenschutzportal die Option „Do not train on my content“. Für ChatGPT- und Codex-Aufgaben genügt laut OpenAI entweder diese Auswahl oder die Einstellung in den Datenkontrollen; beides ist nicht erforderlich. 21

Für welche ChatGPT-Tarife gelten Standardschutzvorkehrungen?

OpenAI zufolge ist die Datenfreigabe zur Modellverbesserung in persönlichen Arbeitsbereichen von Free, Plus und Pro standardmäßig aktiviert, kann aber deaktiviert werden. Bei ChatGPT Business, Enterprise, Edu und der API-Plattform nutzt OpenAI bereitgestellte Ein- und Ausgaben nach eigenen Angaben standardmäßig nicht zum Modelltraining. 23

Das bedeutet nicht, dass geschäftliche Gespräche für jeden Zweck automatisch risikofrei sind. Organisationen sollten weiterhin ihre Arbeitsbereich-Einstellungen, Aufbewahrungsregeln, Freigabeoptionen und internen Vorgaben prüfen, bevor vertrauliche Informationen in ein KI-Werkzeug eingegeben werden.

Das Wichtigste für Nutzerinnen und Nutzer

Project Lily ist nach dem Bericht von 404 Media eine Erinnerung daran, Chats mit Verbraucher-KI als Dienst mit konfigurierbaren Einstellungen zur Datennutzung zu behandeln – nicht als grundsätzlich vertraulichen Kanal. Wer sehr sensible persönliche, rechtliche, medizinische, finanzielle oder geschäftliche Informationen eingeben will, sollte „Improve the model for everyone“ vor einem neuen Gespräch deaktivieren. 221

Der Widerspruch betrifft laut OpenAI die Nutzung neuer Gespräche zur Modellverbesserung. Er entsteht nicht durch eine Bitte im Prompt; die OpenAI-Dokumentation beschreibt ihn zudem nicht als Möglichkeit, bereits übermittelte Inhalte zurückzuholen. 2130