Welche Daten dürfen in ChatGPT? Die Datenschutz-Ampel für KI-Tools

Ein Chat in Consumer-ChatGPT ist keine lokale Notiz. OpenAI sagt, dass User Content personenbezogene Daten enthalten kann und nennt Prompts sowie Uploads ausdrücklich als Beispiele.^[5]

Die Datenkontrollen in ChatGPT sollen Nutzer:innen entscheiden lassen, ob ihre Unterhaltungen und Interaktionen zur Verbesserung der Modelle beitragen.^[9] Diese Einstellung zu deaktivieren kann ein wichtiger Schutzschritt sein. Sie macht sensible Inhalte aber nicht automatisch zulässig, denn sie beantwortet nur einen Teil der Datenschutz- und Compliance-Fragen.

Temporary Chats reduzieren bestimmte Risiken: OpenAI beschreibt sie als nicht im Verlauf gespeichert, nicht für Memories verwendet, nicht zum Training genutzt und nach 30 Tagen gelöscht; sie können laut OpenAI weiterhin zur Missbrauchsüberwachung geprüft werden.^[9][11] Für vertrauliche Geschäftsunterlagen, echte Kundendaten oder Gesundheitsdaten sind Temporary Chats daher kein Freibrief.

Was Business, Enterprise, Edu, Healthcare und API ändern

OpenAI unterscheidet Consumer-Nutzung von geschäftlichen Produkten. Als Business-Daten beschreibt OpenAI Inputs und Outputs aus ChatGPT Business, ChatGPT Enterprise, ChatGPT for Healthcare, ChatGPT Edu, ChatGPT for Teachers und der API Platform.^[7]

Für diese Business-Daten sagt OpenAI, dass sie standardmäßig nicht zum Training verwendet werden.^[7] Außerdem kann OpenAI für ChatGPT Business, ChatGPT Enterprise und die API ein Data Processing Addendum zur Unterstützung von DSGVO- und anderen Datenschutzanforderungen abschließen; für ChatGPT Edu und ChatGPT for Teachers verweist OpenAI auf ein Student Data Privacy Agreement.^[7] OpenAI stellt zusätzlich Informationen zu Business Data Privacy, Security, Compliance und Data-Retention-Policies für Enterprise, Business, Edu, ChatGPT for Healthcare und die API bereit.^[6]

Trotzdem bedeutet ein Business-Produkt nicht automatisch, dass jede Dateneingabe erlaubt ist. Unternehmen müssen weiterhin Zweck, Datentyp, Berechtigungskonzept, Aufbewahrung, interne Richtlinien, Kund:innenverträge und regulatorische Vorgaben prüfen.

Die wichtigsten Prüffragen vor jedem Upload

Bevor echte Daten in ein KI-Tool eingegeben oder hochgeladen werden, sollten mindestens diese Fragen geklärt sein:

1. Ist das Tool von Datenschutz, Legal und IT freigegeben?
2. Nutzt der Anbieter Prompts, Dateien oder Ausgaben für Training oder Modellverbesserung?
3. Gibt es eine Opt-out-Einstellung oder einen vertraglichen Ausschluss der Trainingsnutzung?
4. Wie lange werden Eingaben, Uploads und Ausgaben gespeichert?
5. Können Menschen beim Anbieter Inhalte prüfen, etwa für Support, Sicherheit oder Missbrauchsüberwachung?
6. Welche Dritt-Apps, Connectoren, Plugins oder Subprozessoren können Zugriff erhalten?
7. Gibt es DPA/AVV, Admin-Kontrollen, Rollenrechte, Audit-Möglichkeiten und klare Aufbewahrungsregeln?
8. Erlauben interne Richtlinien und externe Verträge die Verarbeitung genau dieser Daten in genau diesem Tool?

Wenn diese Punkte nicht eindeutig beantwortet sind, arbeite mit Platzhaltern, anonymisierten Ausschnitten oder synthetischen Daten.

Bessere Prompt-Praxis: minimieren statt kopieren

Der sicherste Prompt enthält nur das, was für die Aufgabe wirklich nötig ist. Entferne Namen, E-Mail-Adressen, Telefonnummern, Adressen, Kundennummern, Patientennummern, Vertragsnummern und andere Identifikatoren, wenn sie für die Antwort nicht gebraucht werden.

Kundenfälle: Statt einen vollständigen Fall mit Name, Kundennummer und Kontaktdaten zu kopieren, nutze Platzhalter wie [KUNDE], [KUNDENNUMMER] und [DATUM].

Tabellen: Lade keine vollständigen Kund:innen- oder Mitarbeiterlisten hoch. Entferne direkte Identifikatoren und beschränke dich auf die Spalten, die für die Analyse notwendig sind.

Code: Kopiere keine API-Keys, Tokens, privaten Zertifikate, Passwörter oder produktionsnahen Zugangsdaten in Prompts. Teile nur den relevanten Codeausschnitt und ersetze Konfigurationswerte durch Platzhalter.

Verträge und Finanzdaten: Wenn nur eine Klausel, ein Muster oder eine Formulierung geprüft werden soll, nutze einen anonymisierten Ausschnitt statt des vollständigen Dokuments.

Wenn echte Daten verarbeitet werden müssen

Manchmal reichen Dummy-Daten nicht. Dann sollte die Reihenfolge konservativ sein:

1. Zweck klären: Prüfe, ob das Modell wirklich echte Daten braucht oder ob ein anonymisierter Ausschnitt genügt.
2. Daten minimieren: Verwende nur den kleinsten notwendigen Datensatz.
3. Identifikatoren entfernen: Reduziere Personen-, Kunden-, Patienten- und Organisationsbezüge so weit wie möglich.
4. Secrets löschen: Passwörter, Tokens, API-Keys und private Zertifikate gehören nicht in Prompts.
5. Freigegebene Umgebung wählen: Für Unternehmensdaten sollte ein geprüftes Business-, Enterprise- oder API-Setup genutzt werden; OpenAI beschreibt für diese Produkte separate Enterprise-Privacy-Regeln einschließlich standardmäßig keinem Training auf Business-Daten.^[7]
6. Einstellungen und Verträge prüfen: Kläre Trainingsnutzung, Speicherung, Rollenrechte, DPA/AVV und Aufbewahrung vorab.^[6][7][9]
7. Nutzung dokumentieren: Halte Tool, Zweck, Datentyp, Einstellungen und Freigabe nachvollziehbar fest.

Kurzfazit

Es gibt kein pauschales „ChatGPT ja“ oder „ChatGPT nein“. Im Consumer-Kontext können Prompts und Uploads personenbezogene Daten enthalten und von OpenAI als User Content erfasst werden.^[5] Datenkontrollen und Temporary Chats beeinflussen, ob Unterhaltungen zur Modellverbesserung, im Verlauf oder für Memories genutzt werden; Temporary Chats werden laut OpenAI nach 30 Tagen gelöscht, können aber weiterhin zur Missbrauchsüberwachung geprüft werden.^[9][11]

Für Business-, Enterprise-, Edu-, Healthcare- und API-Nutzung beschreibt OpenAI eigene Regeln, darunter standardmäßig kein Training auf Business-Daten.^[7] Wenn du unsicher bist, gilt die konservative Regel: nicht einfügen. Erst anonymisieren, mit Platzhaltern arbeiten oder ein freigegebenes Business-, Enterprise- oder API-Setup nutzen.

SoftBanks OpenAI-Gewinnsprung hat ein Schuldenproblem