Daten in KI hochladen? So prüfen Sie Personenbezug, Firmengeheimnisse und Behördenakten

Mit „allgemein zugänglicher KI“ sind hier Cloud-Dienste gemeint, die Ihre Organisation nicht freigegeben hat und bei denen Sie Aufbewahrung, Weiterverwendung, Zugriffsrechte, Opt-out, Monitoring und Vorfallprozesse nicht verlässlich prüfen können. Das bedeutet nicht, dass KI grundsätzlich nie mit sensiblen Daten arbeiten darf. Entscheidend ist, ob es vorher überprüfbare Antworten zur Daten-Governance gibt.

Kurz gesagt: Wenn die Antworten fehlen, keinen Originaltext hochladen

Identifizierbare personenbezogene Daten, Firmengeheimnisse und nicht veröffentlichte Behördenunterlagen gehören nicht direkt in allgemein zugängliche KI-Tools. Das gilt auch dann, wenn Sie nur eine Zusammenfassung, Übersetzung, Umformulierung oder Code-Fehlersuche möchten. Sobald die Eingabe Personen, Kunden, interne Entscheidungen, Zugangsdaten oder geschützte Informationen offenlegen kann, sollte sie zuerst minimiert, geschwärzt, anonymisiert oder in einer freigegebenen, kontrollierten Umgebung verarbeitet werden.

Der sicherste Maßstab ist nicht die Marke des KI-Tools, sondern vier Punkte: Sind die Daten sensibel? Wie speichert oder nutzt der Dienst die Daten? Hat die Organisation die Nutzung ausdrücklich erlaubt? Und kann man einen Vorfall nachvollziehen und bearbeiten? Wenn Datenaufbewahrung, Monitoring, Incident Response, Opt-out und risikobasierte Kontrollen nicht geklärt sind, sollte der Originaltext nicht hochgeladen werden.

Personenbezogene Daten, Firmeninterna, Behördenakten: die Grundregel

Fünf Fragen vor jedem Upload

Wenn Sie eine dieser Fragen nicht beantworten können, laden Sie den Originaltext nicht in ein allgemein zugängliches KI-Tool.

1. Enthält der Inhalt personenbezogene oder sensible Informationen? Wenn Daten eine Person erkennbar machen oder Datenschutzrisiken auslösen können, sollte der Originaltext nicht direkt eingegeben werden. Der EDPB fokussiert genau solche Datenschutzrisiken und Gegenmaßnahmen bei LLM-Systemen.
2. Speichert der Dienst Eingaben oder Ausgaben – und wenn ja, wie lange? Datenaufbewahrung ist ein eigener Punkt im NIST-Risikomanagement für generative KI.
3. Werden die Daten kommerziell genutzt, weiterverarbeitet oder zur Verbesserung des Dienstes eingesetzt? Gibt es ein Opt-out? NIST nennt kommerzielle Nutzung, Datenschutz, Datenaufbewahrung und Opt-out-Möglichkeiten als Governance-Aspekte.
4. Wer darf das Tool nutzen, und ist die Nutzung nachvollziehbar? NIST erwähnt Qualifikationen beziehungsweise Berechtigungen von KI-Akteuren, die Vermeidung anonymer Nutzung und Monitoring; praktisch heißt das: Eine Organisation muss wissen können, wer welche Daten wofür verwendet.
5. Gibt es Folgenabschätzung, Incident Response und risikobasierte Kontrollen? Auch diese Punkte gehören zu den NIST-Anforderungen für generative KI-Governance.

Ein Satz im Prompt wie „Bitte vertraulich behandeln“ ist keine Sicherheitsmaßnahme. Entscheidend ist, wie Daten gespeichert werden, wer Zugriff erhält, ob Weiterverwendung ausgeschlossen werden kann, wer einen Vorfall bearbeitet und ob Ihre Organisation die Nutzung erlaubt.

Ampel für den Alltag: grün, gelb, rot

Die folgende Einordnung übersetzt Datenschutz, Datenaufbewahrung und risikobasierte Kontrolle in eine praktische Prüflogik. Sie ersetzt keine Rechtsberatung und keine internen Vorgaben zu Informationssicherheit, Datenschutz, Aktenführung oder Geheimschutz.

Grün: möglich, aber Bedingungen prüfen

• Bereits veröffentlichte, niedrig sensible Informationen, die Sie verwenden dürfen.
• Inhalte, die so anonymisiert, gekürzt oder verändert wurden, dass Personen, Kunden, Fälle oder interne Geheimnisse nicht vernünftigerweise zurückverfolgt werden können.
• Eine knappe Problembeschreibung mit nur dem nötigen Kontext – nicht der komplette Vertrag, die ganze Behördenakte, die Kundentabelle oder das gesamte Code-Repository.

Wichtig: Öffentlich heißt nicht automatisch risikofrei. Wenn öffentliche Daten weiterhin personenbezogene oder sensible Informationen enthalten, gelten Datenschutz- und Schutzpflichten weiter.

Gelb: erst schwärzen, umformulieren oder Freigabe einholen

• Unterlagen mit Informationen zu Kunden, Beschäftigten, Lieferanten, Verfahrensbeteiligten oder Bürgerinnen und Bürgern.
• Vertragsentwürfe, Finanzdaten, interne Präsentationen, Sitzungsprotokolle, Rechtsmeinungen oder politische Entwürfe.
• Quellcode, technische Dokumentation und Architekturdiagramme, besonders wenn Schlüssel, Zertifikate, Zugangsdaten oder Schwachstellen enthalten sein könnten; NIST nennt sichere Softwareentwicklung und risikobasierte Kontrollen als Governance-Punkte.
• Interne Behördenunterlagen, nicht veröffentlichte Akten, Vorlagen, Bewertungsunterlagen oder Dokumente für die Zusammenarbeit zwischen Behörden; bei generativer KI im öffentlichen Sektor bleiben personenbezogene und sensible Informationen ein zentrales Risiko.

Solche Daten sind nicht zwingend für jede KI-Nutzung ausgeschlossen. Sie sollten aber nicht ohne Freigabe, Aufbewahrungsregeln, Monitoring und Incident-Response-Prozess in allgemein zugängliche KI-Dienste gelangen.

Rot: nicht in allgemein zugängliche KI hochladen

• Daten, deren Weitergabe rechtlich oder nach internen Regeln verboten ist.
• Eingestufte oder als vertraulich/geheim behandelte Unterlagen sowie besonders sensible Informationen zu Sicherheit, Vollzug, Ermittlungen oder Vergabeverfahren.
• Passwörter, API-Keys, private Schlüssel, Zertifikate, Zugriffstoken oder alles, womit man Zugang zu Systemen erhalten könnte.
• Daten, deren Herkunft, Berechtigung, Speicherung, Löschung oder Weiterverwendung Sie nicht klären können.

Anonymisieren heißt mehr als Namen löschen

Nur den Namen zu entfernen, reicht oft nicht. Ausweis- oder Kundennummern, Telefonnummern, E-Mail-Adressen, Anschriften, Konten, Aktenzeichen, seltene Funktionen oder Kombinationen aus Datum und Ort können weiterhin auf eine bestimmte Person oder einen bestimmten Fall verweisen. Der EDPB behandelt gerade solche Datenschutzrisiken und Gegenmaßnahmen bei LLM-Systemen; vor einem Upload sollten daher identifizierende Merkmale, rückverfolgbare Details und nicht notwendige Felder entfernt oder umgeschrieben werden.

Sicherer ist es, echte Namen und Firmennamen durch Platzhalter zu ersetzen, nur die nötigen Ausschnitte zu verwenden, den Fall abstrakt zu beschreiben, Listen und Tabellen vorher zu aggregieren und Originaldokumente nur in freigegebenen, kontrollierten Werkzeugen zu verarbeiten.

Behördenunterlagen: öffentlich ist nicht dasselbe wie intern

Für die öffentliche Verwaltung ist generative KI keine einfache Ja-oder-Nein-Frage. Der JRC-Bericht der Europäischen Kommission behandelt Anwendungen im öffentlichen Sektor als eigenes Themenfeld. In einer Fallübersicht im Umfeld des Europäischen Parlaments wird außerdem ein Beispiel erwähnt, das offizielle Bundestag-Daten nutzt und personenbezogene oder sensible Informationen vermeidet.

Eher geeignet sind veröffentlichte, niedrig sensible und rechtmäßig nutzbare amtliche Informationen. Besonders vorsichtig sollten Behörden und öffentliche Stellen bei nicht veröffentlichten Akten, internen Vorlagen, politischen Entwürfen, Untersuchungsdaten, Vollzugsdaten, Vergabeunterlagen und allen Dokumenten mit Personenbezug oder sensiblen Inhalten sein. Erstere müssen trotzdem auf Nutzungsbedingungen geprüft werden; letztere gehören nicht direkt in allgemein zugängliche KI-Tools.

Die einfachste Entscheidungsregel

Wenn ein Datenabfluss Personen, Ihre Organisation, öffentliche Interessen oder die Einhaltung rechtlicher Vorgaben schädigen könnte, geben Sie den Originaltext nicht in allgemein zugängliche KI ein. Erst minimieren, schwärzen, anonymisieren oder zusammenfassen. Wenn die Aufgabe tatsächlich Originaldaten erfordert, nutzen Sie freigegebene Prozesse und kontrollierte Werkzeuge – mit geklärtem Datenschutz, Datenaufbewahrung, Zugriff, Monitoring und Incident Response.