AI‑Doxxing: Wenn Chatbots echte Telefonnummern und Wohnadressen verraten

Das bedeutet nicht unbedingt, dass die Modelle diese Daten „wissen“ wie eine Datenbank. Häufig rekonstruieren sie Informationen aus verschiedenen Quellen, zum Beispiel:

• öffentlichen Registern oder Behördenunterlagen
• Webseiten, die während des Trainings gesammelt wurden
• alten Online‑Telefonbüchern oder Kontaktverzeichnissen
• fragmentierten Daten aus mehreren Quellen

Wenn eine KI diese Teile zusammenführt, kann sie persönliche Details wesentlich schneller sichtbar machen als klassische Suchmethoden .

Wie Chatbots persönliche Daten preisgeben können

Untersuchungen und Nutzerberichte beschreiben mehrere Wege, über die sensible Kontaktdaten in Chat‑Antworten auftauchen.

1. Trainingsdaten mit personenbezogenen Informationen

Große Sprachmodelle werden mit riesigen Datensätzen trainiert, darunter Webseiten, archivierte Dokumente oder öffentliche Datensammlungen. Manche dieser Quellen enthalten Telefonnummern oder Adressen. In bestimmten Fällen haben Chatbots solche Informationen reproduziert, wenn Nutzer gezielt danach fragten .

2. Zusammenführung verstreuter öffentlicher Daten

Auch wenn Daten öffentlich zugänglich sind, waren sie früher oft schwer auffindbar. Eine KI kann mehrere Datenquellen schnell kombinieren und die Information direkt in einer Antwort präsentieren .

3. Halluzinationen oder falsche Zuordnungen

Ein Teil der Vorfälle scheint auf Fehlantworten zurückzugehen. Dabei erfindet eine KI etwa eine Telefonnummer oder ordnet eine echte Nummer fälschlicherweise einem Unternehmen oder Service zu .

4. Schrittweise Eingrenzung durch Prompts

Forscher zeigen, dass Nutzer durch mehrere aufeinanderfolgende Fragen Sicherheitsfilter manchmal umgehen können. Schrittweise eingegrenzte Prompts können ein Modell dazu bringen, Details preiszugeben, die es zunächst blockiert hätte .

Reale Fälle zeigen die Folgen

Auch wenn es noch keine umfassenden Statistiken gibt, dokumentieren mehrere Berichte konkrete Auswirkungen auf Betroffene.

• Fremde rufen plötzlich an: Einige Menschen berichten von Anrufen von Unbekannten, die sagen, sie hätten die Telefonnummer von einem Chatbot erhalten, während sie nach Dienstleistungen wie juristischer Hilfe oder einem Schlüsseldienst suchten .

• „Die KI hat mir Ihre Nummer gegeben“: Ein Betroffener berichtete, dass Anrufer regelmäßig erklärten, ein Chatbot habe seine Telefonnummer als Kontakt für verschiedene Dienste genannt – was zu anhaltenden Belästigungen führte .

• Fehlgeleitete Kundenanfragen: Ein israelischer Softwareentwickler erhielt plötzlich Support‑Anfragen von Fremden, nachdem ein KI‑System seine private Nummer als Servicekontakt ausgegeben hatte .

• Forschungsexperimente: Universitätsforscher konnten in Tests teilweise Telefonnummern von Kollegen oder die Wohnadresse eines Professors aus Chatbot‑Antworten herauslocken .

• Preisgabe von Wohnadressen: Untersuchungen zeigen außerdem Fälle, in denen Chatbots bei einfachen Namensanfragen Wohnadressen von Privatpersonen ausgaben .

Diese Beispiele zeigen, dass selbst unbeabsichtigte KI‑Antworten schnell reale Konsequenzen haben können.

Wenn „öffentlich“ plötzlich leicht auffindbar wird

Vor dem Aufkommen von KI‑Assistenten existierten viele persönliche Daten in einer Art „praktischer Unauffindbarkeit“. Sie waren zwar öffentlich, aber schwer zu entdecken.

Wer etwa eine Adresse finden wollte, musste mehrere Register, Datenbanken oder archivierte Webseiten durchsuchen.

Chatbots reduzieren diese Hürde drastisch: Eine einfache Frage genügt, und die KI kombiniert Suchergebnisse und Daten automatisch. Dadurch können Informationen, die früher tief in Datensätzen verborgen waren, sofort sichtbar werden .

Einige Experten warnen deshalb, dass KI‑Assistenten faktisch wie automatisierte Datenbroker wirken könnten – also Systeme, die persönliche Daten in großem Maßstab leichter zugänglich machen.

Warum das Problem so schwer zu lösen ist

Das Entfernen persönlicher Daten aus KI‑Systemen ist technisch kompliziert.

Daten existieren an vielen Stellen

Telefonnummern oder Adressen tauchen oft in mehreren Quellen auf – etwa Webarchiven, öffentlichen Registern oder Datensätzen aus dem Training. Selbst wenn eine Quelle entfernt wird, kann das Modell ähnliche Informationen weiterhin reproduzieren .

Modelle funktionieren nicht wie Datenbanken

Sprachmodelle speichern Informationen nicht als einzelne Datensätze. Stattdessen lernen sie statistische Muster aus großen Datenmengen. Deshalb lässt sich ein einzelner Dateneintrag nachträglich nur schwer gezielt löschen.

Sicherheitsfilter sind nicht perfekt

Viele Anbieter blockieren Anfragen nach privaten Kontaktdaten. Doch Berichte zeigen, dass diese Filter je nach Formulierung oder Kontext unterschiedlich greifen können .

Unklare Datenschutzrechte

Forschende kritisieren außerdem, dass Datenschutzerklärungen von KI‑Systemen oft schwer verständlich sind. Nutzer wissen daher häufig nicht genau, welche Daten gespeichert werden oder wie sie eine Löschung beantragen können .

Wie Experten und Unternehmen reagieren

Datenschützer und KI‑Entwickler arbeiten an mehreren Ansätzen, um das Risiko zu reduzieren.

Strengere Datenauswahl: Entwickler sollen Trainingsdaten stärker filtern und Quellen mit sensiblen Kontaktdaten möglichst ausschließen .

Intensivere Sicherheitstests: Systeme werden gezielt mit Prompts getestet, die Doxxing‑ähnliche Antworten provozieren, damit Schutzmechanismen verbessert werden können .

Blockieren sensibler Antworten: Einige Chatbots verweigern grundsätzlich die Ausgabe privater Telefonnummern oder Wohnadressen – selbst wenn sie öffentlich zugänglich sind .

Klare Meldewege: Experten fordern schnelle Verfahren, über die Betroffene falsche oder unerwünschte Daten in KI‑Antworten melden und entfernen lassen können .

Die größere Datenschutzfrage

Das Phänomen AI‑Doxxing zeigt ein grundlegendes Problem moderner KI: Sie kann Informationen, die früher schwer auffindbar waren, extrem leicht zugänglich machen.

Die Daten selbst sind oft nicht geheim. Doch Geschwindigkeit, Automatisierung und die einfache Chat‑Oberfläche verstärken die Wirkung, wenn persönliche Details plötzlich sichtbar werden.

Da KI‑Assistenten zunehmend in Suchmaschinen, Messenger‑Apps und Alltagssoftware integriert werden, warnen Forscher, dass stärkere Schutzmechanismen und klarere Datenschutzregeln nötig sein könnten, um unbeabsichtigte Offenlegungen persönlicher Daten zu verhindern .