Wie die KI-Modelle der Tech-Giganten laut Amnesty auf massenhafter Privatsphärenverletzung aufbauen

Der Vorwurf: „Rechtswidrig durch Design“

Den Kern von Amnestys Argumentation bildet die These, dass die Datenpipelines, die diese KI-Modelle füttern, einer Form von Massenüberwachung gleichkommen. Der Bericht beschreibt, wie Technologieunternehmen mithilfe automatisierter Werkzeuge „riesige Mengen an Online-Daten – darunter Bilder, Social-Media-Aktivitäten und andere persönliche Informationen – ohne die ausdrückliche Zustimmung der Einzelnen extrahieren“ . Da diese nicht einwilligungsfähige Datenextraktion in die grundlegende Architektur der Systeme eingebrannt ist, brandmarkt der Bericht sie als „rechtswidrig durch Design“ („unlawful by design“) .

Amnesty stellt dieses automatisierte Abgreifen von Daten auf eine Stufe mit staatlichen Massenüberwachungssystemen und argumentiert, dass bereits der erste Entwicklungsschritt das Recht auf Privatsphäre verletzt . Der Bericht nennt in seiner Untersuchung mehrere große, öffentlich zugängliche Modelle und Werkzeuge, darunter GPT-3, Gemini, Llama sowie weitere wie DeepSeek, Midjourney und Stable Diffusion .

Drei Kategorien des Schadens

Um seine Forderung nach einem Verbot anstelle eines risikobasierten Regulierungsansatzes zu untermauern, zeigt der Bericht drei unterschiedliche, aber miteinander verbundene Schadenskategorien auf.

1. Massenhafte Privatsphärenverletzung durch das Design

Der erste und grundlegendste Schaden ist die Verletzung der Privatsphäre selbst. Der Bericht legt detailliert dar, wie Datensätze, die aus Milliarden öffentlicher Beiträge, Fotos und Unterhaltungen bestehen, ohne Erlaubnis zusammengestellt werden. Dies ist kein Datenleck und kein Verstoß gegen Datenschutzrichtlinien; es ist die bewusste, strukturelle Methode zur Erschaffung der KI. Amnesty argumentiert, dass dieser „Missbrauch von Privatsphärerechten“ der Ausgangspunkt ist, der die gesamte Entwicklungspipeline nach menschenrechtlichen Standards illegal macht .

2. Verstetigung von Stereotypen, Vorurteilen und Diskriminierung

Die zweite Schadenskategorie ergibt sich direkt aus den Daten. Da das Trainingsmaterial wahllos aus dem offenen Web zusammengekratzt wird, ist es „mit realen Vorurteilen belastet“. Amnesty warnt, dass diese Vorurteile von der KI nicht neutralisiert werden; stattdessen würden sie „in den Modellergebnissen entlang rassistischer, geschlechtsspezifischer und kultureller Linien verstärkt“ . Der Bericht zeigt sich besonders besorgt über historisch marginalisierte Gemeinschaften, die die Hauptlast dieser systemischen Diskriminierung tragen, wenn toxische Stereotype und vorurteilsbehaftete Assoziationen automatisiert und in großem Maßstab verbreitet werden .

3. Negative Umweltauswirkungen

Die letzte Schadenskategorie richtet den Blick vom Digitalen auf das Physische. Der Bericht dokumentiert die erheblichen ökologischen Kosten für den Bau und Betrieb dieser Systeme und verweist auf die „enormen Rechenzentren und den dafür nötigen Energieverbrauch“ . Diese Umweltauswirkungen, so der Bericht, sind eine zusätzliche und oft übersehene menschenrechtliche Konsequenz des ungebremsten KI-Wettrüstens.

Ein Aufruf zum Verbot, nicht nur zur Regulierung

Das Fazit von Amnesty International ist drastisch. Die Organisation stellt fest, dass eigenständige generative KI-Systeme, die auf diesen rechtswidrigen Web-Scraping-Pipelines basieren, „unvereinbar mit den internationalen Menschenrechten“ sind . Bestehende Regulierungsmodelle, wie der risikobasierte Ansatz des EU AI Acts, werden als unzureichend bewertet . Stattdessen fordert die Organisation die Regierungen auf, mit einem „vollständigen Verbot“ von Systemen einzugreifen, die mit diesen Methoden entwickelt wurden. Die gesamte Praxis wird als eine Menschenrechtskrise dargestellt, die sich nicht einfach nur verwalten lässt .