Ein Knopf mit der Aufschrift „Create image“ erschien in Google Earth im Browser. Nachdem man zu einem beliebigen Ort gezoomt hatte, konnte man den Knopf drücken, eine Eingabe tippen, und Nano Banana 2 lieferte ein fotorealistisches Bild, das aus Googles Satelliten-, Luft- und 3D-Aufnahmen genau dieses Ortes erstellt wurde . Google präsentierte dies als kreatives Geografie-Tool – tatsächlich ermöglichte es jedem, massenhaft georäumliche Fälschungen zu produzieren .
Fälschungen, die gegen die Richtlinien verstießen, tauchten sofort auf. Nutzer erzeugten überzeugende Fake-Szenen, darunter einen Einschlagkrater in Los Angeles, ein überflutetes US-Kapitol, ein Feuer auf der iranischen Insel Kharg und – für Experten besonders alarmierend – ein gefälschtes Bild eines Atomkraftwerks im Iran sowie russische Panzer, die durch Kiew rollen .
BBC Verify und OSINT-Forscher demonstrierten das Risiko öffentlich. Der KI-Forscher Henk van Ess und BBC Verify produzierten gefälschte Satellitenszenen von sensiblen geopolitischen Orten und zeigten, wie einfach das Werkzeug irreführende Bilder erzeugen konnte, die authentisch wirkten .
Google räumte das Vertrauensproblem direkt ein. In der Rücknahmeerklärung hieß es: „Wir wissen, dass die Menschen Google Earth einzigartig vertrauen, um ein verlässliches Bild der Welt zu erhalten. Wir haben gesehen, dass Geodaten-Experten diese Funktion für eine Reihe nützlicher Zwecke genutzt haben“ – aber man ziehe die Funktion zurück, „während wir an der Implementierung stärkerer Schutzmaßnahmen arbeiten“ .
Satellitenbilder sind eine Art Goldstandard für Open-Source-Intelligence (OSINT), Menschenrechtsermittlungen und die Dokumentation von Kriegsverbrechen. Experten warnten davor, dass die direkte Integration von KI-Generierung in Google Earth – die am weitesten verbreitete und vertrauenswürdigste Satellitenkartenplattform – die Glaubwürdigkeit aller Luftbilder als Beweismittel fundamental untergraben könnte .
Die Funktion verwischte die Grenze zwischen echt und fake an der Quelle. Da die KI-Bilder direkt in Google Earth erzeugt und mit echten Koordinaten verknüpft wurden, trugen sie eine falsche Aura der Authentizität, die viel schwerer zu entlarven war als ein generisches KI-Bild in den sozialen Medien .
Menschenrechtsermittler sind auf verifizierte Satellitenbilder angewiesen, um Gräueltaten, Kriegsschäden und Umweltverbrechen zu dokumentieren. Wenn selbst die Ausgabe von Google Earth in Frage gestellt werden könnte, wäre die gesamte Beweiskette für Open-Source-Ermittlungen beschädigt – und Übeltäter könnten echte Aufnahmen leichter als KI-generiert abtun .
Die OSINT-Community bezeichnete den Vorfall als „Vertrauenskrise“ für digitale Beweise. Der schnelle Gegenwind von OSINT-Profis war ein Hauptgrund für Googles Kehrtwende innerhalb weniger Stunden .
Google wies darauf hin, dass alle KI-generierten Bilder mit SynthID versehen waren, einem digitalen Wasserzeichen, das KI-Inhalte kennzeichnen soll . Forscher zeigten jedoch, dass Erkennungswerkzeuge getäuscht werden können und dass Screenshots – die häufigste Verbreitungsform von Fälschungen – jedes plattformseitige Wasserzeichen oder Kontext entfernen . Die Verteidigung reichte nicht aus, um die Flut überzeugender Fälschungen zu verhindern, die innerhalb von Stunden nach dem Start auftauchten.
Der Vorfall ist eine der schnellsten Produktrücknahmen in der Geschichte Googles und eine Fallstudie für die Gefahren, generative KI ohne ausreichende Sicherheitsvorkehrungen in vertrauenswürdige Informationsplattformen einzubetten. Für die OSINT-Community war es eine deutliche Warnung: Die Glaubwürdigkeit von Satellitenbildern – ein Eckpfeiler moderner digitaler Beweise – kann durch einen einzigen Produktstart erschüttert werden .