Phishing-as-a-Service mit KI: Das Outsider-Kartell und der Missbrauch von Googles Gemini

Das Outsider Enterprise: Ein kriminelles Franchise-Unternehmen

Anders als ein loses Hacker-Kollektiv war das Outsider Enterprise ein kommerzielles Cybercrime-Franchise – eine Plattform, die vorgefertigte Angriffs-Toolkits an weniger technisch versierte Kriminelle verkaufte. Das Herzstück: Ein Telegram-basierter Bot, der es Käufern ermöglichte, für gerade einmal 88 US-Dollar pro Woche (rund 80 Euro) automatisch gefälschte Webseiten und massenweise SMS-Nachrichten zu erstellen, die legitime Marken imitierten. Man könnte es mit einem dubiosen Software-Abo vergleichen, das Betrug auf Knopfdruck ermöglicht.

Die Rolle von Googles Gemini: Der unfreiwillige Komplize

Die Integration von Google Gemini war kein Zufall, sondern das zentrale Werkzeug für die industrielle Skalierung des Betrugs. Die Gruppe nutzte die KI auf zwei entscheidende Arten:

• Automatisierte Erstellung von Fake-Seiten: Das Toolkit verwendete Gemini, um automatisch den HTML-Code für Phishing-Seiten zu generieren. Diese täuschend echten Kopien von Bankenportalen, Paketdiensten wie DHL oder Hermes, Mautstellen und Google-eigenen Login-Bildschirmen wurden so in Sekundenschnelle erstellt. Was früher mühsame Handarbeit war, erledigte die KI auf Knopfdruck in industriellem Maßstab.
• Umgehung der Sicherheitsfilter: Die Betreiber umgingen die eingebauten Schutzmechanismen von Gemini, indem sie ihre bösartigen Anfragen als harmlose Aufgaben tarnten. Statt explizit nach einer „Phishing-Seite“ zu fragen, gaben sie beispielsweise vor, eine „HTML-Seite für eine Paketbenachrichtigung“ zu benötigen. So wurde die KI ausgetrickst und zum Werkzeug der Kriminellen.

Durch die Automatisierung senkte das Outsider Enterprise die Einstiegshürde für Betrüger massiv. Laut Googles Klageschrift setzte das Netzwerk über 1 Million gefälschter Webseiten ein und verschickte allein an US-Handynutzer mehr als 2 Millionen betrügerische SMS.

Die Firmenstruktur des Verbrechens: Spezialisten am Werk

Die Klage und die begleitenden Ermittlungen zeichnen das Bild einer nahezu unternehmerisch organisierten Struktur mit mindestens fünf spezialisierten Abteilungen.

Diese Arbeitsteilung, kombiniert mit KI-gestützter Automatisierung, ermöglichte es dem Outsider Enterprise, mit einer Effizienz und Professionalität zu agieren, wie man sie sonst nur von legitimen Software-as-a-Service-Unternehmen (SaaS) kennt – nicht von einer klassischen Verbrecherbande.

Was dieser Fall für die Zukunft der KI-Kriminalität bedeutet

• Die „Demokratisierung“ der Cyberkriminalität: Indem eine hochentwickelte KI in ein billiges, einfach zu bedienendes Toolkit eingebaut wurde, können nun auch Einzeltäter ohne Programmierkenntnisse hochprofessionelle Phishing-Kampagnen starten. Dies markiert einen Wandel von gezielten Hackerangriffen hin zu kommerzialisiertem, KI-gestütztem Betrug als Massendienstleistung.
• Präzedenzfall mit Signalwirkung: Es ist Googles erste Klage überhaupt, die sich speziell gegen den Missbrauch seiner generativen KI-Produkte richtet. Sie signalisiert, dass Technologiekonzerne nicht mehr nur technisch gegen Missbrauch vorgehen, sondern auch bereit sind, die kriminellen Lieferketten juristisch zu zerschlagen.
• Neue Formen der Zusammenarbeit: Die koordinierte Aktion von Google mit dem FBI und Telekommunikationsanbietern wie AT&T, T-Mobile und Verizon zeigt, dass die Bekämpfung KI-gestützten Betrugs eine konzertierte Aktion von KI-Anbietern, Netzbetreibern und Strafverfolgungsbehörden erfordert. Gegen klassische Cyberkriminalität hilft nur ein Bündnis der großen Akteure.
• Regulierungslücken werden offensichtlich: Google nutzt die Klage auch, um auf veraltete Gesetze hinzuweisen und fordert strengere Regelungen, die explizit den Missbrauch generativer KI für Betrugszwecke unter Strafe stellen – ein Bereich, den aktuelle Gesetze oft nicht klar abdecken.

Wichtiger Hinweis zur Einordnung: Bei der Klage handelt es sich um ein zivilrechtliches Verfahren, nicht um eine strafrechtliche Verurteilung. Die Vorwürfe gegen das Outsider Enterprise sind bislang nicht vor Gericht bewiesen, und die Betreiber der Gruppe wurden nicht namentlich identifiziert. Die genannten Zahlen von 1,9 Milliarden Dollar Schaden und 3,87 Millionen gestohlenen Kreditkarten basieren auf Schätzungen des FBI, die in der Klage angeführt werden, und sind keine gerichtlich festgestellten Fakten.