AgentBaiting ist ein Supply-Chain-Angriff auf das Vertrauensmodell von KI-Agenten. Statt darauf zu hoffen, dass Opfer auf bösartige Links stoßen, haben die Angreifer ihre Fake-Repositories so konstruiert, dass sie von den KI-Agenten selbst gefunden und beworben werden. Die Angriffskette läuft wie folgt ab:
Der leitende Sicherheitsforscher von Island, Oleg Zaytsev, beschrieb den Wandel: „Was entwickelt wurde, um Menschen zu täuschen, täuscht jetzt auch KI-Agenten“.
Die FakeGit-Kampagne setzte eine zweistufige Malware-Kette ein:
Hinweis: Die Downloadzahl von über 14 Millionen spiegelt alle Ereignisse wider, die von GitHub-Zählern für die Kampagnendateien erfasst wurden. Dies kann sowohl automatisierte Anfragen als auch echte Benutzer-Downloads umfassen.
Basierend auf der Analyse von Island Security und ergänzenden Berichten (u. a. von Mozillas 0din-Team) sind die wichtigsten Abwehrmaßnahmen:
1. Geprüften Katalog für KI-Fähigkeiten, MCP-Server und Agent-Erweiterungen führen. Erlauben Sie Agenten nur die Installation von Komponenten aus dieser genehmigten Liste. Dokumentieren Sie für jeden Eintrag Herkunft, Eigentümer, Repository, Commit-Hash und Version.
2. Neue Agent-Funktionen in einer Sandbox testen. Bevor Sie eine neue KI-Fähigkeit oder einen MCP-Server im gesamten Unternehmen einführen, evaluieren Sie diese in einer isolierten, kontrollierten Umgebung.
3. Integrität von Herausgeber und Projekt prüfen. Überprüfen Sie die Identität des Herausgebers, das Alter des Kontos und die Projekthistorie, bevor Sie einem KI-Plugin eines Drittanbieters vertrauen. Behandeln Sie Repos mit vielen Sternen/Downloads als potenziell manipuliert.
4. Agentische Pfade überwachen. Implementieren Sie eine Überwachung für ausgehende Anfragen von KI-Agenten an externe Repositories, insbesondere für Raw-Content-Downloads von GitHub, die außerhalb der etablierten Entwickler-Baselines liegen.
5. Autonomes Agentenverhalten einschränken. Konfigurieren Sie KI-Coding-Agenten so, dass sie vor der Installation neuer Tools, der Ausführung von Shell-Befehlen aus README-Anleitungen oder dem Herunterladen externer Pakete eine Benutzerbestätigung benötigen.
6. Strenge Ausgangskontrollen (Egress-Controls) anwenden. Begrenzen Sie, welche Endpunkte die KI-Agenten-Infrastruktur erreichen kann, und führen Sie eine Whitelist „genehmigter Quellen“ für Code- und Paket-Downloads.