Metas KI-Agent Muse: Warum der Start neue Datenschutzsorgen auslöst

Meta hat am 8. September in den USA Muse gestartet: einen persönlichen KI-Agenten, der wie ein Chatbot angesprochen wird, aber selbstständig Aufgaben in verknüpften Diensten ausführen soll. Dazu zählen etwa E-Mails schreiben und versenden, Termine organisieren, Reisen buchen, online einkaufen oder Gegenstände zum Verkauf anbieten. Gerade diese weitreichende Handlungsfähigkeit macht Muse allerdings auch zu einem Datenschutz- und Sicherheitsrisiko. 23

Was Muse kann – und was es kostet

Nutzerinnen und Nutzer können Muse mit Diensten aus Bereichen wie E-Mail, Kalender, Zahlungen, Gesundheit, Shopping und Smart Home verbinden. Auch Meta-Angebote wie Instagram und Facebook können dem Agenten Informationen über Interessen und Gewohnheiten liefern; genannt wurden zudem Drittanbieter wie Gmail, Spotify, Ticketmaster, Shopify und OpenTable. 316

Muse ist vorerst ausschließlich in den USA verfügbar – über eine eigene App sowie über WhatsApp. Neben einer kostenlosen Basisversion bietet Meta laut Unternehmensangaben beziehungsweise Berichten Tarife für 20 und 100 US-Dollar im Monat an; der Preis richtet sich nach der Nutzung. 213

Warum ein Test mit Gmail und Amazon beunruhigte

Besonders viel Aufmerksamkeit erhielt ein Test, bei dem ein Rezensent Muse mit Gmail und Amazon verband. Dem Bericht zufolge stellte der Agent eine „beunruhigende“ Menge persönlicher Informationen zusammen: Er leitete unter anderem einen Standort aus Amazon-Aktivitäten ab und zog aus Instagram-Daten Schlüsse über Interessen. 13

Der Kern des Problems liegt nicht allein darin, dass Muse auf ausdrücklich freigegebene Daten zugreift. Entscheidend ist, was sich aus der Kombination unterschiedlicher Datenquellen ableiten lässt. Einzelne Käufe, E-Mails oder Social-Media-Signale können zusammen ein deutlich intimeres Bild einer Person ergeben, als sie es einem einzelnen Dienst bewusst mitgeteilt hat.

Metas Schutzversprechen – und die offenen Risiken

Meta erklärt, Muse laufe in einer abgeschotteten Umgebung namens „Muse Secure VM“ mit eigenem Browser. Der Konzern sagt zudem, der Agent sehe weder die tatsächlichen Passwörter noch Zahlungsdaten und frage bei sensiblen Vorgängen nach einer Bestätigung. 1119

Solche Schutzmechanismen sind relevant, lösen aber nicht jedes Problem. Sie verhindern nicht automatisch zu weit gefasste Berechtigungen, Fehlentscheidungen des Agenten, mögliche Datenlecks oder weitreichende Rückschlüsse aus Daten, auf die Muse rechtmäßig zugreifen durfte. Reuters berichtete zudem, interne Tests hätten Hänger sowie unbefugte Offenlegungen sensibler Daten gezeigt. 2

Separater Instagram-Vorfall um Vorschläge zu Kindern

Von der Einführung von Muse als persönlichem Agenten zu trennen ist ein weiterer Vorfall rund um Metas KI-Angebote auf Instagram. Eine Mutter veröffentlichte ein viel beachtetes Video, in dem sie zeigte, dass Meta AI äußerst übergriffige Vorschläge zu ihren jungen Töchtern machte. Nach ihrer Darstellung führte einer dieser Vorschläge zu Namen, Geburtsangaben, Medieninhalten – darunter angeblich ein längst gelöschtes Foto – sowie ortsbezogenen Informationen. Diese konkreten Abrufbehauptungen sind Angaben der Nutzerin und keine unabhängig bestätigten öffentlichen Feststellungen. 1116

Meta teilte The Verge laut der vorliegenden Darstellung mit, man habe mit den vorgeschlagenen Prompts „das Ziel verfehlt“ und werde sie ändern. Bereits im Juli hatte das Unternehmen nach Kritik eine andere Funktion eingestellt: Muse Image ermöglichte es, Bilder auf Grundlage öffentlicher Instagram-Accounts zu generieren. Die Funktion wurde innerhalb weniger Tage zurückgezogen. 115

Warum Vertrauen hier entscheidend ist

Bei einem Agenten, der im Auftrag von Menschen handeln soll, geht es um mehr als die Qualität der Antworten. Wer Muse Zugriff auf das Haupt-E-Mail-Postfach, Kalender, Zahlungsdienste oder Gesundheitsdaten gibt, überträgt dem System potenziell Zugang zu besonders sensiblen Bereichen des Alltags.

Hinzu kommt Metas Vorgeschichte: Das Unternehmen stimmte jüngst einem Vergleich mit fast allen US-Bundesstaaten zu, dessen Gesamtwert bei bis zu 18 Milliarden US-Dollar liegt. Dabei ging es um Vorwürfe, Facebook und Instagram seien so gestaltet worden, dass sie Minderjährige abhängig machten. 1

Die vorsichtige Schlussfolgerung: Muse kann praktisch sein, wenn Verbindungen eng begrenzt und jederzeit widerrufbar sind und jede externe Aktion bestätigt werden muss. Für einen pauschalen, dauerhaften Zugriff auf primäre E-Mail-Konten, Finanz-, Gesundheits- oder Daten von Kindern hat Meta angesichts der berichteten internen Probleme und der jüngsten Kontroversen jedoch noch kein ausreichendes Vertrauen aufgebaut. 211