Warum Meta die menschliche Anrufhilfe für Muse gestoppt hat

Meta hat den internen Test einer „menschlichen Concierge“-Funktion für seinen KI-Assistenten Muse vorerst zurückgerollt. Auslöser war laut Berichten ein Vorfall bei der Verhandlung einer Internet- und Kabelrechnung: Ein Auftragnehmer soll in dem Gespräch eine rassistische Bemerkung gemacht haben. Zugleich gab es intern Bedenken, dass externe Mitarbeitende Anrufe übernahmen, ohne dass Nutzende oder die angerufenen Personen ausreichend darüber informiert waren. 111

Was hinter der menschlichen Anrufhilfe steckte

Muse ist Metas persönlicher KI-Assistent. Er soll im Auftrag von Nutzenden etwa E-Mails verschicken, Reisen buchen oder Transaktionen durchführen können. Dafür kann Muse mit Diensten wie E-Mail, Kalendern, Bezahldiensten sowie Gesundheits- und Smart-Home-Apps verbunden werden.

Bei einigen Telefonaufgaben testete Meta eine menschliche Rückfallebene: Geschulte Auftragnehmer konnten einen von Muse angeforderten Anruf übernehmen und selbst führen. Der Test war Berichten zufolge für etwa die Hälfte der Meta-Beschäftigten aktiviert. 18

Das sollte ein praktisches Problem lösen: Manche Unternehmen wollen offenbar nicht mit einem automatisierten Anrufer sprechen. Doch damit verändert sich auch, was hinter dem Versprechen eines KI-Agenten steckt. Eine Aufgabe, die nach außen von einer KI erledigt wird, kann tatsächlich bei Meta oder einem beauftragten Dienstleister von einem Menschen ausgeführt werden.

Der konkrete Auslöser für den Stopp

Ein Beschäftigter hatte Muse gebeten, mit einem Internet- und Kabelanbieter über seine Rechnung zu verhandeln. Nach dem Gespräch prüfte er das Transkript und berichtete, der eingesetzte Auftragnehmer habe eine rassistische Bezugnahme gemacht. 138

Der Vorfall war mehr als ein einzelnes Fehlverhalten. Eine menschliche Rückfallebene schafft Risiken, die sich von Fehlern eines automatisierten Systems unterscheiden: Auswahl und Schulung von Auftragnehmern, Aufsicht, Verhaltensstandards und klare Zuständigkeiten, wenn etwas schiefläuft.

Meta sprach nicht von einer endgültigen Einstellung, sondern von einem Rückschritt im Test. Ein Vizepräsident aus Metas Bereich Superintelligence Labs räumte laut Berichten ein, es sei ein Fehler gewesen, von Auftragnehmern geführte Anrufe ohne angemessene Offenlegung zu starten. 11

Datenschutz und Transparenz: die zentralen Bedenken

Die Kritik der Beschäftigten richtete sich besonders dagegen, dass Auftragnehmer Anrufe im Hintergrund übernehmen konnten. Es ging nicht allein darum, dass Menschen die KI unterstützten, sondern darum, ob die Beteiligten darüber aufgeklärt wurden. 111

Das wiegt bei einem Assistenten mit Zugriff auf persönliche Dienste besonders schwer. Um einen Anruf auszuführen, könnte ein Auftragnehmer Kontext aus Konten, Terminen, Käufen oder anderen persönlichen Informationen benötigen. Beschäftigte warnten, dass solche Angaben bei Callcenter-Kräften landen könnten, obwohl Nutzende glaubten, ausschließlich mit einem KI-System zu interagieren. 7

Dabei stellen sich zwei getrennte Fragen:

• Transparenz gegenüber Nutzenden: Wissen sie, dass ein Auftragnehmer ihre Informationen einsehen oder die angeforderte Aufgabe ausführen könnte?
• Transparenz gegenüber Angerufenen: Wissen Unternehmen oder Privatpersonen, dass ein menschlicher Auftragnehmer für einen Nutzer handelt – statt eines automatisierten Assistenten?

Ohne eindeutige Antworten können Zustimmung und Vertretungsverhältnis verschwimmen. Eine höhere Erfolgsquote bei der Aufgabe löst diese Fragen nicht.

Menschen waren erfolgreicher – der KI-Vergleich bleibt aber unklar

Meta teilte Beschäftigten mit, dass menschliche Anrufer in einigen Tests Erfolgsquoten von 95 bis 98 Prozent erreicht hätten – und damit besser abschnitten als reine KI-Anrufe. 912

Das ist ein relevantes Ergebnis, aber kein präziser Leistungsmaßstab für die autonome Telefonfunktion von Muse. Meta veröffentlichte die Erfolgsquote der KI ohne menschliche Unterstützung nicht. Wie groß der Vorsprung tatsächlich war, lässt sich aus den verfügbaren Berichten daher nicht berechnen. 9

Die Konsequenz ist klar: Eine menschliche Rückfallebene kann einen KI-Agenten bei realen Telefonaufgaben deutlich leistungsfähiger erscheinen lassen. Dafür entstehen jedoch zusätzliche Anforderungen – etwa begrenzter Datenzugriff, transparente Hinweise, Qualitätskontrolle und möglicherweise Zweifel an der behaupteten vollständigen Autonomie.

Was Meta über eine mögliche Rückkehr gesagt hat

Die vorliegenden Berichte belegen lediglich, dass Meta den Mitarbeitertest vorerst zurückgerollt hat. Sie nennen weder einen öffentlichen Neustarttermin noch konkrete Bedingungen für eine Wiederaufnahme oder einen verbindlichen Plan, die Funktion auf der Connect 2026 erneut vorzustellen. 15

Falls Meta das System wieder aufgreift, sind vor allem praktische Fragen entscheidend: Wann darf ein Auftragnehmer übernehmen? Welche Daten darf diese Person sehen? Können Nutzende widersprechen? Werden Angerufene informiert? Und wie überwacht Meta das Verhalten der externen Kräfte?

Muse startete in den USA im September 2026; Reuters berichtete über eine starke frühe Nachfrage und Nutzung. Gerade weil das Interesse hoch ist, wird der Fall wichtiger: Bei KI-Agenten geht es nicht nur darum, ob eine Aufgabe erledigt wird. Entscheidend ist auch, ob der Weg dorthin transparent, sicher und nachvollziehbar bleibt.