Warum Zuckerberg eine gemeinsame KI-Bremse ablehnt

Mark Zuckerberg ist nicht grundsätzlich dagegen, die Entwicklung künstlicher Intelligenz zu bremsen. Er lehnt ab, dass sich Unternehmen gemeinsam zu einem langsameren Tempo verpflichten. Im Gespräch mit der NBC-Journalistin Joanna Stern sagte der Meta-Chef, führende KI-Labore könnten ihre eigenen Produkte zurückhalten oder pausieren, wenn sie diese für unsicher hielten. Eine branchenweite Vereinbarung brauche es dafür aus seiner Sicht nicht. 10

Sicherheit als Entscheidung jedes einzelnen Labors

Zuckerbergs Argument: Jedes Labor trägt selbst die Verantwortung dafür, Modelle nur so schnell zu entwickeln, wie es sicher möglich ist. Zugleich hätten Unternehmen wirtschaftliche und rechtliche Gründe, Risiken ernst zu nehmen. Nutzerinnen und Nutzer würden KI-Agenten meiden, die ihre Absichten nicht zuverlässig befolgen; verursachten Systeme Schäden, könnten den Anbietern Haftungsrisiken entstehen. Vertrauen und die Ausrichtung auf Nutzerwünsche seien damit auch Wettbewerbsvorteile. 172934

Das ist ein Plädoyer für Sicherheitsentscheidungen auf Unternehmensebene, nicht für die Freigabe jedes Produkts um jeden Preis. Ob Wettbewerb und Haftungsrisiken ausreichen, bleibt allerdings die entscheidende offene Frage: Beide Anreize setzen voraus, dass Unternehmen Gefahren rechtzeitig erkennen und darauf reagieren.

Warum Zuckerberg auf Muse verweist

Meta habe die Veröffentlichung seines KI-Agenten Muse um mehrere Monate verschoben, um an Sicherheit und Schutzmaßnahmen zu arbeiten, sagt Zuckerberg. Für ihn zeigt das: Ein Unternehmen kann ein eigenes Produkt zurückhalten, ohne zuvor seine Wettbewerber zu einem gemeinsamen Stopp zu bewegen. 1727

Meta beschreibt außerdem einen von Muse getrennten Agenten namens Sentinel. Dieser soll ausgehende Aktionen und Daten überwachen und bei Bedarf die Zustimmung der Nutzer einholen. Das veranschaulicht, welche Schutzmaßnahmen Meta nach eigenen Angaben einsetzt – belegt aber nicht, dass damit alle Risiken beseitigt sind. 30

Der Gegenentwurf: gemeinsam mehr Zeit für Sicherheit schaffen

Anthropic-Chef Dario Amodei hat für ein langsameres Tempo bei der Entwicklung besonders leistungsfähiger KI plädiert. OpenAI-Chef Sam Altman und Elon Musk unterstützten diesen Vorstoß. Am 23. September 2026 sprachen Amodei und Altman vor dem Sicherheitsrat der Vereinten Nationen und warben für internationale Zusammenarbeit beim Umgang mit KI-Risiken. 146

Der Streit dreht sich damit vor allem um die Frage, wer das Tempo bestimmt. Zuckerberg setzt auf Entscheidungen einzelner Labore, gestützt durch Wettbewerb und mögliche Haftung. Amodei und Altman wollen Risiken auch durch Abstimmung zwischen Unternehmen und Staaten begegnen, statt allein auf voneinander unabhängige Entscheidungen der Wettbewerber zu vertrauen. 10174

Dass diese Positionen nicht einfach in „für“ oder „gegen“ Sicherheit zerfallen, zeigt der frühere Anthropic-Forscher Jacob Coxon. Nach seinem Rücktritt warnte er vor möglicherweise katastrophalen KI-Risiken. Zugleich schlug er vor, führende Labore zunächst selbst Regeln für ihre Arbeit setzen zu lassen, während der US-Kongress einen längerfristigen Rahmen für eine Verlangsamung entwickelt. Auch große Sorge über KI-Risiken führt also nicht zwangsläufig zur Forderung nach einem sofortigen, einheitlichen Stopp. 4237