Andrew Ng: KI-Aussterbeängste sind „mehr Science-Fiction als Wissenschaft“

Andrew Ng sagt nicht, dass Künstliche Intelligenz harmlos sei. Sein Punkt ist ein anderer: Die Vorstellung einer baldigen Auslöschung der Menschheit durch KI sei zu spekulativ, um zum Leitprinzip der KI-Politik zu werden. In einem Bloomberg-TV-Interview vom 17. September nannte der Mitbegründer von Google Brain solche Warnungen „mehr Science-Fiction als Wissenschaft“. KI-Sicherheit solle als Ingenieursaufgabe behandelt werden: Systeme testen, Schutzvorkehrungen einbauen und sie fortlaufend verbessern. 2

Ngs Kritik an Szenarien einer KI-Apokalypse

KI-Systeme würden nie vollkommen vorhersehbar sein, sagte Ng. Für ihn folgt daraus jedoch nicht, dass die Gesellschaft ihre Entwicklung grundsätzlich anhalten sollte. Tests, technische Sicherungen und Ingenieursarbeit könnten Systeme mit der Zeit sicherer machen. Eine breit angelegte Verlangsamung der Entwicklung könne seiner Ansicht nach sogar Fortschritte bei der Sicherheit selbst bremsen. 2

Damit widerspricht er der Auffassung, immer leistungsfähigere Systeme könnten bald außer menschliche Kontrolle geraten. Ng will die Sicherheitsdebatte vor allem an beobachtbaren und überprüfbaren Fehlfunktionen ausrichten – nicht an hypothetischen Aussterbeszenarien.

Warum Ng die Untergangsrhetorik hinterfragt

Warnungen vor existenziellen KI-Risiken könnten nach Ngs Ansicht den gesellschaftlichen Nutzen der Technologie schmälern. Zudem sagte er, die Techbranche habe Katastrophenszenarien früher im KI-Boom offenbar auch befeuert, um Aufmerksamkeit zu erzeugen und Regulierung zu beeinflussen. 1

Dabei geht es für Ng auch um Anreize: Dramatische Aussagen ziehen öffentliche Aufmerksamkeit auf sich, während Regulierungsdebatten darüber entscheiden können, wer die Kosten neuer Vorgaben trägt. Sicherheit solle deshalb nicht ausgesetzt werden – Ng wendet sich vielmehr dagegen, Aussterbeszenarien als gesicherte Wissenschaft zu behandeln oder daraus eine pauschale Entwicklungspause abzuleiten.

Worauf sich KI-Sicherheit nach Ngs Vorstellung konzentrieren sollte

Ngs Gegenentwurf ist praktische Risikominderung. In Berichten über das Interview werden Cybersicherheit und andere konkrete Schutzmaßnahmen als Prioritäten genannt. 5

Sein Ansatz lässt sich so zusammenfassen:

• Strenge Tests vor und während des Einsatzes von KI-Systemen.
• Schutzvorkehrungen und Leitplanken, die bekannte Fehlermuster begrenzen.
• Iterative technische Verbesserung, sobald neue Probleme erkannt werden.
• Fokus auf absehbare Schäden, einschließlich Cyberrisiken, statt die Politik überwiegend an Aussterbeszenarien auszurichten. 25

Das verspricht keine perfekte Kontrolle. Es folgt aber der Logik anderer Ingenieursdisziplinen: Technik wird durch kontinuierliche Prüfung und Verbesserung verlässlicher gemacht.

Der Konflikt mit dem Lager der Verlangsamung

Mehrere bekannte Stimmen der KI-Branche stimmen Ng darin zu, dass Sicherheit wichtiger werden muss. Sie ziehen jedoch eine deutlich weitergehende Konsequenz für die Entwicklung besonders fortgeschrittener Modelle – oft als Frontier AI bezeichnet.

Jacob Coxon: deutlich höhere Gefahreneinschätzung

Der frühere Anthropic- und OpenAI-Forscher Jacob Coxon kündigte bei Anthropic und warnte, die rasche Entwicklung hin zu selbstverbessernden Systemen könne katastrophale Folgen haben. Er fordert eine Verlangsamung und begrüßte später Anthropics Vorschlag, das Entwicklungstempo zu drosseln. 3343

Dario Amodei: Zeit für Schutzmaßnahmen gewinnen

Anthropic-Chef Dario Amodei fordert, dass Unternehmen den Zuwachs an KI-Fähigkeiten langsamer vorantreiben. Damit solle Zeit entstehen, Risiken besser zu beherrschen – unter anderem durch ein Modell mit unabhängigen Prüfern. 18

Sam Altman: Unterstützung für ein gebremstes Tempo an der Spitze

OpenAI-Chef Sam Altman unterstützte den Grundgedanken von Amodeis Vorschlag. OpenAI sagte zudem zu, eine der vorgeschlagenen Schutzmaßnahmen umzusetzen: externen Prüfern einen substanziellen Zugang zu gewähren, damit sie Sicherheitspraktiken bewerten können. 1924

Geoffrey Hinton: Sorge vor Kontrollverlust

Geoffrey Hinton erklärte, es gebe ein „erhebliches Risiko“, dass KI der menschlichen Kontrolle entgleiten könne. Er unterstützt eine Verlangsamung sowie Maßnahmen wie Tests vor der Veröffentlichung und kritisiert, dass Regierungen zu langsam reagiert hätten. 20

Der praktische Streit dreht sich somit um Wahrscheinlichkeit und politische Konsequenzen. Coxon, Amodei, Altman und Hinton halten Kontrollverlustrisiken für plausibel genug, um das Tempo bei den fortschrittlichsten Systemen bewusst zu drosseln. Ng betrachtet Aussterbeforderungen als nicht ausreichend belegt und möchte Sicherheitsarbeit auf konkrete, technisch bearbeitbare Fehlermuster konzentrieren. 21820

Gemeinsames Nein zur Pause – aber aus unterschiedlichen Gründen

Ngs Ablehnung einer breiten Verlangsamung bedeutet nicht, dass er sämtliche Argumente jener Politiker und Branchenchefs teilt, die sich ebenfalls dagegen aussprechen.

• Jensen Huang: Der Nvidia-Chef sagte, die Branche brauche keine neuen Gesetze oder Regulierungen. 53
• Mark Zuckerberg: Der Meta-Chef hält eine branchenweite Verlangsamung für unnötig, weil Wettbewerb und Marktanreize Unternehmen dazu bewegten, ihre Modelle sicher zu machen. 55
• Präsident Donald Trump: Trump bezeichnete Befürchtungen einer außer Kontrolle geratenen KI als „Hoax“ und sagte, die USA verfügten bereits über Instrumente, um KI-Unternehmen zu regulieren und strafrechtlich zu verfolgen. 4950
• Chinesische Regierungsvertreter: Ein Sprecher des chinesischen Außenministeriums wandte sich gegen Forderungen, die Entwicklung besonders fortgeschrittener KI zu verlangsamen. 52

Diese Positionen kommen beim Ergebnis einer umfassenden Pause zu einem ähnlichen Schluss, begründen ihn aber anders. Ngs Argument ist vor allem technisch: messbare Schäden in den Blick nehmen und bessere Kontrollmechanismen entwickeln. Huang, Zuckerberg, Trump und chinesische Regierungsvertreter betonen in unterschiedlichem Maß die Ablehnung zusätzlicher Beschränkungen, Marktanreize oder Wettbewerb und nationale Strategie. 250525355

Überschneidung beim Cyberrisiko

Die Debatte verläuft nicht einfach zwischen Menschen, denen Sicherheit wichtig ist, und solchen, denen sie gleichgültig ist. Cohere-Chef Aidan Gomez sagte etwa, KI-Modelle seien zu äußerst wirksamen Cyberwaffen geworden, weil sie Schwachstellen in großem Maßstab finden und ausnutzen könnten. 62 Diese Sorge liegt näher an Ngs Forderung, konkrete Cyberrisiken anzugehen. Die vorliegenden Berichte reichen jedoch nicht aus, um Gomez’ gesamte Position zu einer branchenweiten Verlangsamung oder zu internationaler KI-Governance zu bestimmen.

Auch für den Investor Steve Eisman liefern die verfügbaren Quellen nicht genug Belege, um seine Position zu Entwicklungstempo, Sicherheitsforschung, Regulierung und internationaler KI-Governance umfassend einzuordnen.

Fazit

Ng verschiebt den Schwerpunkt der KI-Sicherheitsdebatte. Nicht ob KI sicherer werden muss, steht für ihn zur Debatte, sondern ob spekulative Aussterbeszenarien die Agenda bestimmen sollten. Seine Antwort lautet: nein. Vorrang sollten Tests, Schutzvorkehrungen und technische Lösungen für gegenwärtige, identifizierbare Schäden haben. Eine pauschale Verlangsamung könnte nach seiner Auffassung sowohl Innovation als auch Sicherheitsfortschritte behindern. 12