AntwortenVeröffentlicht22 Quellen
Andrew Ng nennt KI-Auslöschungsängste „Science-Fiction“
Andrew Ng bezeichnete Szenarien, in denen KI die Menschheit auslöscht, als „weit mehr Science Fiction als Wissenschaft“. Unvorhersehbares Verhalten von KI sei ein lösbares Ingenieursproblem – kein Grund, die Entwicklung pauschal zu bremsen.
Veröffentlicht vonBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Andrew Ng bezeichnete Szenarien, in denen KI die Menschheit auslöscht, als „weit mehr Science Fiction als Wissenschaft“.
- Unvorhersehbares Verhalten von KI sei ein lösbares Ingenieursproblem – kein Grund, die Entwicklung pauschal zu bremsen.
- Er warnte, Untergangsrhetorik könne Aufmerksamkeit erzeugen und Regulierung begünstigen, von der finanzstarke Spitzenlabore besonders profitieren könnten.
- Priorität hätten Tests, Schutzvorkehrungen und der Umgang mit absehbaren Schäden wie Cyberrisiken.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng hat die Warnung, künstliche Intelligenz könne die Menschheit auslöschen, klar zurückgewiesen. Im Interview bei Bloomberg Tech am 17. September bezeichnete der KI-Pionier solche Befürchtungen als „weit mehr Science-Fiction als Wissenschaft“. KI werde nie vollständig vorhersehbar sein, sagte Ng – doch das sei ein technisches Problem, das sich mit Tests, Schutzmechanismen und fortlaufender Ingenieursarbeit beherrschen lasse. 10
Warum Ng die Untergangsrhetorik kritisch sieht
Ng warnte davor, existenzielle KI-Risiken zum dominierenden Thema zu machen. Das könne von den möglichen gesellschaftlichen Vorteilen der Technologie ablenken. Zugleich verwies er darauf, dass die Techbranche schon in früheren Phasen des KI-Booms Katastrophenszenarien befördert habe – offenbar auch, um öffentliche Aufmerksamkeit zu gewinnen und die Regulierung mitzugestalten. 8
Sein Einwand richtet sich damit auch gegen eine Regulierung, die sich vor allem auf die größten sogenannten Frontier-Modelle konzentriert, also besonders leistungsfähige KI-Systeme an der technologischen Spitze. Solche Regeln könnten etablierte, kapitalstarke Labore begünstigen, weil sie die Kosten für Audits, Compliance und Sicherheitsstrukturen leichter tragen können. 8
10
Sicherheit ja – aber bei konkreten Risiken
Ng plädiert nicht dafür, Sicherheitsfragen zu ignorieren. Sein Ansatz ist jedoch pragmatischer: Risiken sollten dort angegangen werden, wo sie konkret erkennbar sind. Dazu zählen sorgfältige Prüfungen, technische Leitplanken und Schutzmaßnahmen gegen vorhersehbare Schäden, etwa im Bereich Cybersicherheit. 10
Ein allgemeines Abbremsen der KI-Entwicklung hält er dagegen für problematisch. Es könne nach seiner Argumentation sogar den Sicherheitsfortschritt verzögern, weil auch bessere Verfahren zum Testen und Absichern von KI-Systemen von weiterer Forschung abhängen. 10
Der Gegensatz zu Befürwortern einer Verlangsamung
Andere prominente Stimmen bewerten das Risiko eines Kontrollverlusts deutlich höher:
- Jacob Coxon, früher bei OpenAI und Anthropic tätig, verließ Anthropic nach eigenen Angaben aus Sorge über eine zu schnelle Entwicklung. Besonders selbstverbessernde Systeme könnten zu einer Katastrophe führen, warnte er, und forderte ein langsameres Tempo.
2
14
- Dario Amodei, Chef von Anthropic, will Fortschritte bei den Fähigkeiten von Frontier-Modellen gezielt entschleunigen. Sein vorgeschlagener Dreischritt soll Zeit für Risikomanagement schaffen und unabhängige Bewertungen fortgeschrittener Modelle stärken.
3
- Sam Altman, CEO von OpenAI, unterstützt grundsätzlich die Forderung nach einer langsameren Entwicklung und zusätzlichen Schutzvorkehrungen, weil die Branche sich Systemen nähern könnte, die Menschen nicht mehr kontrollieren können.
1
9
- Geoffrey Hinton sieht ebenfalls ein erhebliches Risiko, dass KI menschlicher Kontrolle entgleiten könnte. Er befürwortet ein langsameres Vorgehen sowie Tests vor der Veröffentlichung neuer Systeme.
16
Der Kern des Streits liegt also weniger darin, ob KI sicherer werden muss, sondern darin, welche Risiken wie wahrscheinlich sind und welche politische Antwort daraus folgt. Ng hält Auslöschungsszenarien für spekulativ und setzt auf Sicherheitsengineering bei beobachtbaren Problemen. Amodei, Coxon, Altman und Hinton halten Verlust der Kontrolle für plausibel genug, um die Entwicklung besonders leistungsfähiger Modelle bewusst zu drosseln. 3
10
16
Überschneidungen mit den Gegnern eines allgemeinen Stopps
Ng teilt die Ablehnung eines branchenweiten Stopps mit anderen Akteuren, begründet sie aber anders. Nvidia-Chef Jensen Huang sprach sich gegen neue KI-spezifische Gesetze aus. US-Präsident Donald Trump wies die Forderung nach einem langsameren Tempo zurück und betonte die Wettbewerbsfähigkeit der USA, insbesondere gegenüber China. Auch ein Sprecher des chinesischen Außenministeriums wandte sich gegen Rufe nach einer Verlangsamung von Frontier-KI. 5
11
17
Während diese Positionen vor allem Wettbewerb, Innovation oder Skepsis gegenüber neuen Vorgaben in den Vordergrund stellen, argumentiert Ng technisch: Nicht diffuse Zukunftsängste, sondern überprüfbare Fehlerbilder sollten die Sicherheitsagenda bestimmen. 10
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Andrew Ng nennt KI-Auslöschungsängste „Science-Fiction““?
Andrew Ng bezeichnete Szenarien, in denen KI die Menschheit auslöscht, als „weit mehr Science Fiction als Wissenschaft“.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Andrew Ng bezeichnete Szenarien, in denen KI die Menschheit auslöscht, als „weit mehr Science Fiction als Wissenschaft“. Unvorhersehbares Verhalten von KI sei ein lösbares Ingenieursproblem – kein Grund, die Entwicklung pauschal zu bremsen.
Was soll ich als nächstes in der Praxis tun?
Er warnte, Untergangsrhetorik könne Aufmerksamkeit erzeugen und Regulierung begünstigen, von der finanzstarke Spitzenlabore besonders profitieren könnten.
Quellen