AntwortenVeröffentlicht13 Quellen
Bilal Chughtai warnt vor KI-Risiken – und fordert ein Ende des Wettlaufs
Bilal Chughtai, der Google DeepMind im Juli 2026 verließ, erklärte, KI habe das Potenzial, „uns alle zu töten“ – und die Zeit zur Verhinderung eines solchen Szenarios könne knapp werden. Seine Warnung reiht sich in ähnliche Aussagen des früheren Anthropic Forschers Jacob Coxon und des Alignment Forschers Evan Hubing...
Veröffentlicht vonBearbeitet mit GPT-5.6 TerraBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Bilal Chughtai, der Google DeepMind im Juli 2026 verließ, erklärte, KI habe das Potenzial, „uns alle zu töten“ – und die Zeit zur Verhinderung eines solchen Szenarios könne knapp werden.
- Seine Warnung reiht sich in ähnliche Aussagen des früheren Anthropic Forschers Jacob Coxon und des Alignment Forschers Evan Hubinger ein.
- Im Kern geht es um Tempo und Kontrolle: Befürworter verlangen Tests, unabhängige Prüfungen und behördliche Eingriffsmöglichkeiten; Kritiker warnen vor Nachteilen für die Wettbewerbsfähigkeit der USA gegenüber China.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtais Aussage ist eine drastische Warnung vor einem existentiellen Risiko – keine Prognose, wonach KI die Menschheit zwangsläufig auslöschen wird. Nach seinem Ausscheiden bei Google DeepMind, wo er nach eigenen Angaben zu Sicherheit und Ausrichtung einer allgemeinen künstlichen Intelligenz (AGI) forschte, schrieb Chughtai, KI habe das Potenzial, „uns alle zu töten“. Zudem könne die Zeit knapp werden, um dieses Ergebnis noch abzuwenden.
Wovor Chughtai warnt
Chughtais Sorge richtet sich gegen die Geschwindigkeit, mit der leistungsfähigere KI entwickelt wird. Seine Befürchtung: Die Fähigkeiten der Systeme könnten schneller wachsen als die Möglichkeit, sie verlässlich sicher, kontrollierbar und an menschlichen Zielen ausgerichtet zu machen. Im Mittelpunkt steht für ihn die „Standardentwicklung“ der Technologie – ein Wettbewerb um immer stärkere Systeme, bevor ausreichende Sicherheitsvorkehrungen, Alignment-Forschung und öffentliche Kontrolle vorhanden sind.
Mit Alignment ist dabei die Forschung gemeint, die sicherstellen soll, dass KI-Systeme sich im Sinne menschlicher Vorgaben verhalten und nicht eigenständig schädliche Ziele verfolgen.
Sein Vorschlag zielt nicht auf einen Alleingang einzelner Firmen, sondern auf gemeinsame Regeln. KI-Unternehmen müssten sich koordinieren, statt den „manischen Wettlauf“ fortzusetzen. Die Entwicklung solle in einem Tempo erfolgen, das die Gesellschaft bewältigen könne und bei dem neue Risiken angegangen werden, bevor extremer Schaden eintrete.
Google reagierte laut Reuters außerhalb der üblichen Geschäftszeiten nicht auf eine Bitte um Stellungnahme.
Warum die Warnung Aufmerksamkeit bekommt
Chughtais Rücktritt fiel in eine Phase ungewöhnlich offener Warnungen von Forschern und Führungskräften aus der KI-Branche.
Der frühere Anthropic-Forscher Jacob Coxon erklärte, er habe gekündigt, weil führende Labore aus seiner Sicht unverantwortlich auf sich selbst verbessernde Superintelligenz zusteuerten. Coxon sagte, Menschen, die KI entwickeln, glaubten ernsthaft, die Technologie könne die Menschheit bis Ende des Jahrzehnts zerstören.
Evan Hubinger, ein bei Anthropic tätiger Alignment-Forscher, stimmte der grundlegenden Sorge öffentlich zu. Seine persönliche Einschätzung: Die Wahrscheinlichkeit, dass KI innerhalb des kommenden Jahrzehnts zum Aussterben der Menschheit führen könnte, liege bei mehr als 10 Prozent. Zugleich betonte er, von heutigen Modellen gehe ein geringes Risiko aus.
Wichtig ist die Einordnung: Das sind Einschätzungen einzelner Fachleute, keine empirisch belegte Wahrscheinlichkeitsprognose und kein wissenschaftlicher Konsens. Der engere Punkt lautet vielmehr: Einige Menschen, die an führenden KI-Modellen arbeiten, halten das mögliche Schadensausmaß für groß genug, um vor dem nächsten Fähigkeitsprung deutlich strengere Vorsichtsmaßnahmen zu verlangen.
Die Forderung, Spitzen-KI langsamer zu entwickeln
Chughtais Position überschneidet sich mit dem Ansatz von Anthropic-Chef Dario Amodei. Dieser fordert, die Entwicklung der leistungsstärksten KI-Systeme zu takten, während Sicherheitsmaßnahmen und externe Aufsicht ausgebaut werden. Berichten zufolge unterstützen auch OpenAI-Chef Sam Altman und Elon Musk eine branchenweite Verlangsamung.
Gemeint ist dabei nicht zwingend ein dauerhaftes Verbot von KI. Das von Anthropic vorgeschlagene Advanced AI Framework sieht für Entwickler besonders leistungsfähiger Modelle unter anderem vor:
- Tests auf katastrophale Risiken;
- unabhängige externe Evaluierungen;
- laufende Offenlegung von Testergebnissen, Risiken und Sicherheitsvorfällen;
- Rechenschaftspflicht gegenüber staatlichen Stellen, die gefährliche Einsätze abschrecken oder blockieren können.
1
Auch Anthropics Responsible Scaling Policy folgt einer Wenn-dann-Logik: Zeigen Modelle festgelegte gefährliche Fähigkeiten, sollen sie nicht eingesetzt und leistungsfähigere Systeme nicht weiter trainiert werden, bis angemessene Schutzvorkehrungen bestehen. 8
Der Gegenentwurf: Regulierung könnte im Wettbewerb schaden
Der Streit ist nicht nur technisch, sondern auch geopolitisch. Gegner einer Verlangsamung argumentieren, strenge Grenzen könnten konkurrierenden Staaten oder weniger vorsichtigen Unternehmen einen Vorteil verschaffen.
US-Präsident Donald Trump räumte ein, dass KI gewisse Leitplanken benötigen könne. Zugleich spielte er die alarmierendsten Szenarien herunter und verwies auf seine Sorge, die USA könnten ihren Vorsprung gegenüber China verlieren.
Darin liegt der zentrale Konflikt: Ist ein langsameres Vorgehen unverzichtbares Risikomanagement – oder ein strategischer Nachteil in einem globalen Technologiewettbewerb?
Was an „AI Doomerism“ berechtigt ist – und was nicht
Der Begriff „AI Doomerism“ wird häufig für die Überzeugung verwendet, fortgeschrittene KI könne ein Risiko bis hin zur Auslöschung der Menschheit darstellen. Das Schlagwort kann jedoch die konkrete politische Frage verdecken: Welche Hinweise auf gefährliche Fähigkeiten sollten strengere Tests, Beschränkungen beim Einsatz oder staatliche Eingriffe auslösen?
Chughtais Warnung belegt nicht, dass eine KI-Katastrophe unmittelbar bevorsteht. Sie beruht auf dem Argument, dass die Folgen fehlender Sicherheit irreversibel sein könnten – und dass der Konkurrenzdruck Unternehmen möglicherweise nicht zu der nötigen Vorsicht bewegt. Seine Antwort darauf lautet koordinierte Steuerung: gegebenenfalls langsamerer Einsatz, belastbarere Prüfungen und klare Verantwortlichkeiten, bevor Systeme noch schwieriger zu kontrollieren werden. 1
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Bilal Chughtai warnt vor KI-Risiken – und fordert ein Ende des Wettlaufs“?
Bilal Chughtai, der Google DeepMind im Juli 2026 verließ, erklärte, KI habe das Potenzial, „uns alle zu töten“ – und die Zeit zur Verhinderung eines solchen Szenarios könne knapp werden.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Bilal Chughtai, der Google DeepMind im Juli 2026 verließ, erklärte, KI habe das Potenzial, „uns alle zu töten“ – und die Zeit zur Verhinderung eines solchen Szenarios könne knapp werden. Seine Warnung reiht sich in ähnliche Aussagen des früheren Anthropic Forschers Jacob Coxon und des Alignment Forschers Evan Hubinger ein.
Was soll ich als nächstes in der Praxis tun?
Im Kern geht es um Tempo und Kontrolle: Befürworter verlangen Tests, unabhängige Prüfungen und behördliche Eingriffsmöglichkeiten; Kritiker warnen vor Nachteilen für die Wettbewerbsfähigkeit der USA gegenüber China.