Warum sich die KI-Chefs bei AGI nicht einmal über die Definition einig sind

AGI – kurz für Artificial General Intelligence, also künstliche allgemeine Intelligenz – ist zum Sammelbegriff für sehr verschiedene Zukunftsbilder geworden. Gemeint sein kann ein autonomer digitaler Arbeitnehmer, ein Forschungsassistent auf Nobelpreisniveau, ein System mit dem gesamten Spektrum menschlicher Denkfähigkeiten oder schlicht eine KI, die in Tests besonders gut abschneidet.

Genau diese Definitionslücke erklärt, warum die großen Zeitprognosen zugleich selbstbewusst und kaum vergleichbar sein können. Und sie verschärft ein Vertrauensproblem: Wenn es keinen öffentlich akzeptierten Test gibt, können die Unternehmen, die AGI entwickeln wollen, die Ziellinie selbst festlegen.

Vier KI-Chefs, vier Maßstäbe

Sam Altman: AGI als wirtschaftlich wertvolle Autonomie

OpenAI definiert AGI seit Langem als „hochgradig autonome Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Tätigkeiten übertreffen“. Der Maßstab ist damit vor allem praktisch und ökonomisch: Entscheidend wäre nicht, ob eine Maschine genauso denkt wie ein Mensch, sondern ob sie in großem Umfang wertvolle Arbeit erledigen kann.

In seiner jüngeren öffentlichen Kommunikation betont OpenAI allerdings die menschliche Entscheidungshoheit. Ziel seien Systeme, die Menschen bei selbst gewählten Zielen unterstützen – nicht Systeme, die menschliches Urteil darüber ersetzen, was wichtig ist. Eine vollständige Automatisierung von allem sei weder erstrebenswert noch ungefährlich. 23 Auch im Arbeitsmarkt-Rahmenwerk des Unternehmens heißt es: Selbst wenn KI viele Aufgaben eines Berufs erledigen kann, verschwindet der Beruf nicht zwangsläufig, weil Menschen weiterhin Leistung erbringen, überwachen oder Verantwortung tragen. 25

Damit bleibt die Grenze zwischen leistungsfähigem Werkzeug, autonomem Agenten und AGI weitgehend offen. Die ökonomische Definition beschreibt mögliche Auswirkungen gut, ist aber kein öffentliches wissenschaftliches Bestehen/Nichtbestehen-Kriterium.

Dario Amodei: „Powerful AI“ als außergewöhnliches Fähigkeitspaket

Anthropic-Chef Dario Amodei verwendet meist lieber den Begriff „Powerful AI“ als AGI. In einer politischen Stellungnahme beschreibt Anthropic damit Systeme, die deutlich über heutige Modelle hinausgehen: intellektuelle Fähigkeiten auf oder über dem Niveau von Nobelpreisträgern in den meisten Fachgebieten, Zugang zu den digitalen Oberflächen menschlicher Wissensarbeit und die Fähigkeit, komplexe Arbeit selbstständig auszuführen. 3

Anthropic erwartet solche Systeme für Ende 2026 oder Anfang 2027. Amodei verglich die Perspektive mit einem „Land von Genies in einem Rechenzentrum“ – mit erheblichen wirtschaftlichen, sicherheitspolitischen und geopolitischen Folgen. 6 7

Das ist konkreter als ein allgemeines AGI-Etikett. Dennoch bündelt es mehrere anspruchsvolle Eigenschaften: fachliche Breite, Werkzeugnutzung, lange autonome Abläufe und verlässliche Leistung. Ein Modell könnte einzelne davon deutlich früher erfüllen als alle zusammen.

Demis Hassabis: AGI als gesamtes Spektrum menschlicher Kognition

Demis Hassabis, Chef von Google DeepMind, setzt die Hürde höher. Seine Definition lautet: AGI müsse über alle kognitiven Fähigkeiten verfügen, die Menschen haben. Er hält menschenähnliche KI in diesem Jahrzehnt für möglich, betont aber zugleich, heutige Systeme seien „bei weitem nicht“ auf dem Niveau menschlicher AGI. 33 38

In dieser Lesart ist AGI weniger ein Produktmeilenstein als eine wissenschaftliche Schwelle. Hervorragende Prüfungsresultate oder starke Leistungen in einigen Berufen reichen nicht aus. Das System müsste über die volle Breite menschlicher Denk- und Lernfähigkeiten hinweg robust funktionieren.

Jensen Huang: AGI als breiter Vorsprung in Tests

Nvidia-Chef Jensen Huang hat einen stärker benchmarkorientierten Maßstab verwendet. 2024 sagte er, AGI könne innerhalb von fünf Jahren erreicht werden, wenn man darunter eine KI versteht, die Menschen in praktisch jedem Test übertrifft. Berichte aus dem Jahr 2026 beschrieben seine Position als Erklärung, AGI sei unter einem deutlich lockereren praktischen Maßstab bereits erreicht. 34

Der Vorteil dieser Sicht: Tests liefern Punktzahlen. Ihr Nachteil ist ebenso offensichtlich: Gute Ergebnisse in vielen Tests belegen noch keine verlässliche Autonomie über lange Zeiträume, kein gutes Urteilsvermögen und keine sichere Leistung in unübersichtlichen realen Situationen.

Warum die Zeitprognosen nicht dieselbe Sache meinen

Die vier Führungskräfte schätzen nicht bloß unterschiedliche Termine für ein gemeinsames Ereignis. Sie sagen unterschiedliche Ziele voraus:

• Altman/OpenAI: autonome Leistung bei den meisten wirtschaftlich wertvollen Tätigkeiten;
• Amodei/Anthropic: breit angelegte Arbeit auf Nobelpreisniveau plus längere autonome digitale Ausführung;
• Hassabis/DeepMind: das vollständige Spektrum menschlicher kognitiver Fähigkeiten;
• Huang/Nvidia: Leistungen, die Menschen in einer breiten Testlandschaft übertreffen.

Eine KI kann in vielen Benchmarks Spitzenwerte erreichen, ohne eigenständig wochenlange Forschungsarbeit abzuschließen. Sie kann große Teile digitaler Arbeit automatisieren, ohne das gesamte kognitive Repertoire eines Menschen zu besitzen. Die genannten Termine sind daher keine gemeinsame AGI-Countdown-Uhr.

Warum AGI oft als untestbar oder „spirituell“ gilt

Der Einwand lautet nicht, dass KI-Fähigkeiten nicht messbar seien. Das sind sie. Das Problem ist vielmehr: Für AGI gibt es keine gemeinsam definierte und unabhängig beaufsichtigte Bestehensregel.

Ein wissenschaftlicher Vorschlag nennt AGI einen wichtigen, aber teils umstrittenen Begriff und operationalisiert ihn als mindestens menschliches Leistungsniveau bei den meisten Aufgaben. Gerade daran wird sichtbar, welche offenen Fragen im Begriff stecken: Welche Aufgaben? Welche Vergleichsgruppe von Menschen? Welche Zuverlässigkeit? Unter welchen Einsatzbedingungen? 50

Ein glaubwürdiger öffentlicher Test müsste mindestens Folgendes festlegen:

1. eine klar definierte Aufgabenverteilung statt wechselnder Vorführungen;
2. Leistungs- und Zuverlässigkeitsschwellen einschließlich der Fehlerhäufigkeit;
3. Prüfungen langfristiger Autonomie und Werkzeugnutzung, nicht nur einzelner Antworten;
4. Schutz vor gezieltem Training auf die Prüfung;
5. ausreichenden unabhängigen Zugang, um Ergebnisse nachvollziehen oder überprüfen zu können.

Ohne eine solche Infrastruktur kann AGI zu einem Statusanspruch werden, den ausgerechnet jene Organisationen definieren, die den größten Anreiz haben, die Ziellinie zu setzen. Das AI Now Institute kritisiert viele verfügbare Messgrößen als eng, vage und eigennützig. 62

Hinter dem Begriffsstreit steckt ein Vertrauensproblem

Der Konflikt um AGI ist auch eine Glaubwürdigkeitsfrage. Unternehmen können weitreichende Aussagen über transformative Fähigkeiten machen, während Beschäftigte und Kunden Systeme erleben, die noch ungleichmäßig arbeiten, Fehler produzieren oder sich nur schwer zuverlässig in Arbeitsabläufe einfügen lassen. Das widerlegt nicht jede langfristige Prognose. Aber außergewöhnliche Behauptungen brauchen überprüfbare Belege und nachvollziehbare Vorhersagen.

Die Arbeitsmarktdebatte zeigt diese Spannung. OpenAI schreibt, KI werde Arbeit verändern, neue Jobs schaffen und andere umformen; einige Stellen würden auch wegfallen. Zugleich deute die bisherige Evidenz eher darauf hin, dass KI bislang häufiger unterstütze als ersetze. 17 Das muss kein Widerspruch sein: Aufgabenautomatisierung, Berufsveränderung und Jobverlust sind unterschiedliche Entwicklungen. Das Vertrauen leidet jedoch, wenn weitreichende Umbruchprognosen nicht mit transparenten Messgrößen zu tatsächlichen Folgen am Arbeitsmarkt verbunden werden.

Weg vom AGI-Label, hin zu überprüfbaren Fähigkeiten

Ein belastbareres Regulierungsmodell würde weniger darauf setzen, den Moment der „erreichten AGI“ zu bestimmen. Es würde konkrete Fähigkeiten und die davon ausgehenden Risiken regulieren.

Anthropics Ansatz der AI Safety Levels folgt einer ausdrücklichen Wenn-dann-Logik: Wenn ein Modell eine definierte gefährliche Fähigkeit besitzt, müssen bestimmte Schutzmaßnahmen gelten, bevor es eingesetzt oder weiter skaliert wird. 5 Später forderte Anthropic zudem Transparenz, unabhängige Bewertungen und staatliche Befugnisse, gefährliche Einsätze zu verhindern oder abzuschrecken. 10

Auch Altman sprach sich für externe Validierung und unabhängige Risikobewertungen leistungsstarker Modelle aus, einschließlich Tests vor der Veröffentlichung und der Publikation von Evaluationsergebnissen. 49

Hassabis schlug zudem eine von den USA geführte Frontier AI Standards Body nach dem Vorbild der FINRA vor. FINRA ist eine branchenfinanzierte, aber unter öffentlicher Aufsicht stehende Organisation zur Kontrolle von Wertpapierfirmen in den USA. Das KI-Gremium soll fortgeschrittene Modelle vor ihrer Veröffentlichung unabhängig bewerten. 52 Berichten zufolge gibt es unter mehreren führenden KI-Managern inzwischen zumindest einen gemeinsamen Nenner: Dritte sollten fortgeschrittene Systeme testen und an Standards für politische Regeln mitwirken. 51

Zwischen solchen Vorschlägen und verbindlicher Praxis liegt allerdings weiterhin eine große Lücke. Der AI Safety Index 2026 des Future of Life Institute stellte fest, dass es keine verbindlichen nationalen Vorschriften oder Standards gebe, die Risiken von Frontier-KI ausdrücklich behandeln und dazugehörige Prüfverfahren definieren. 59

Woran glaubwürdige KI-Behauptungen zu erkennen wären

Die nützlichere öffentliche Frage lautet nicht: „Ist AGI da?“ Sondern: „Was kann dieses Modell konkret, wie zuverlässig kann es das, was kann schiefgehen – und wer hat diese Antworten unabhängig überprüft?“

Daraus ergeben sich konkrete Anforderungen:

• öffentliche Evaluationsprotokolle für Hochrisiko-Fähigkeiten im Cyber-, Bio- und Täuschungsbereich;
• unabhängige Tests und Red-Teaming vor dem Einsatz;
• Berichte über Zuverlässigkeit, Vorfälle und wesentliche Änderungen der Einsatzbedingungen;
• Schutzmaßnahmen und Zugriffsbeschränkungen, die an nachgewiesene Risikoschwellen geknüpft sind;
• rechtliche Folgen bei Verstößen – statt bloßer freiwilliger Selbstauskünfte.

AGI bleibt womöglich eine starke Vision, ein Marketingbegriff und eine philosophische Frage. Als regulatorischer Auslöser taugt der Begriff aber nur, wenn eine entsprechende Erklärung durch öffentliche Belege gedeckt ist. Vertrauen entsteht erst dann, wenn Entwickler die Ziellinie nicht einfach neu definieren, ihren Sieg verkünden und ihre Sicherheit selbst zertifizieren können.