Shane Legg warnt: Sicherheitsvorkehrungen müssen mit leistungsfähiger KI Schritt halten

Shane Legg, Mitgründer von Google DeepMind, formuliert eine klare Warnung: Die Fähigkeiten von KI-Systemen dürfen nicht schneller wachsen als die Sicherheitsvorkehrungen, mit denen sie überwacht und kontrolliert werden können. Parallel dazu stellte er das DeepMind Institute (DMI) vor – eine neue Plattform für die Fragen rund um Einsatz und Folgen künstlicher allgemeiner Intelligenz, kurz AGI. 141

Nicht nur leistungsfähiger, sondern auch kontrollierbar

Leggs Sorge richtet sich nicht allein auf stärkere Modelle. Entscheidend sei, ob Aufsicht, Überwachung, Governance und Kontrollmechanismen schnell genug mitwachsen, damit hochleistungsfähige Systeme beherrschbar bleiben. 1

AGI steht für Artificial General Intelligence, auf Deutsch meist „künstliche allgemeine Intelligenz“. Google DeepMind beschreibt sie als ein System mit den kognitiven Fähigkeiten des menschlichen Gehirns. Das ist ein deutlich breiterer Maßstab als Spitzenleistungen in einzelnen Benchmarks oder klar abgegrenzten Aufgaben. 13

Das DeepMind Institute: Debatte über Technik hinaus

Das DeepMind Institute ist kein Ersatz für die eigentliche KI-Forschung von DeepMind. Es soll vielmehr als Publikations- und Diskussionsplattform dienen: Forschende von Google DeepMind und aus der breiteren Forschungsgemeinschaft sollen dort erörtern, wie immer leistungsfähigere KI entwickelt, reguliert, eingesetzt und genutzt werden sollte. 3642

Der Anspruch reicht deshalb weit über technische Sicherheitsforschung hinaus. Das Institut nennt unter anderem Wissenschaft, Bildung, Gesellschaft, Politik, Philosophie, Ökonomie, Sicherheit und menschliches Gedeihen als Themenfelder. Es geht also sowohl um die Begrenzung gravierender Risiken als auch um die Frage, welche Institutionen, Regeln und gesellschaftlichen Ziele sich bei einer breiten AGI-Nutzung verändern müssten. 1636

Langsamere Veröffentlichung von Spitzenmodellen? „Erwägenswert“

Zu einem Vorschlag von Anthropic-Chef Dario Amodei äußerte sich Legg offen: Die Veröffentlichung von KI-Spitzenmodellen zu verlangsamen, aber nicht vollständig auszusetzen, sei „in der Richtung interessant“ und „erwägenswert“. 2

Eine angekündigte DeepMind-Strategie ist das nicht. Die Aussage zeigt jedoch, dass Legg einen vorsichtigeren Veröffentlichungstakt als ernsthafte Option in der Debatte ansieht – insbesondere dann, wenn Schutzmaßnahmen mit dem Einsatz neuer Modelle nicht Schritt halten. 2

Warum Legg AGI noch nicht für erreicht hält

Trotz jüngerer Aussagen von Führungskräften bei Nvidia und OpenAI hält Legg es für verfrüht, AGI bereits auszurufen. Die Berichte über seine Äußerungen liefern keine detaillierte Begründung für einzelne noch bestehende Fähigkeitslücken. Belastbar lässt sich daher vor allem festhalten: Nach Leggs Maßstab erfüllen heutige Systeme die Voraussetzungen für AGI noch nicht. 4

Gleichzeitig bleibt er bei seiner langjährigen Einschätzung: Die Wahrscheinlichkeit, bis 2028 eine „minimale“ AGI zu erreichen, liege bei 50 Prozent. Das ist eine Prognose, kein bestätigter Zeitplan. 210

Worum es in den ersten Beiträgen geht

Zum Start veröffentlichte das Institut einen Einführungstext und mehrere Fachbeiträge. Drei frühe Themen zeigen, wie breit das DMI die AGI-Debatte anlegt:

1. Transparenz beim Schlussfolgern: Rohin Shah und Anca Dragan argumentieren dafür, interpretierbare Denk- beziehungsweise Schlussfolgerungsprozesse zu bewahren. So könnten Menschen Modelle besser auf Täuschung oder strategisches Verhalten überwachen. 11
2. Wirtschaftspolitik für AGI: Ein Beitrag untersucht elf mögliche politische Maßnahmen gegen wirtschaftliche Verwerfungen durch immer weiter verbreitete und leistungsfähigere KI. Bewertet werden sie unter anderem nach Wohlfahrt, Resilienz, Handlungsspielraum und wirtschaftlicher Stabilität. 39
3. Prinzipien eines neuen Utopismus: Dieser Essay fragt, was menschliches Gedeihen in einer von AGI geprägten Gesellschaft bedeuten könnte – und warnt zugleich davor, „Utopie“ mit einem Versprechen auf Perfektion gleichzusetzen. 37

Neben der Einführung und diesen drei Beiträgen führt das Institut außerdem den Essay „A framework for frontier AI and the dawning of a new age“ auf. 4138

Der Kern von Leggs Botschaft

Legg verbindet Dringlichkeit mit Zurückhaltung. Er sieht AGI noch nicht als erreicht an, räumt ihr bis 2028 aber weiterhin eine erhebliche Wahrscheinlichkeit ein. Seine zentrale Forderung ist damit weniger eine Vorhersage als ein Governance-Prinzip: Beschleunigt sich die KI-Leistungsfähigkeit, müssen auch die Verfahren zum Verstehen, Beaufsichtigen und Gestalten ihres Einsatzes schneller werden. 1216