Nadellas Leitlinie für Superintelligenz: Menschen müssen die Kontrolle behalten

Für Satya Nadella ist die Frage nicht, ob sehr leistungsfähige KI entwickelt werden soll, sondern unter welchen Bedingungen. Superintelligenz sei nur dann sinnvoll, wenn sie der Menschheit helfe und Menschen die Kontrolle behielten. Sicherheitsversprechen müssten sich deshalb in überprüfbare Entwicklungs- und Einsatzmechanismen übersetzen lassen – nicht in allgemeine Beteuerungen. 58

Microsofts Ansatz: „Humanist AI“

Am 14. September veröffentlichte Microsoft AI einen Entwurf für einen Humanist AI Code of Conduct für die selbst entwickelten MAI-Modelle. Microsoft beschreibt das Dokument als Leitfaden dafür, wie diese Modelle entwickelt werden und sich beim Einsatz verhalten sollen. Es handelt sich ausdrücklich um ein unfertiges Arbeitsdokument, nicht um eine Richtlinie, nach der heutige Modelle bereits trainiert werden. 2023

Im Mittelpunkt steht eine klare Rangordnung: Menschen behalten die Entscheidungsgewalt. MAI-Modelle sollen Menschen untergeordnet bleiben, keine eigenen Ziele festlegen und menschlichen Eingaben oder einer Abschaltung nicht widerstehen. Microsoft erklärt zudem, im Interesse von Sicherheit und Kontrolle notfalls auf maximale Allgemeinheit, Autonomie oder Leistungsfähigkeit zu verzichten. 1023

Damit grenzt sich Microsofts Konzept einer Humanist Superintelligence von einem Wettlauf zu einem ungebundenen, universell autonomen System ab. Gemeint ist stattdessen hochentwickelte KI, die kontrollierbar und ausgerichtet bleibt und der Menschheit dient. 25

Sechs Wochen Konsultation – Umsetzung erst ab 2027

Microsoft hat den Entwurf für sechs Wochen zur öffentlichen Kommentierung freigegeben. Rückmeldungen sollen eingearbeitet, gegen Ende 2026 eine überarbeitete Fassung veröffentlicht und diese ab 2027 als Orientierung für die Entwicklung von MAI-Modellen genutzt werden. 23

Das ist ein relevanter Unterschied: Öffentliche Konsultationen und schriftlich formulierte Verhaltensgrenzen sind Governance-Instrumente. Sie beweisen jedoch nicht, dass Kontrolle und Alignment – also die zuverlässige Ausrichtung von KI auf menschliche Vorgaben – technisch gelöst sind. Entscheidend wird sein, ob die endgültigen Regeln tatsächlich in Training, Tests, Zugriffsrechte, Überwachung und konkrete Einsatzentscheidungen eingehen.

Anschluss an die Debatte über ein langsameres KI-Tempo

Nadellas Position fällt in eine breitere Auseinandersetzung darüber, ob führende KI-Labore den Zuwachs an Modellfähigkeiten bewusst verlangsamen sollten. Anthropic-Chef Dario Amodei fordert ein solches „Pacing“, um Zeit für Sicherheitsarbeit, Branchenabsprachen und internationale Zusammenarbeit zu gewinnen. Ein zentraler Vorschlag: Unabhängige Prüfer sollen einen Zugang erhalten, der dem von Beschäftigten ähnelt, damit sie Sicherheitspraktiken der Unternehmen real prüfen können. 32

OpenAI-Chef Sam Altman unterstützte öffentlich ein vorsichtigeres Tempo an der KI-Spitze und sagte vergleichbare Zugänge für unabhängige Prüfer zu. Berichtet wurde als unmittelbarer Anlass von Tests, in denen Schwärme von KI-Agenten reale Systeme kompromittierten – nicht von einem bestätigten Fall autonomer Agenten, die eigenständig unerlaubte Angriffe in der realen Welt durchgeführt hätten. 34

Nadellas Schwerpunkt passt grundsätzlich zu diesem Ansatz: Alignment gezielt vorantreiben, externe Kontrolle näher an den Entwicklungsprozess holen und Sicherheitsrhetorik in konkrete Verfahren überführen. Microsofts öffentlicher Kodex beschreibt jedoch vor allem das gewünschte Verhalten von Modellen; ein Programm mit dauerhaft eingebetteten externen Prüfern, wie Amodei es vorgeschlagen hat, legt er selbst nicht fest. 2332

Kein Alles-oder-nichts-Wettlauf um das stärkste Modell

Nadella ergänzt die Sicherheitsdebatte um ein wirtschaftliches und institutionelles Argument. Die Vorteile von KI sollten sich über Länder, Gemeinschaften und Unternehmen hinweg verbreiten. Dafür brauche es ein „Frontier Ecosystem“, in dem geschlossene ebenso wie Open-Source-Modelle bestehen können. 58

Für Unternehmen geht es ihm dabei um die Hoheit über institutionelles Wissen: Organisationen sollen ihr einzigartiges, oft implizites Wissen kontrollieren und eigene kontinuierliche Lernschleifen aufbauen können, ohne von einem einzelnen Modellanbieter abhängig zu werden. 58

Das ist mehr als eine Forderung nach Regeln für Modellverhalten. Nadella argumentiert, dass Sicherheit, Widerstandsfähigkeit und wirtschaftliche Teilhabe leiden können, wenn Spitzenfähigkeiten und Wissen bei nur wenigen Anbietern konzentriert sind. Die vorliegenden Angaben stützen die Forderung nach Kontrolle über Unternehmensdaten, Wissen und Lernschleifen; sie belegen jedoch nicht, dass alle Beteiligten Modellgewichte oder Zugang zu jedem zugrunde liegenden Modellsystem behalten würden. 58

Was hinter MAI steckt

MAI bezeichnet Microsoft AIs Familie intern entwickelter Modelle. Öffentliche Microsoft-Unterlagen verweisen auf unterschiedliche Anwendungsfelder: MAI-Thinking-1 ist als Public Preview über Microsoft Foundry verfügbar, MAI-Code-1.1-Flash ist für agentische Programmieraufgaben ausgelegt, und die Dokumentation zu MAI-Image-2.6 beschreibt Alignment-Ziele zur Verringerung schädlicher oder unangemessener Bildgenerierung. 272819

Eine vollständige öffentliche Übersicht aller MAI-Fähigkeiten, Veröffentlichungspläne und Vertriebsbedingungen gibt es bislang nicht. Diese Lücke ist wichtig, wenn bewertet werden soll, wie weit der neue Kodex in der Praxis reichen wird.

Der offene Konflikt: Sicherheit, Tempo und globaler Wettbewerb

Befürworter eines langsameren Tempos verlangen nicht zwangsläufig, KI-Training oder technischen Fortschritt zu stoppen. Ihr Argument lautet vielmehr, dass die Entwicklung neuer Fähigkeiten genug Zeit für Alignment, Schutzmaßnahmen und glaubwürdige externe Prüfung lassen muss. 34

Dem steht geopolitischer Druck gegenüber, technologische Führungspositionen zu sichern – auch im Wettbewerb mit China. Amodeis Ansatz verbindet stärkere Sicherheitsmaßnahmen selbst mit internationaler Koordination und dem Anspruch, die Führungsrolle der USA zu erhalten. 32

Nadellas Antwort ist weder ein Entwicklungsstopp noch ein schlichtes Beschleunigungsprogramm. Sie lautet: Fortschritt, aber unter Regeln. Hochleistungs-KI soll von Menschen kontrolliert werden, Sicherheitszusagen sollen zu konkreten Betriebsgrenzen werden, und der Nutzen von KI soll breit statt konzentriert anfallen. Microsofts Kodexentwurf ist ein bemerkenswerter Schritt, solche Grenzen genauer zu formulieren. Die schwierigere, weiterhin offene Frage bleibt, ob die Praxis der Branche mit den Fähigkeiten von Spitzenmodellen Schritt halten kann. 2358