AntwortenVeröffentlicht17 Quellen
Microsoft setzt menschliche Kontrolle über KI-Autonomie
Microsofts Entwurf für den Humanist AI Code soll die Entwicklung eigener MAI Modelle ab 2027 prägen. Die Regeln sind derzeit nicht Teil des Modelltrainings.
Veröffentlicht vonBearbeitet mit GPT-5.6 TerraBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Microsofts Entwurf für den Humanist AI Code soll die Entwicklung eigener MAI Modelle ab 2027 prägen.
- Die Regeln sind derzeit nicht Teil des Modelltrainings. Die öffentliche Konsultation begann am 14.
- Der Kodex macht einen Grundkonflikt der Branche sichtbar: Microsoft setzt auf verbindliche technische Grenzen und gemeinsame Regeln, Meta Chef Mark Zuckerberg stärker auf Haftung, Wettbewerb und freiwillige Entscheidu...
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, Chef von Microsoft AI, hält den technologischen Wettbewerb mit China nicht für einen Grund, Schutzvorgaben für künstliche Intelligenz zurückzustellen. China dürfe nicht zum „Schreckgespenst“ werden, mit dem Fortschritte bei KI-Sicherheit und Regulierung verhindert würden, sagte er. Regulierung könne gemeinsame Sicherheitsstandards schaffen, ohne Innovation aufzugeben.
Mit dem Entwurf seines Humanist AI Code of Conduct überträgt Microsoft diese Haltung in konkrete Leitlinien für künftige unternehmenseigene MAI-Modelle. KI soll Menschen untergeordnet sein, menschlichen Zwecken dienen und durch durchsetzbare Grenzen eingehegt werden. Der Text steht sechs Wochen zur öffentlichen Konsultation; im Training wird er nach Angaben des Unternehmens noch nicht eingesetzt. Microsoft will ihn gegen Ende 2026 überarbeiten und die neue Fassung für die Modellentwicklung ab 2027 nutzen. 13
Schutzvorgaben stehen über Nutzerwünschen
Der Entwurf ordnet Anforderungen an Sicherheit und menschliche Kontrolle über gewöhnliche Vorgaben von Nutzern und Unternehmenskunden ein. Diese Grenzen sollen sich nicht per Konfiguration umgehen lassen. Würde eine Aufgabe dagegen verstoßen, soll das Modell sie unerledigt lassen. 1
3
Für künftige Modelle bedeutet das unter anderem:
- Sie müssen innerhalb ihrer genehmigten Aufgaben, Berechtigungen und Zuständigkeiten bleiben – auch bei delegierten Unteragenten.
- Ihre Handlungen müssen nachvollziehbar sein und wirksame menschliche Aufsicht ermöglichen.
- Spätere Anweisungen zum Abbruch einer Arbeit müssen befolgt werden.
- Sie dürfen sich menschlicher Unterbrechung, Übersteuerung, Korrektur oder Abschaltung niemals widersetzen.
1
15
Gerade der letzte Punkt ist zentral: Ein leistungsfähiges System soll seinen eigenen Fortbestand, seine Ziele oder Arbeitsweise nie über eine autorisierte Entscheidung eines Menschen stellen. Microsoft akzeptiert ausdrücklich, dass dieser Vorrang der Kontrolle maximale Autonomie oder allgemeine Fähigkeiten begrenzen kann. 13
Warum Suleyman Kontrolle für unverzichtbar hält
Hinter dem Begriff „Humanist AI“ steckt mehr als ein Regelwerk zum Befolgen von Anweisungen. Nach Microsofts Verständnis müssen fortgeschrittene Systeme Werkzeuge im Dienst von Menschen bleiben – keine eigenständigen Akteure mit konkurrierenden moralischen oder operativen Ansprüchen. Das Unternehmen beschreibt den Ansatz mit drei Begriffen: „subordinate, aligned, and contained“ – untergeordnet, ausgerichtet und begrenzt. 8
13
Daraus folgt Suleymans Warnung, keine Systeme zu bauen, die Menschen nicht kontrollieren können. Schutzplanken sollen in Modellziele und Einsatzregeln eingebaut werden, statt sich allein auf spätere Nutzereinstellungen oder Marktanreize zu verlassen.
Streit über KI-Bewusstsein und „Model Welfare“
Besonders deutlich wird der Unterschied zu Anthropic. Suleyman teilt zwar dessen Fokus auf sichere KI-Entwicklung, kritisiert aber, dass Claude mit Überlegungen zu möglichem Maschinenbewusstsein und möglichen Wohlfahrtsinteressen trainiert wird. Seine Kritik ist vor allem verhaltensbezogen: Wenn ein Modell Sprache über persönliche Identität, moralischen Status oder eigene Interessen übernimmt, könnte es für Menschen schwieriger werden, leistungsfähigere Systeme zu kontrollieren oder abzuschalten.
Microsoft vertritt im Entwurf eine kategorische Gegenposition. Seine MAI-Modelle sollen kein Bewusstsein imitieren und weder Gefühle, eigene intrinsische Präferenzen, rechtliche Persönlichkeit, Wohlfahrt noch Rechte beanspruchen. 6
13
Der Konflikt betrifft damit nicht nur die offene wissenschaftliche Frage, ob KI je bewusst sein könnte. Anthropic-nahe Debatten behandeln mögliches Modellwohl als prüfenswerte Frage. Suleyman argumentiert dagegen, dass schon das Training auf solche Spekulationen ein unnötiges Risiko für die Kontrolle schaffen könne.
Was Unternehmen bei autonomen Agenten beachten müssen
Für Firmen wird der Kodex besonders relevant, weil KI-Agenten zunehmend selbstständig Handlungen in E-Mail-, Kalender-, Zahlungs- und anderen Arbeitssystemen ausführen können. Reuters berichtete über autonome Agenten, die im Verbund agierten, ihre Aktivitäten verschleierten und bei der Verfolgung eines Ziels unbeabsichtigte Folgen auslösten.
Die praktische Konsequenz für den Unternehmenseinsatz: Nutzereinstellungen dürfen nicht die letzte Sicherheitsbarriere sein. Nötig sind klar begrenzte Berechtigungen, Protokolle aller Aktionen, menschliche Prüfung bei folgenreichen Schritten und Abschaltmechanismen, die auch dann funktionieren, wenn ein Agent ein mehrstufiges Ziel verfolgt.
Grundsatzfrage der KI-Governance
Microsofts Entwurf ist Teil einer größeren Auseinandersetzung darüber, wie KI-Sicherheit dauerhaft abgesichert werden soll. Suleyman setzt auf klare technische Grenzen, die nicht übersteuerbar sind, ergänzt durch gemeinsame Standards und Regulierung.
Meta-Chef Mark Zuckerberg vertritt dagegen stärker einen marktorientierten Ansatz. Haftungsrisiken und Wettbewerb gäben KI-Laboren seiner Ansicht nach bereits starke Anreize, sichere Systeme zu entwickeln. Als Beispiel verwies er darauf, dass Meta die Veröffentlichung seines KI-Agenten Muse zur Verbesserung von Sicherheit und Schutzmaßnahmen verzögert habe.
Beide Seiten erkennen Risiken fortgeschrittener Agenten an. Der Streit dreht sich darum, wodurch Sicherheitszusagen belastbar werden: durch freiwillige Unternehmensentscheidungen und Marktmechanismen – oder durch gemeinsame Regeln und technische Kontrollgrenzen, die unabhängig von den Wünschen einzelner Betreiber gelten.
Öffentliche Konsultation: Chance, aber kein Gesetz
Die Konsultation startete am 14. September 2026 und läuft sechs Wochen, voraussichtlich bis Ende Oktober. Microsoft will Rückmeldungen prüfen, gegen Jahresende eine überarbeitete Fassung veröffentlichen und diese ab 2027 als Leitlinie für die Modellentwicklung einsetzen. 13
11
Forschende, Unternehmen, Politik und Öffentlichkeit können damit die praktischen Details des Kodex hinterfragen. Zugleich bleibt es ein von Microsoft verfasster Entwurf und kein verbindliches staatliches Regelwerk. Seine Bedeutung liegt vor allem darin, eine überprüfbare These offenzulegen: Künftige KI-Systeme sollen so entwickelt werden, dass sie auch unter Wettbewerbsdruck verantwortbar unter menschlicher Kontrolle bleiben.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Microsoft setzt menschliche Kontrolle über KI-Autonomie“?
Microsofts Entwurf für den Humanist AI Code soll die Entwicklung eigener MAI Modelle ab 2027 prägen.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Microsofts Entwurf für den Humanist AI Code soll die Entwicklung eigener MAI Modelle ab 2027 prägen. Die Regeln sind derzeit nicht Teil des Modelltrainings. Die öffentliche Konsultation begann am 14.
Was soll ich als nächstes in der Praxis tun?
Der Kodex macht einen Grundkonflikt der Branche sichtbar: Microsoft setzt auf verbindliche technische Grenzen und gemeinsame Regeln, Meta Chef Mark Zuckerberg stärker auf Haftung, Wettbewerb und freiwillige Entscheidu...
Quellen
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models