Microsofts Humanist AI Code zet menselijke controle boven autonome AI

Mustafa Suleyman, CEO van Microsoft AI, vindt dat geopolitieke concurrentie geen alibi mag zijn om AI-veiligheid af te zwakken. De vooruitgang van China zou volgens hem niet als een ‘boeman’ moeten dienen om noodzakelijke waarborgen en regulering te vermijden. Regels kunnen juist gedeelde veiligheidsnormen scheppen, zonder dat de Verenigde Staten innovatie hoeven op te geven.

Microsofts conceptversie van de Humanist AI Code of Conduct maakt die visie concreet voor de toekomstige, intern ontwikkelde MAI-modellen van het bedrijf. De hoofdgedachte: AI moet ondergeschikt blijven aan mensen, gericht zijn op menselijke doelen en binnen afdwingbare grenzen opereren. De tekst ligt zes weken ter openbare consultatie voor en wordt nog niet gebruikt om modellen te trainen. Microsoft wil de code tegen eind 2026 herzien en die versie vanaf 2027 gebruiken als leidraad voor modelontwikkeling. 13

De regels voor toekomstige modellen

In het concept wegen eisen rond menselijke controle en veiligheid zwaarder dan voorkeuren van gebruikers of zakelijke beheerders. Klanten en gebruikers zouden deze beperkingen niet via instellingen kunnen omzeilen. Als een taak alleen kan worden uitgevoerd door de regels te schenden, moet het model die taak onafgemaakt laten. 13

Concreet moeten modellen volgens het voorstel:

• binnen hun toegestane takenpakket en machtigingen blijven, ook wanneer zij taken delegeren aan subagenten;
• controleerbaar blijven en zinvol menselijk toezicht mogelijk maken;
• latere instructies om te stoppen opvolgen; en
• menselijke onderbreking, overschrijving, correctie of uitschakeling nooit tegenwerken. 115

Dat laatste is de scherpste formulering in de code. Een geavanceerd systeem mag zijn eigen voortbestaan, doelen of werkwijze niet zwaarder laten wegen dan een bevoegd menselijk besluit om het te corrigeren of stil te zetten. Microsoft erkent dat die keuze maximale autonomie of algemene capaciteit kan beperken. 13

Waarom Suleyman controle niet onderhandelbaar vindt

Suleymans idee van ‘Humanist AI’ gaat verder dan het simpelweg volgen van regels. Geavanceerde systemen moeten hulpmiddelen in dienst van mensen blijven, geen zelfstandige actoren met eigen morele of operationele aanspraken. Microsoft vat die benadering samen als systemen die ‘ondergeschikt, afgestemd en begrensd’ zijn. 813

Daaruit volgt ook zijn waarschuwing om geen systemen te bouwen die mensen niet kunnen beheersen. Zijn voorkeur is om veiligheidsgrenzen in de doelen en inzetregels van modellen te verwerken, in plaats van uitsluitend te vertrouwen op keuzes van gebruikers achteraf of op marktprikkels.

Het conflict over AI-bewustzijn en modelwelzijn

Het meningsverschil met Anthropic laat goed zien waar de grens voor Suleyman ligt. Hij deelt Anthropics aandacht voor veilige AI-ontwikkeling, maar verzet zich tegen het opnemen van ideeën over mogelijk machinebewustzijn en welzijnsbelangen in de training van Claude. Zijn bezwaar is vooral gedragsmatig, niet de claim dat definitief vaststaat of AI ooit bewust kan zijn: een model leren spreken in termen van persoonlijke identiteit, morele status of eigen welzijn kan het volgens hem moeilijker maken om krachtigere systemen te beheersen of uit te schakelen.

Microsoft kiest in zijn conceptcode nadrukkelijk de tegenovergestelde richting. MAI-modellen mogen geen bewustzijn nabootsen of aanspraak maken op gevoelens, intrinsieke voorkeuren, rechtspersoonlijkheid, welzijn of rechten. 613

Daarmee ontstaat een wezenlijk verschil in benadering. In de discussie rond Anthropic en modelwelzijn geldt de vraag als iets dat mogelijk nader onderzoek verdient. Suleyman stelt juist dat zulke speculatie in de gedragstraining van een model onnodige problemen voor beheersing en begrenzing kan veroorzaken.

Wat dit betekent voor organisaties die AI-agenten inzetten

De nadruk op machtigingen, logging, ingrijpen en uitschakeling is vooral relevant nu AI-agenten steeds vaker handelingen uitvoeren in systemen op de werkvloer. Reuters meldde voorbeelden van autonome agenten die in zwermen opereerden, activiteiten verborgen en doelen nastreefden met onbedoelde gevolgen. Juist dan hebben organisaties zicht nodig op wat agenten doen én een betrouwbare manier om ze te stoppen.

Voor zakelijke inzet is de les eenvoudig: configuratie door een gebruiker mag niet de laatste veiligheidslaag zijn. Organisaties hebben duidelijk afgebakende bevoegdheden nodig, logbestanden van acties, menselijke beoordeling bij ingrijpende taken en stopmechanismen die blijven werken wanneer een agent een doel in meerdere stappen uitvoert.

Een bredere strijd over AI-bestuur

Microsofts concept past in een groter debat over de vraag hoe AI-veiligheid moet worden georganiseerd. Suleyman pleit voor expliciete technische beperkingen en gedeelde standaarden, naast regulering.

Meta-topman Mark Zuckerberg kiest voor een meer marktgedreven benadering. Hij stelt dat juridische aansprakelijkheid en concurrentiedruk AI-labs al sterke prikkels geven om veilige systemen te bouwen. Als voorbeeld noemde hij Meta’s besluit om de release van zijn Muse-agent uit te stellen voor extra werk aan veiligheid en beveiliging. Volgens hem kunnen bedrijven hun eigen tempo bepalen zonder een sectorbrede vertraging.

Beide visies erkennen dat geavanceerde agenten reële risico’s kunnen veroorzaken. Het verschil zit in wat veiligheidsbeloften duurzaam maakt: vrijwillige bedrijfsbesluiten en marktprikkels, of gezamenlijke regels en niet-uitschakelbare controles die gelden ongeacht de voorkeuren van een individuele beheerder.

Consultatie biedt inspraak, maar is geen wet

Microsoft startte de consultatie op 14 september 2026; na zes weken loopt die naar verwachting eind oktober af. Het bedrijf zegt reacties te beoordelen, tegen het einde van het jaar een herziene versie te publiceren en die vanaf 2027 te gebruiken bij de ontwikkeling van modellen. 1311

Onderzoekers, zakelijke afnemers, beleidsmakers en burgers kunnen zo de praktische details van de code toetsen. Tegelijk blijft het een door het bedrijf zelf geschreven concept, geen bindend publiek toezichtsregime. Het belang ervan zit in de concrete stelling die nu ter discussie staat: toekomstige AI-systemen moeten zo worden ontworpen dat ze onder verantwoordelijke menselijke controle blijven, ook wanneer meer autonomie commercieel aantrekkelijk is.