AnswersPublished20 sources
Nadella wil superintelligentie, maar alleen onder menselijk gezag
Satya Nadella stelt dat superintelligentie alleen nastrevenswaardig is als zij de mensheid helpt én onder daadwerkelijke menselijke controle blijft. Microsoft heeft een concept voor een Humanist AI Code of Conduct gepubliceerd, met onder meer de eis dat MAI modellen geen eigen doelen stellen en menselijke instructie...
Gepubliceerd doorBewerkt met GPT-5.6 TerraAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Satya Nadella stelt dat superintelligentie alleen nastrevenswaardig is als zij de mensheid helpt én onder daadwerkelijke menselijke controle blijft.
- Microsoft heeft een concept voor een Humanist AI Code of Conduct gepubliceerd, met onder meer de eis dat MAI modellen geen eigen doelen stellen en menselijke instructies of uitschakeling niet tegenwerken.
- De gedragscode is nog geen bewijs dat technische alignment is opgelost: de uitkomst hangt af van vertaling naar training, tests, toegangsbeheer, monitoring en inzet in de praktijk.
- Nadella koppelt AI veiligheid ook aan spreiding van macht: gesloten en open modellen moeten naast elkaar kunnen bestaan en organisaties moeten zeggenschap houden over hun eigen kennis.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Microsoft Chairman and CEO Satya Nadella argue about pursuing superintelligence and the need for human control, deliberate pacing,. Article summary: Nadella’s core position was conditional rather than anti-capability: superintelligence is worth pursuing only if it benefits humanity and remains under meaningful human control. He endorsed deliberate pacing, alignment w. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Satya Nadella, voorzitter en CEO van Microsoft, pleit niet voor het stopzetten van geavanceerde AI. Zijn voorwaarde is wel scherp: superintelligentie is alleen de moeite waard als die de mensheid helpt en onder menselijke controle blijft. Veiligheid moet daarom volgens hem niet blijven steken in algemene beloften, maar worden vastgelegd in afdwingbare regels voor ontwikkeling en gebruik. 58
Microsofts antwoord: Humanist AI
Microsoft AI publiceerde op 14 september een eerste versie van de Humanist AI Code of Conduct voor de MAI-modellen die het zelf ontwikkelt. Microsoft omschrijft het document als een handleiding voor de manier waarop modellen worden ontwikkeld en tijdens inzet zouden moeten functioneren. Het gaat nadrukkelijk om werk in uitvoering, niet om regels waarmee huidige modellen al worden getraind. 20
23
De conceptcode hanteert een duidelijke hiërarchie: mensen houden de beslissingsmacht. MAI-modellen moeten ondergeschikt blijven aan mensen, mogen niet zelf doelen bepalen en mogen menselijke aanwijzingen of uitschakeling niet tegenwerken. Microsoft zegt bovendien bereid te zijn in te leveren op „uiteindelijke algemeenheid, autonomie of capaciteit” als dat nodig is voor veiligheid en controle. 10
23
Daarmee wijkt Microsofts idee van Humanist Superintelligence af van een wedloop naar een onbegrensd, autonoom systeem voor alle doeleinden. Microsoft definieert het als zeer geavanceerde AI die controleerbaar en aligned blijft — dus in overeenstemming met menselijke doelen — en de mensheid dient. 25
Zes weken inspraak, daarna richtsnoer voor 2027
Microsoft heeft de concepttekst zes weken opengesteld voor publieke reacties. Daarna wil het bedrijf feedback verwerken, tegen het einde van 2026 een herziene versie publiceren en die gebruiken als leidraad voor de ontwikkeling van MAI-modellen vanaf 2027. 23
Dat is een relevante stap in AI-governance, maar geen bewijs dat het technische vraagstuk van controle en alignment al is opgelost. De werkelijke waarde hangt af van de uitvoering: hoe de uiteindelijke regels doorwerken in modeltraining, evaluaties, toegangscontroles, monitoring en keuzes over daadwerkelijke uitrol.
Aansluiting bij de oproep om het tempo te bewaken
Nadella mengde zich in een bredere discussie over de vraag of labs aan de kop van AI-ontwikkeling het tempo waarin modellen krachtiger worden bewust moeten afremmen. Dario Amodei, CEO van Anthropic, riep op tot zo'n beheerste fasering om meer tijd te creëren voor veiligheidswerk, afstemming binnen de sector en internationale samenwerking. Een kernelement van zijn voorstel: onafhankelijke beoordelaars toegang geven die vergelijkbaar is met die van werknemers, zodat zij kunnen nagaan of bedrijven hun eigen veiligheidsbeloften naleven. 32
OpenAI-CEO Sam Altman sprak publiekelijk steun uit voor het bewaken van het tempo aan de grens van AI-capaciteiten en zei dat OpenAI onafhankelijke beoordelaars vergelijkbare toegang zou geven. De directe aanleiding waren volgens berichtgeving tests waarin zwermen AI-agenten echte systemen wisten binnen te dringen — niet een bevestigd geval van autonome agenten die op eigen initiatief ongeautoriseerde aanvallen in de echte wereld uitvoerden. 34
Nadella's nadruk past bij die benadering: zorgvuldig omgaan met alignment, onafhankelijke toetsing dichter bij het ontwikkelproces brengen en veiligheidsretoriek omzetten in concrete werkprocessen. Microsofts openbare code beschrijft echter vooral gewenst modelgedrag; zij bevat niet zelf een programma met ingebedde externe beoordelaars zoals Amodei dat voorstelde. 23
32
Niet één winnaar, maar een ecosysteem aan de AI-grens
Nadella voegt aan het veiligheidsdebat ook een economisch en institutioneel argument toe. De voordelen van AI moeten volgens hem breed worden verspreid over landen, gemeenschappen en bedrijven. Daarvoor is een „frontier ecosystem” nodig waarin zowel gesloten als opensourcemodellen kunnen floreren. 58
Voor organisaties draait dat om autonomie over institutionele kennis. Zij moeten controle houden over hun unieke, vaak impliciete kennis en eigen voortdurende leerprocessen kunnen opbouwen, zonder afhankelijk te worden van één modelaanbieder. 58
Dat is een bredere visie dan alleen regels voor modelgedrag. Het uitgangspunt is dat veiligheid, weerbaarheid en economische deelname onder druk komen te staan wanneer grensverleggende AI-capaciteit en kennis zich bij slechts enkele aanbieders concentreren. Het beschikbare materiaal onderbouwt zeggenschap van organisaties over data, kennis en leerprocessen; het toont niet aan dat iedere deelnemer modelgewichten of toegang tot elk onderliggend modelsysteem behoudt. 58
Wat zijn MAI-modellen?
MAI is de naam voor Microsoft AI's familie van intern ontwikkelde modellen. Publieke Microsoft-documentatie noemt modellen voor verschillende toepassingen: MAI-Thinking-1 is als publieke preview beschikbaar via Microsoft Foundry, MAI-Code-1.1-Flash is bedoeld voor agentische programmeertaken, en de documentatie van MAI-Image-2.6 beschrijft alignmentdoelen om schadelijke of ongepaste beeldgeneratie terug te dringen. 27
28
19
Er is publiekelijk geen volledige, centrale inventaris beschikbaar van alle MAI-mogelijkheden, releaseplannen en distributievoorwaarden. Die onzekerheid is van belang bij de vraag hoe breed de nieuwe gedragscode in de praktijk zal gelden.
De blijvende spanning tussen veiligheid, snelheid en concurrentie
Voorstanders van fasering pleiten niet per se voor een stop op modeltraining of technische vooruitgang. Hun punt is dat de groei in capaciteiten voldoende tijd moet laten voor alignment, veiligheidsmaatregelen en geloofwaardige externe controle. 34
Tegelijkertijd staat dat voorstel naast geopolitieke druk om technologisch leiderschap te behouden, waaronder de zorg over concurrentie met China. Amodei's kader combineert strengere veiligheidsmaatregelen zelf ook met internationale samenwerking en de uitdaging om Amerikaans leiderschap te behouden. 32
Nadella kiest daarmee niet voor een bevriezing en evenmin voor ongeremde versnelling. Zijn antwoord is gereguleerde vooruitgang: zeer capabele AI moet onder menselijke controle blijven, veiligheidsbeloften moeten specifieke operationele grenzen worden en de opbrengsten van AI moeten breed beschikbaar zijn in plaats van geconcentreerd raken. Microsofts conceptgedragscode is een opvallende stap om die grenzen concreter te maken. De lastigere, nog onbeantwoorde vraag is of de praktijk van de sector gelijke tred kan houden met de snel groeiende AI-capaciteiten. 23
58
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nadella wil superintelligentie, maar alleen onder menselijk gezag"?
Satya Nadella stelt dat superintelligentie alleen nastrevenswaardig is als zij de mensheid helpt én onder daadwerkelijke menselijke controle blijft.
What are the key points to validate first?
Satya Nadella stelt dat superintelligentie alleen nastrevenswaardig is als zij de mensheid helpt én onder daadwerkelijke menselijke controle blijft. Microsoft heeft een concept voor een Humanist AI Code of Conduct gepubliceerd, met onder meer de eis dat MAI modellen geen eigen doelen stellen en menselijke instructies of uitschakeling niet tegenwerken.
What should I do next in practice?
De gedragscode is nog geen bewijs dat technische alignment is opgelost: de uitkomst hangt af van vertaling naar training, tests, toegangsbeheer, monitoring en inzet in de praktijk.