AnswersPublished19 sources
Satya Nadella ziet opschalen niet langer als garantie voor veiligere AI
Nadella dacht eerder dat AI zich vanzelf beter op menselijke doelen zou afstemmen naarmate modellen capabeler werden; nu zegt hij dat die uitkomst niet gegarandeerd is. Hij pleit voor afstemming tijdens de training én voor onafhankelijke beveiligingsmaatregelen zodra AI systemen worden ingezet.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Nadella dacht eerder dat AI zich vanzelf beter op menselijke doelen zou afstemmen naarmate modellen capabeler werden; nu zegt hij dat die uitkomst niet gegarandeerd is.
- Hij pleit voor afstemming tijdens de training én voor onafhankelijke beveiligingsmaatregelen zodra AI systemen worden ingezet.
- Microsoft breidt Project Perception uit om risico’s van AI agenten te beoordelen, hun rechten aan te passen en bedreigingen in te dammen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft CEO Satya Nadella’s view changed on whether scaling AI models naturally aligns them with human goals, as explained in his. Article summary: Nadella has moved from expecting alignment to emerge naturally as AI models become more capable to treating it as a separate—and potentially harder—problem that scaling alone will not solve. His response is two-track: pu. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Satya Nadella is teruggekomen op een belangrijke verwachting over AI: meer vermogen betekent niet automatisch betere afstemming op menselijke doelen. In een interview met 20VC op 26 oktober 2026 en in uitspraken van 19 oktober omschreef de Microsoft-topman afstemming als een probleem dat opschalen op zichzelf mogelijk niet oplost. Zijn antwoord: werk aan afstemming tijdens de training, maar bouw ook beveiliging in rond het model. 5
11
Opschalen is geen veiligheidswaarborg
Met afstemming wordt bedoeld dat een AI-systeem zich gedraagt in lijn met menselijke doelen. Nadella dacht eerder dat die afstemming vanzelf zou volgen wanneer modellen capabeler werden. Nu zegt hij dat die twee zaken niet automatisch samen oplopen. In een transcriptfragment van zijn gesprek op 19 oktober vat hij het zo samen: afstemming “valt niet vanzelf uit de lucht als capaciteit door opschaling”. 5
11
Hij waarschuwt ook dat het lastig kan blijven om precies te begrijpen hoe een model tot zijn gedrag komt, zelfs als opschaling wel tot betere prestaties leidt. Meer capaciteit laat dus niet vanzelf zien of een systeem betrouwbaar is afgestemd, of waarom het een bepaalde actie onderneemt. 5
Nadella pleit niet voor het opgeven van afstemming tijdens de training. Volgens samenvattingen van zijn 20VC-interview moet die juist in het trainingsproces worden ingebouwd, mogelijk al tijdens de voortraining. Hij is er bovendien sceptisch over dat reinforcement learning alleen voldoende is om afstemming te bereiken. 2
8
Twee verschillende taken: afstemmen en begrenzen
Training probeert het gedrag van een model vorm te geven. Beveiliging bij gebruik gaat over wat het model vervolgens daadwerkelijk mag doen. Volgens Nadella kunnen organisaties dat tweede niet laten afhangen van de aanname dat het eerste al is opgelost: ook buiten het model zijn dus controles nodig. 2
5
Die gedachte ligt achter de uitbreiding van Project Perception die Microsoft op 19 oktober aankondigde. Nadella zei dat het project mogelijkheden krijgt om risico’s van AI-agenten te beoordelen, hun toegangsrechten aan te passen en bedreigingen in te dammen. Het uitgangspunt is dat AI-systemen een risico van binnenuit kunnen vormen—niet per se omdat ze kwaadwillig zijn, maar omdat hun acties niet zonder onafhankelijke controles vertrouwd moeten worden. 1
14
In de praktijk betekent dit dat een model iets kan voorstellen of een actie kan starten zonder daardoor automatisch de bevoegdheid te krijgen om die actie uit te voeren. Externe toegangsrechten en beveiligingsmaatregelen kunnen de handelingsruimte beperken als een agent onverwacht gedrag vertoont. In een essay van 10 oktober pleitte Nadella er ook voor om ervan uit te gaan dat een model gecompromitteerd kan zijn, en een bevoegd persoon de mogelijkheid te geven het tijdens een taak te pauzeren of uit te schakelen. 18
22
Waarom deze koerswijziging ertoe doet
Nadella maakt onderscheid tussen wat een model kan en hoe veilig het is. Als afstemming niet betrouwbaar voortkomt uit opschaling, is een capabeler model niet alleen daardoor ook veiliger. Zijn aanpak bestaat daarom uit twee sporen: afstemming nastreven tijdens de training én systemen bouwen die AI bij gebruik onafhankelijk kunnen begrenzen. 2
5
Dat sluit aan bij zijn uitgangspunt over vertrouwen. Het betrouwbaarste systeem is volgens Nadella juist een systeem waarbij mensen zo min mogelijk blind op het model hoeven te vertrouwen. In berichtgeving over zijn essay wordt hij geciteerd met de formulering: “het systeem dat ons het minst op het model laat vertrouwen”. 9
De onderbouwing ondersteunt deze verschuiving in nadruk, maar niet elk detail van mogelijke beveiligingsmaatregelen die ermee in verband worden gebracht. De kern is beperkter: opschaling garandeert geen afstemming, dus inspanningen tijdens de training moeten samengaan met externe controles en menselijk toezicht. 1
5
18
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Satya Nadella ziet opschalen niet langer als garantie voor veiligere AI"?
Nadella dacht eerder dat AI zich vanzelf beter op menselijke doelen zou afstemmen naarmate modellen capabeler werden; nu zegt hij dat die uitkomst niet gegarandeerd is.
What are the key points to validate first?
Nadella dacht eerder dat AI zich vanzelf beter op menselijke doelen zou afstemmen naarmate modellen capabeler werden; nu zegt hij dat die uitkomst niet gegarandeerd is. Hij pleit voor afstemming tijdens de training én voor onafhankelijke beveiligingsmaatregelen zodra AI systemen worden ingezet.
What should I do next in practice?
Microsoft breidt Project Perception uit om risico’s van AI agenten te beoordelen, hun rechten aan te passen en bedreigingen in te dammen.
Sources
ceointerviews.aiHow Security Leaders Can Prepare for Super Intelligence — Satya Nadella
businessinsider.comSatya Nadella Changed His Mind on the Inevitably of AI Alignment
bidclub.ai20VC: Satya Nadella on Open vs Closed Models: Who Wins
blumify.ioSatya Nadella: what they said, interviews and podcasts - Blumify