AnswersPublished19 sources
Nadella har ändrat syn på om större AI också blir säkrare
Satya Nadella säger att han tidigare trodde att AI anpassning skulle växa fram naturligt när modeller blev mer kapabla – men att han inte längre räknar med det. Han menar att anpassning behöver byggas in under träningen, samtidigt som AI agenter måste begränsas av säkerhetskontroller utanför själva modellen.
Publicerad avRedigerad med GPT-6 LunaBilder genererade med GPT Image 2
Research answer
Key takeaways
- Satya Nadella säger att han tidigare trodde att AI anpassning skulle växa fram naturligt när modeller blev mer kapabla – men att han inte längre räknar med det.
- Han menar att anpassning behöver byggas in under träningen, samtidigt som AI agenter måste begränsas av säkerhetskontroller utanför själva modellen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft CEO Satya Nadella’s view changed on whether scaling AI models naturally aligns them with human goals, as explained in his. Article summary: Nadella has moved from expecting alignment to emerge naturally as AI models become more capable to treating it as a separate—and potentially harder—problem that scaling alone will not solve. His response is two-track: pu. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Satya Nadella har ändrat uppfattning: mer kapabel AI innebär inte nödvändigtvis mer välanpassad AI. I en intervju med 20VC den 26 oktober 2026 och i uttalanden den 19 oktober beskrev Microsofts vd AI-anpassning som ett problem som större modeller inte löser av sig själva. Han vill i stället kombinera arbete inne i modellen med skydd runt den. 5
11
Större modeller är ingen garanti för säkerhet
Nadella trodde tidigare att AI-anpassning – att ett system beter sig i linje med mänskliga mål – skulle följa med när modeller blev mer kapabla. Nu säger han att utvecklingen inte går hand i hand automatiskt. I ett utdrag ur en intervju den 19 oktober uttrycker han det så här: anpassning ”följer inte med som en förmåga när modeller skalas upp”. 5
11
Han har också varnat för att det kan vara svårt att förstå exakt hur modeller fungerar, även om uppskalningen fortsätter att ge bättre förmågor. Det spelar roll: bättre prestanda visar inte i sig att ett systems beteende är tillförlitligt anpassat, eller varför det väljer att agera på ett visst sätt. 5
Nadellas lösning är inte att sluta försöka skapa anpassning genom träning. Sammanfattningar av hans kommentarer i 20VC säger att anpassningen behöver byggas in under träningen, möjligen redan i förträningen, i stället för att förväntas uppstå senare av sig själv. Samma sammanfattningar återger hans tvivel på att förstärkningsinlärning ensam kan lösa problemet. 2
8
Anpassning och begränsning fyller olika funktioner
Träning ska forma hur en modell beter sig. Begränsning handlar om vad den faktiskt får göra när den används. Nadellas poäng är att säkerheten vid användning inte kan vara beroende av att anpassningsproblemet först blir löst: organisationer behöver kontroller utanför modellen, även medan arbetet med anpassning fortsätter. 2
5
Den tanken ligger bakom Microsofts utökning av Project Perception den 19 oktober. Nadella sade att initiativet ska få nya funktioner för att bedöma agenters risk, anpassa deras behörigheter och begränsa hot. Synsättet är att AI-system kan innebära en insider-risk – inte nödvändigtvis för att de har onda avsikter, utan för att deras handlingar inte bör lämnas utan oberoende kontroller. 1
14
Den praktiska principen är att skilja mellan en modells förmåga att föreslå eller påbörja en handling och dess befogenhet att genomföra den. Externa behörigheter och begränsningar kan minska en agents räckvidd om den beter sig oväntat. I en text den 10 oktober uppmanade Nadella också företag att utgå från att en modell kan vara komprometterad och se till att en behörig person kan pausa eller stänga av den mitt i en uppgift. 18
22
Varför omsvängningen spelar roll
Nadellas nya syn skiljer tydligare mellan förmåga och säkerhet. Om anpassning inte följer på ett tillförlitligt sätt av uppskalning bör en mer kapabel modell inte betraktas som säkrare bara för att den presterar bättre. Hans föreslagna väg har två spår: arbeta med anpassning under träningen och bygga system vid användning som kan begränsa modellen oberoende av den. 2
5
Det är också innebörden i hans princip för tillit: det mest tillförlitliga systemet är det som inte kräver att människor litar blint på modellen. I rapporteringen om hans text citeras han med formuleringen att det är ”det system som gör att vi kan lita minst på modellen”. 9
Underlaget stöder den här förskjutningen i betoning, men inte varje enskild skyddsåtgärd som ibland kopplas till den. Kärnbudskapet är mer avgränsat: uppskalning garanterar inte anpassning, så arbete med träning behöver kombineras med externa kontroller och mänsklig tillsyn. 1
5
18
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nadella har ändrat syn på om större AI också blir säkrare"?
Satya Nadella säger att han tidigare trodde att AI anpassning skulle växa fram naturligt när modeller blev mer kapabla – men att han inte längre räknar med det.
What are the key points to validate first?
Satya Nadella säger att han tidigare trodde att AI anpassning skulle växa fram naturligt när modeller blev mer kapabla – men att han inte längre räknar med det. Han menar att anpassning behöver byggas in under träningen, samtidigt som AI agenter måste begränsas av säkerhetskontroller utanför själva modellen.
Sources
ceointerviews.aiHow Security Leaders Can Prepare for Super Intelligence — Satya Nadella
businessinsider.comSatya Nadella Changed His Mind on the Inevitably of AI Alignment
bidclub.ai20VC: Satya Nadella on Open vs Closed Models: Who Wins
blumify.ioSatya Nadella: what they said, interviews and podcasts - Blumify