AnswersPublished19 sources
Nadella tidak lagi percaya penskalaan AI akan menjadikannya lebih selamat
Satya Nadella mengakui beliau dahulu menyangka penjajaran AI akan muncul secara semula jadi apabila model semakin berkemampuan. Kini, beliau berpendapat penskalaan sahaja tidak menjamin AI akan bertindak selaras dengan matlamat manusia.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Satya Nadella mengakui beliau dahulu menyangka penjajaran AI akan muncul secara semula jadi apabila model semakin berkemampuan.
- Kini, beliau berpendapat penskalaan sahaja tidak menjamin AI akan bertindak selaras dengan matlamat manusia.
- Beliau mahu usaha penjajaran dalam latihan model disokong kawalan luaran, had akses dan mekanisme untuk manusia menghentikan tindakan AI.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft CEO Satya Nadella’s view changed on whether scaling AI models naturally aligns them with human goals, as explained in his. Article summary: Nadella has moved from expecting alignment to emerge naturally as AI models become more capable to treating it as a separate—and potentially harder—problem that scaling alone will not solve. His response is two-track: pu. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Pandangan Satya Nadella tentang keselamatan AI sudah berubah: model yang semakin berkemampuan tidak semestinya semakin sejajar dengan matlamat manusia. Dalam wawancara 20VC pada 26 Oktober 2026 dan kenyataannya pada 19 Oktober, Ketua Pegawai Eksekutif Microsoft itu menyifatkan penjajaran sebagai masalah yang mungkin tidak dapat diselesaikan melalui penskalaan sahaja. Beliau mencadangkan usaha membentuk tingkah laku model digandingkan dengan perlindungan di luar model. 5
11
Penskalaan bukan jaminan keselamatan
Penjajaran AI bermaksud memastikan sistem AI berkelakuan selaras dengan matlamat manusia. Nadella berkata beliau dahulu menjangka penjajaran akan menyusul apabila model menjadi lebih berkemampuan. Kini, beliau tidak lagi menganggap kedua-duanya meningkat seiring secara automatik. Petikan transkrip wawancaranya pada 19 Oktober merumuskan pandangan itu: penjajaran “tidak muncul sebagai keupayaan hasil penskalaan”. 5
11
Beliau turut memberi amaran bahawa pemahaman terperinci tentang cara model menghasilkan sesuatu keputusan mungkin sukar dicapai, walaupun penskalaan terus meningkatkan keupayaan. Ini penting kerana prestasi yang lebih baik sahaja tidak membuktikan tingkah laku model boleh dipercayai atau menjelaskan mengapa ia mengambil tindakan tertentu. 5
Nadella bukan mencadangkan supaya latihan untuk menjajarkan AI diketepikan. Ringkasan wawancara 20VC menyatakan penjajaran perlu diterapkan semasa latihan, mungkin seawal pralatihan, dan bukan diharapkan muncul dengan sendiri kemudian. Ringkasan itu juga melaporkan keraguannya bahawa pembelajaran pengukuhan sahaja dapat menghasilkan penjajaran. 2
8
Latihan dan kawalan luaran memainkan peranan berbeza
Latihan bertujuan membentuk cara model berkelakuan. Kawalan luaran pula mengehadkan perkara yang boleh dilakukan oleh model apabila digunakan. Menurut hujah Nadella, kawalan ketika penggunaan tidak boleh bergantung pada andaian bahawa masalah penjajaran sudah selesai. Organisasi perlu melaksanakan perlindungan di luar model sambil usaha menjajarkan AI diteruskan. 2
5
Prinsip itu tercermin dalam pengembangan Project Perception oleh Microsoft pada 19 Oktober. Nadella berkata inisiatif keselamatan AI itu akan menambah keupayaan untuk menilai risiko ejen AI, melaras kebenaran akses dan membendung ancaman. Pendekatan tersebut menganggap sistem AI sebagai potensi risiko dalaman—bukan semestinya kerana sistem itu berniat jahat, tetapi kerana tindakannya tidak wajar dipercayai tanpa kawalan bebas. 1
14
Dalam amalan, kebolehan model untuk mencadangkan atau memulakan sesuatu tindakan perlu dipisahkan daripada kuasa untuk melaksanakannya. Had akses dan kawalan pembendungan di luar model boleh mengehadkan tindakan ejen jika kelakuannya menyimpang daripada jangkaan. Dalam esei pada 10 Oktober, Nadella turut menyeru organisasi supaya menganggap model mungkin telah dikompromi dan memastikan orang yang diberi kuasa boleh menjeda atau menghentikannya ketika tugasan sedang berjalan. 18
22
Mengapa perubahan pandangan ini penting
Pandangan baharu Nadella memisahkan keupayaan daripada keselamatan. Jika penjajaran tidak semestinya menyusul hasil penskalaan, model yang lebih berkemampuan tidak patut dianggap lebih selamat hanya kerana prestasinya meningkat. Pendekatan yang beliau huraikan berjalan pada dua landasan: usahakan penjajaran semasa latihan dan bina sistem penggunaan yang boleh mengehadkan model secara berasingan. 2
5
Itulah juga asas prinsip kepercayaan yang dibawanya. Sistem yang paling boleh dipercayai, menurut petikan liputan tentang eseinya, ialah sistem yang membolehkan kita “paling kurang mempercayai model”. 9
Bukti yang tersedia menyokong perubahan penekanan ini, tetapi tidak mengesahkan setiap langkah perlindungan terperinci yang kadangkala dikaitkan dengannya. Inti hujah Nadella lebih khusus: penskalaan bukan jaminan penjajaran, maka latihan perlu disertai kawalan luaran dan pengawasan manusia. 1
5
18
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Nadella tidak lagi percaya penskalaan AI akan menjadikannya lebih selamat"?
Satya Nadella mengakui beliau dahulu menyangka penjajaran AI akan muncul secara semula jadi apabila model semakin berkemampuan.
What are the key points to validate first?
Satya Nadella mengakui beliau dahulu menyangka penjajaran AI akan muncul secara semula jadi apabila model semakin berkemampuan. Kini, beliau berpendapat penskalaan sahaja tidak menjamin AI akan bertindak selaras dengan matlamat manusia.
What should I do next in practice?
Beliau mahu usaha penjajaran dalam latihan model disokong kawalan luaran, had akses dan mekanisme untuk manusia menghentikan tindakan AI.
Sources
ceointerviews.aiHow Security Leaders Can Prepare for Super Intelligence — Satya Nadella
businessinsider.comSatya Nadella Changed His Mind on the Inevitably of AI Alignment
bidclub.ai20VC: Satya Nadella on Open vs Closed Models: Who Wins
blumify.ioSatya Nadella: what they said, interviews and podcasts - Blumify