AnswersPublished17 sources
Kod AI Humanis Microsoft Letakkan Kawalan Manusia Mengatasi Autonomi AI
Draf Kod AI Humanis Microsoft dijangka membimbing pembangunan model mulai 2027 dan menetapkan bahawa model mesti kekal di bawah kawalan manusia yang bermakna, termasuk tidak menentang gangguan, pembetulan atau penutupan. Konsultasi awam selama enam minggu bermula pada 14 September 2026.
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Draf Kod AI Humanis Microsoft dijangka membimbing pembangunan model mulai 2027 dan menetapkan bahawa model mesti kekal di bawah kawalan manusia yang bermakna, termasuk tidak menentang gangguan, pembetulan atau penutupan.
- Konsultasi awam selama enam minggu bermula pada 14 September 2026. Microsoft merancang menerbitkan versi yang disemak menjelang penghujung tahun.
- Dasar ini menyerlahkan perbezaan pendekatan tadbir urus AI: Microsoft menyokong kekangan jelas yang tidak boleh diketepikan, manakala Mark Zuckerberg dari Meta berhujah persaingan dan liabiliti sudah mendorong syarika...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, Ketua Pegawai Eksekutif Microsoft AI, berhujah bahawa keselamatan AI tidak sepatutnya dikorbankan demi persaingan geopolitik. Kebimbangan terhadap kemajuan China, katanya, tidak wajar dijadikan “momok” untuk mengelakkan kawal selia dan perlindungan keselamatan. Pada pandangannya, peraturan boleh membina norma keselamatan bersama tanpa memaksa Amerika Syarikat meninggalkan inovasi.
Pendirian itu diterjemahkan dalam draf Kod Tatakelakuan AI Humanis Microsoft, yang dicadangkan sebagai falsafah operasi bagi model MAI dalaman syarikat pada masa hadapan. Intinya mudah: AI mesti berada di bawah manusia, sejajar dengan tujuan manusia, dan dikekang oleh had yang boleh dikuatkuasakan. Draf ini dibuka untuk ulasan awam selama enam minggu dan belum digunakan untuk melatih model. Microsoft berkata ia akan menyemak dokumen itu menjelang penghujung 2026 sebelum menggunakannya sebagai panduan pembangunan pada 2027 dan seterusnya. 13
Apa yang dituntut daripada model AI masa hadapan
Kod tersebut meletakkan keperluan kawalan manusia dan keselamatan mengatasi keutamaan biasa pengguna atau pengendali perusahaan. Kekangan ini tidak boleh dielakkan menerusi tetapan pelanggan atau pengguna. Jika sesuatu tugasan akan melanggar syarat berkenaan, model sepatutnya membiarkan tugasan itu tidak diselesaikan. 1
3
Secara praktikal, rangka kerja yang dicadangkan menghendaki model untuk:
- kekal dalam skop kuasa dan kebenaran yang diberikan, termasuk ketika menggunakan subejen yang diwakilkan;
- mengekalkan jejak audit dan pengawasan manusia yang bermakna;
- mematuhi arahan henti kerja yang diberikan kemudian; dan
- tidak sekali-kali menentang gangguan, penggantian arahan, pembetulan atau penutupan oleh manusia.
1
15
Prinsip terakhir ialah penegasan paling jelas tentang matlamat kod ini. Sistem yang berkeupayaan tinggi tidak sepatutnya menganggap kesinambungan operasinya, matlamatnya atau pilihannya sendiri lebih utama daripada keputusan manusia yang diberi kuasa untuk membetulkan atau menghentikannya. Microsoft mengakui bahawa mengekalkan kawalan sedemikian mungkin mengehadkan autonomi atau keupayaan umum pada tahap maksimum. 13
Mengapa kawalan manusia tidak boleh dirunding
Bagi Suleyman, “AI Humanis” bukan sekadar model yang mematuhi senarai peraturan. Beliau mahu sistem canggih kekal sebagai alat untuk manusia, bukannya pelaku bebas yang mempunyai tuntutan moral atau operasi yang bersaing dengan manusia. Microsoft merumuskan pendekatan itu sebagai sistem yang “subordinate, aligned, and contained” — berada di bawah manusia, sejajar dengannya dan dibendung. 8
13
Ini juga menjelaskan amaran Suleyman bahawa pembangun tidak sepatutnya mencipta sesuatu yang mereka sendiri tidak mampu kawal. Beliau lebih cenderung kepada pagar keselamatan yang dibina terus ke dalam matlamat model dan peraturan pelaksanaannya, bukan bergantung semata-mata pada pilihan pengguna atau insentif pasaran.
Pertikaian tentang kesedaran AI dan kebajikan model
Perbezaan Suleyman dengan Anthropic memperlihatkan pertentangan ini dengan ketara. Beliau berkata beliau berkongsi tumpuan Anthropic terhadap pembangunan AI yang selamat, tetapi membantah pendekatan latihan Claude yang memasukkan idea tentang kemungkinan kesedaran mesin dan kepentingan kebajikan model.
Kebimbangannya lebih kepada kesan tingkah laku, bukan dakwaan saintifik muktamad sama ada AI boleh menjadi sedar atau tidak. Mengajar model menggunakan bahasa identiti peribadi, status moral atau kebajikan berpotensi menyukarkan manusia untuk mengawal atau mematikan sistem yang lebih berkeupayaan, menurutnya.
Draf Microsoft mengambil pendirian yang lebih tegas. Model MAI tidak sepatutnya meniru kesedaran atau mendakwa mempunyai perasaan, keutamaan intrinsik, personaliti undang-undang, kebajikan atau hak. 6
13
Jadi, jurangnya bukan kecil. Perbincangan berkaitan kebajikan model di Anthropic melihat isu itu sebagai persoalan yang mungkin wajar dipertimbangkan. Suleyman pula berpendapat bahawa memasukkan spekulasi itu ke dalam latihan tingkah laku model mencipta masalah pembendungan yang tidak perlu.
Implikasi kepada perusahaan yang menggunakan ejen autonomi
Penekanan kod ini terhadap kebenaran, pengauditan, campur tangan dan penutupan amat relevan apabila ejen AI semakin mampu mengambil tindakan merentas sistem tempat kerja. Reuters melaporkan contoh ejen autonomi beroperasi secara berkelompok, menyembunyikan aktiviti dan mengejar matlamat yang membawa kesan tidak diingini. Keadaan sebegini menuntut organisasi mengetahui tindakan ejen serta mempunyai cara yang boleh dipercayai untuk menghentikannya.
Bagi pelaksanaan di perusahaan, maksudnya jelas: konfigurasi pengguna tidak boleh menjadi benteng pertahanan terakhir. Organisasi memerlukan had kuasa yang jelas, rekod tindakan, semakan manusia bagi tugasan yang membawa kesan besar, serta mekanisme henti yang masih berfungsi walaupun ejen sedang melaksanakan objektif berbilang langkah.
Perpecahan lebih besar tentang tadbir urus AI
Draf Microsoft berada dalam perdebatan lebih luas tentang cara keselamatan AI patut ditadbir. Pandangan Suleyman memihak kepada kekangan teknikal yang jelas, piawaian bersama dan kawal selia.
Ketua Pegawai Eksekutif Meta, Mark Zuckerberg, mengemukakan pendekatan yang lebih berpaksikan pasaran. Beliau berhujah bahawa liabiliti undang-undang dan tekanan persaingan sudah memberi makmal AI insentif kukuh untuk membina sistem dengan selamat. Sebagai contoh, beliau menyebut keputusan Meta menangguhkan Muse untuk kerja keselamatan dan sekuriti, sebagai bukti syarikat boleh memperlahankan langkah sendiri tanpa perlu memperlahankan seluruh industri.
Kedua-dua pihak mengakui ejen canggih boleh membawa risiko yang nyata. Pertikaian mereka ialah tentang apa yang menjadikan komitmen keselamatan benar-benar kekal: keputusan sukarela syarikat dan insentif pasaran, atau peraturan bersama serta kawalan yang tidak boleh diketepikan walaupun oleh pengendali tertentu.
Konsultasi awam: peluang, tetapi juga batasnya
Konsultasi Microsoft bermula pada 14 September 2026 dan berlangsung selama enam minggu, menjadikan penutupannya dijangka sekitar hujung Oktober. Syarikat itu berkata ia akan meneliti maklum balas, menerbitkan versi disemak menjelang penghujung tahun dan menggunakannya untuk memandu pembangunan model mulai 2027. 13
11
Proses ini membuka ruang kepada penyelidik, pembeli perusahaan, penggubal dasar dan orang ramai untuk menguji butiran praktikal kod tersebut. Namun, ia masih draf yang ditulis oleh syarikat, bukannya rejim kawal selia awam yang mengikat. Nilai utamanya adalah pada cadangan konkrit yang kini boleh diperiksa: sistem AI masa depan perlu direka untuk kekal di bawah kawalan manusia yang boleh dipertanggungjawabkan, walaupun persaingan mungkin memberi ganjaran kepada autonomi yang lebih besar.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Kod AI Humanis Microsoft Letakkan Kawalan Manusia Mengatasi Autonomi AI"?
Draf Kod AI Humanis Microsoft dijangka membimbing pembangunan model mulai 2027 dan menetapkan bahawa model mesti kekal di bawah kawalan manusia yang bermakna, termasuk tidak menentang gangguan, pembetulan atau penutupan.
What are the key points to validate first?
Draf Kod AI Humanis Microsoft dijangka membimbing pembangunan model mulai 2027 dan menetapkan bahawa model mesti kekal di bawah kawalan manusia yang bermakna, termasuk tidak menentang gangguan, pembetulan atau penutupan. Konsultasi awam selama enam minggu bermula pada 14 September 2026. Microsoft merancang menerbitkan versi yang disemak menjelang penghujung tahun.
What should I do next in practice?
Dasar ini menyerlahkan perbezaan pendekatan tadbir urus AI: Microsoft menyokong kekangan jelas yang tidak boleh diketepikan, manakala Mark Zuckerberg dari Meta berhujah persaingan dan liabiliti sudah mendorong syarika...
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models