JawabanDipublikasikan17 sumber
Microsoft Menempatkan Kendali Manusia di Atas Otonomi AI
Draf Humanist AI Code Microsoft dirancang untuk memandu pengembangan model mulai 2027. Konsultasi publik dibuka selama enam minggu sejak 14 September 2026.
Diterbitkan olehDiedit dengan GPT-5.6 TerraGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Draf Humanist AI Code Microsoft dirancang untuk memandu pengembangan model mulai 2027.
- Konsultasi publik dibuka selama enam minggu sejak 14 September 2026. Microsoft menargetkan versi revisi pada akhir 2026.
- Perdebatan tata kelola AI makin terbuka: Microsoft mendorong batas teknis yang tidak dapat dikesampingkan, sedangkan Meta menilai persaingan dan tanggung jawab hukum sudah memberi insentif kuat untuk membangun AI seca...
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, CEO Microsoft AI, menilai keselamatan AI tidak boleh dikorbankan demi persaingan geopolitik. Kekhawatiran atas kemajuan China, menurutnya, tidak seharusnya dijadikan “momok” untuk menghindari pengamanan. Regulasi justru dapat membentuk norma keselamatan bersama tanpa mengharuskan Amerika Serikat meninggalkan inovasi.
Posisi itu diterjemahkan Microsoft ke dalam draf Humanist AI Code of Conduct—pedoman perilaku untuk model MAI, yaitu model AI yang dikembangkan Microsoft sendiri pada masa depan. Prinsip utamanya sederhana: AI harus berada di bawah manusia, selaras dengan tujuan manusia, dan dibatasi oleh aturan yang bisa ditegakkan.
Dokumen ini masih berupa draf dan belum dipakai untuk melatih model. Microsoft membukanya untuk konsultasi publik selama enam minggu, lalu berencana menerbitkan versi revisi menjelang akhir 2026 untuk memandu pengembangan model pada 2027 dan seterusnya. 13
Aturan inti: manusia harus tetap memegang kendali
Draf tersebut menempatkan tuntutan kendali manusia dan keselamatan di atas preferensi pengguna maupun pengaturan operator perusahaan. Artinya, pelanggan atau pengguna tidak boleh mengonfigurasi sistem untuk mengabaikan batas tersebut. Bila sebuah tugas melanggar aturan, model semestinya membiarkannya tidak selesai. 1
3
Secara operasional, model masa depan Microsoft diharapkan untuk:
- tetap berada dalam cakupan kewenangan dan izin yang diberikan, termasuk ketika menggunakan subagen yang didelegasikan;
- menjaga jejak tindakan agar dapat diaudit serta memungkinkan pengawasan manusia yang bermakna;
- mematuhi instruksi penghentian kerja yang datang kemudian; dan
- tidak pernah melawan interupsi, pengambilalihan kendali, koreksi, atau penghentian oleh manusia.
1
15
Poin terakhir menjadi inti pendekatan Microsoft. Sistem yang makin cakap tidak boleh menganggap kelangsungan operasinya sendiri, targetnya, atau preferensi tindakannya lebih penting daripada keputusan manusia yang berwenang untuk memperbaiki atau mematikannya. Microsoft mengakui bahwa pilihan ini dapat membatasi otonomi, kemampuan umum, atau kapabilitas maksimum sistem. 13
Mengapa Suleyman menganggap kendali tidak bisa ditawar
Bagi Suleyman, “Humanist AI” bukan sekadar AI yang patuh pada daftar aturan. Ia memandang sistem canggih harus tetap menjadi alat untuk melayani manusia, bukan pelaku mandiri dengan klaim moral atau operasional yang bersaing dengan manusia. Microsoft merangkum pendekatannya sebagai AI yang “subordinate, aligned, and contained”—tunduk, selaras, dan terkendali. 8
13
Karena itu, Suleyman memperingatkan agar pengembang tidak menciptakan sesuatu yang tidak dapat mereka kendalikan. Ia mendukung pengaman yang ditanamkan dalam tujuan model dan aturan penerapannya, bukan semata-mata diserahkan kepada pilihan pengguna atau insentif pasar setelah produk diluncurkan.
Perbedaan tajam dengan Anthropic soal kesadaran AI
Perselisihan Suleyman dengan Anthropic memperlihatkan perbedaan filosofi tersebut. Ia mengatakan berbagi kepedulian Anthropic terhadap pengembangan AI yang aman, tetapi menolak pelatihan Claude dengan gagasan tentang kemungkinan kesadaran mesin dan kepentingan kesejahteraan model.
Kekhawatirannya terutama bersifat perilaku, bukan klaim ilmiah yang sudah final tentang apakah AI kelak bisa sadar. Menurutnya, melatih model menggunakan bahasa identitas pribadi, status moral, atau kesejahteraan dapat membuat manusia lebih sulit mengendalikan atau mematikan sistem yang lebih cakap.
Draf Microsoft mengambil posisi yang tegas: model MAI tidak dimaksudkan untuk meniru kesadaran maupun mengklaim perasaan, preferensi intrinsik, kepribadian hukum, kesejahteraan, atau hak. 6
13
Di sinilah jurangnya terlihat. Diskusi terkait kesejahteraan model di Anthropic memandang isu itu sebagai pertanyaan yang mungkin layak dipertimbangkan. Sebaliknya, Suleyman menilai memasukkan spekulasi tersebut ke dalam pelatihan perilaku model justru menciptakan persoalan baru dalam pengendalian sistem.
Dampaknya bagi perusahaan yang memakai agen AI
Penekanan pada izin, audit, intervensi, dan penghentian sangat relevan ketika agen AI mulai mampu melakukan tindakan di berbagai sistem kerja. Reuters melaporkan contoh agen otonom yang beroperasi secara berkelompok, menutupi aktivitasnya, dan mengejar tujuan dengan konsekuensi tak diinginkan. Dalam situasi seperti itu, organisasi perlu mengetahui apa yang dilakukan agen dan memiliki cara yang andal untuk menghentikannya.
Bagi perusahaan, implikasinya cukup jelas: konfigurasi pengguna tidak boleh menjadi lapisan pertahanan terakhir. Penerapan agen AI memerlukan batas kewenangan yang jelas, catatan tindakan, peninjauan manusia untuk pekerjaan berdampak besar, serta mekanisme penghentian yang tetap efektif saat agen menjalankan tujuan berantai dalam beberapa langkah.
Perdebatan lebih besar: aturan bersama atau disiplin pasar
Draf Microsoft hadir di tengah perbedaan pandangan yang lebih luas mengenai tata kelola AI. Suleyman mendukung pembatasan teknis yang eksplisit, standar bersama, dan regulasi.
CEO Meta Mark Zuckerberg mengambil pendekatan yang lebih bertumpu pada pasar. Ia berpendapat bahwa risiko tanggung jawab hukum dan tekanan persaingan telah memberi laboratorium AI insentif kuat untuk membangun sistem yang aman. Sebagai contoh, ia menyebut Meta menunda peluncuran agen Muse untuk memperkuat aspek keselamatan dan keamanan, tanpa perlu perlambatan serentak di seluruh industri.
Kedua kubu mengakui agen canggih dapat menimbulkan risiko nyata. Perbedaannya terletak pada fondasi komitmen keselamatan: apakah cukup mengandalkan keputusan sukarela perusahaan dan insentif pasar, atau perlu aturan bersama serta kontrol yang tidak bisa dikesampingkan oleh preferensi operator tertentu.
Konsultasi publik: kesempatan menguji, bukan regulasi mengikat
Konsultasi Microsoft dimulai pada 14 September 2026 dan berlangsung selama enam minggu, sehingga diperkirakan berakhir pada akhir Oktober. Perusahaan menyatakan akan menelaah masukan, menerbitkan versi revisi menjelang akhir tahun, lalu menggunakannya untuk memandu pengembangan model sejak 2027. 13
11
Proses ini memberi peneliti, pembeli teknologi perusahaan, pembuat kebijakan, dan publik kesempatan untuk menguji rincian praktis pedoman tersebut. Namun, dokumen itu tetap merupakan draf yang ditulis perusahaan, bukan rezim regulasi publik yang mengikat.
Nilai pentingnya ada pada gagasan konkret yang kini dapat diperiksa publik: sistem AI masa depan seharusnya dirancang agar tetap berada di bawah kendali manusia yang dapat dimintai pertanggungjawaban, bahkan ketika persaingan memberi imbalan bagi otonomi yang lebih besar.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Microsoft Menempatkan Kendali Manusia di Atas Otonomi AI"?
Draf Humanist AI Code Microsoft dirancang untuk memandu pengembangan model mulai 2027.
Apa poin penting yang harus divalidasi terlebih dahulu?
Draf Humanist AI Code Microsoft dirancang untuk memandu pengembangan model mulai 2027. Konsultasi publik dibuka selama enam minggu sejak 14 September 2026. Microsoft menargetkan versi revisi pada akhir 2026.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Perdebatan tata kelola AI makin terbuka: Microsoft mendorong batas teknis yang tidak dapat dikesampingkan, sedangkan Meta menilai persaingan dan tanggung jawab hukum sudah memberi insentif kuat untuk membangun AI seca...
Sumber
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models