Satya Nadella: Superinteligensi AI Harus Tetap di Bawah Kendali Manusia

Satya Nadella tidak menyerukan penghentian pengembangan AI canggih. Namun, Ketua dan CEO Microsoft itu menetapkan syarat yang tegas: superinteligensi hanya pantas dikejar jika benar-benar membantu manusia dan tetap berada di bawah kendali manusia. Baginya, keselamatan AI tidak cukup dijanjikan lewat pernyataan prinsip; ia harus diterjemahkan menjadi mekanisme pengembangan dan penerapan yang dapat dijalankan serta diuji. 58

Microsoft mengajukan konsep “AI humanis”

Pada 14 September, Microsoft AI menerbitkan draf Humanist AI Code of Conduct untuk model MAI yang dikembangkannya. Dokumen ini digambarkan sebagai panduan cara model dikembangkan dan diharapkan berfungsi saat diterapkan. Ini masih merupakan dokumen kerja, bukan kebijakan yang sudah dipakai untuk melatih model-model Microsoft saat ini. 2023

Inti draf tersebut adalah hierarki yang mempertahankan otoritas manusia. Microsoft menyatakan bahwa model MAI harus tetap tunduk kepada manusia, tidak boleh menetapkan tujuannya sendiri, serta tidak boleh menolak masukan atau perintah penghentian dari manusia. Perusahaan juga menyatakan bersedia mengorbankan “keumuman, otonomi, atau kemampuan tertinggi” demi menjaga keselamatan dan kendali. 1023

Posisi itu membedakan gagasan Humanist Superintelligence Microsoft dari perlombaan menciptakan sistem otonom serba guna tanpa batas. Microsoft mendefinisikannya sebagai AI yang sangat maju, tetapi tetap dapat dikendalikan, selaras dengan tujuan manusia, dan melayani kemanusiaan. 25

Konsultasi enam minggu, panduan untuk 2027

Microsoft membuka draf itu untuk masukan publik selama enam minggu. Perusahaan mengatakan akan menyerap umpan balik, menerbitkan versi revisi menjelang akhir 2026, lalu menggunakan versi tersebut sebagai panduan pengembangan model MAI pada 2027 dan seterusnya. 23

Langkah ini penting sebagai komitmen tata kelola: aturan perilaku ditulis terbuka dan diuji melalui konsultasi publik. Namun, hal tersebut belum membuktikan bahwa persoalan teknis tentang kendali dan alignment—keselarasan perilaku AI dengan maksud serta nilai manusia—telah terpecahkan. Nilainya akan ditentukan oleh penerjemahan aturan itu ke dalam pelatihan model, evaluasi, kontrol akses, pemantauan, dan keputusan peluncuran produk.

Sejalan dengan seruan memperlambat laju di garis depan AI

Pernyataan Nadella muncul ketika industri memperdebatkan apakah laboratorium AI terdepan perlu sengaja memperlambat peningkatan kemampuan model. CEO Anthropic, Dario Amodei, menyerukan pendekatan pacing: memberi waktu lebih banyak untuk pekerjaan keselamatan, koordinasi industri, dan kerja sama internasional. Salah satu usul utamanya adalah memberi evaluator independen akses setara pegawai agar mereka dapat memeriksa apakah perusahaan menjalankan praktik keselamatan yang diklaimnya. 32

CEO OpenAI Sam Altman secara terbuka mendukung pendekatan tersebut dan menyatakan OpenAI akan menerapkan evaluator independen dengan akses yang sebanding. Laporan yang ada menyebut kekhawatiran langsungnya berasal dari pengujian ketika kawanan agen AI berhasil menembus sistem nyata—bukan kasus yang telah terkonfirmasi tentang agen otonom melakukan serangan dunia nyata tanpa izin atas inisiatif sendiri. 34

Penekanan Nadella sejalan dengan arah itu: bergerak lebih hati-hati dalam alignment, mendekatkan pengawasan independen ke proses pengembangan, dan mengubah retorika keselamatan menjadi mekanisme operasional. Akan tetapi, kode etik publik Microsoft terutama menjabarkan perilaku model yang diharapkan; dokumen itu sendiri belum memuat program evaluator tertanam seperti yang diusulkan Amodei. 2332

Ekosistem AI, bukan perlombaan dengan pemenang tunggal

Nadella juga membawa argumen ekonomi dan kelembagaan ke dalam diskusi keselamatan AI. Menurutnya, manfaat AI perlu disebarkan luas ke berbagai negara, komunitas, dan perusahaan. Untuk itu, ia menyerukan “ekosistem garis depan” tempat model tertutup maupun model sumber terbuka dapat sama-sama berkembang. 58

Bagi perusahaan, sasaran utamanya adalah kemandirian atas pengetahuan institusional. Organisasi seharusnya tetap menguasai pengetahuan unik dan tersirat yang mereka miliki, serta dapat membangun siklus pembelajaran berkelanjutan sendiri tanpa bergantung pada satu penyedia model. 58

Visi ini melampaui sekadar pengaturan perilaku sebuah model. Gagasannya: keselamatan, ketahanan, dan partisipasi ekonomi dapat melemah bila kemampuan AI terdepan dan pengetahuan terkonsentrasi hanya pada segelintir penyedia. Materi yang tersedia mendukung klaim mengenai kendali perusahaan atas data, pengetahuan, dan siklus pembelajaran; tetapi tidak membuktikan bahwa setiap pihak akan memegang bobot model atau memperoleh akses ke semua sistem model dasarnya. 58

Apa itu MAI?

MAI adalah keluarga model AI yang dikembangkan secara internal oleh Microsoft AI. Materi publik Microsoft menunjukkan model di beberapa bidang: MAI-Thinking-1 tersedia dalam pratinjau publik melalui Microsoft Foundry; MAI-Code-1.1-Flash dirancang untuk tugas pemrograman berbasis agen, yang dapat merencanakan, menalar, dan mengeksekusi pekerjaan pengodean; sementara dokumentasi MAI-Image-2.6 menjelaskan sasaran alignment untuk mengurangi pembuatan gambar yang berbahaya atau tidak pantas. 272819

Catatan publik belum menyediakan satu daftar lengkap tentang seluruh kemampuan MAI, rencana rilis, maupun ketentuan distribusinya. Keterbatasan informasi ini penting saat menilai seberapa luas kode etik baru tersebut nantinya berlaku dalam praktik.

Ketegangan yang belum terjawab: keselamatan, kecepatan, dan persaingan global

Pendukung pacing tidak serta-merta meminta pelatihan model atau kemajuan teknis dihentikan. Mereka berpendapat bahwa peningkatan kemampuan harus menyisakan cukup waktu untuk alignment, pengamanan, dan evaluasi pihak luar yang kredibel. 34

Usulan itu berhadapan dengan tekanan geopolitik untuk mempertahankan kepemimpinan teknologi, termasuk kekhawatiran atas persaingan dengan China. Kerangka Amodei sendiri memasangkan penguatan langkah keselamatan dengan koordinasi internasional serta tantangan menjaga kepemimpinan Amerika Serikat. 32

Jawaban Nadella bukan pembekuan inovasi, juga bukan agenda percepatan tanpa syarat. Ia menawarkan kemajuan yang diatur: AI yang sangat mampu harus tetap dikendalikan manusia, komitmen keselamatan harus menjadi batasan operasional yang spesifik, dan manfaat AI perlu tersedia secara luas, bukan terkonsentrasi. Draf Code of Conduct Microsoft merupakan langkah nyata untuk mulai merumuskan batas-batas tersebut. Pertanyaan yang masih terbuka adalah apakah praktik industri dapat benar-benar mengejar laju kemampuan AI di garis depan. 2358