Satya Nadella: Superinteligens Mesti Kekal di Bawah Kawalan Manusia

Satya Nadella tidak berhujah supaya pembangunan AI canggih dihentikan. Sebaliknya, Pengerusi dan Ketua Pegawai Eksekutif Microsoft itu menetapkan syarat yang jelas: usaha membina superinteligens hanya patut diteruskan jika AI tersebut membantu manusia dan benar-benar kekal di bawah kawalan manusia. Bagi beliau, keselamatan bukan sekadar janji umum; ia mesti diterjemahkan kepada mekanisme yang boleh dikuatkuasakan dalam pembangunan dan pelaksanaan sistem. 58

Jawapan Microsoft: AI Humanis

Pada 14 September 2026, Microsoft AI menerbitkan draf Kod Tingkah Laku AI Humanis untuk model MAI yang dibangunkannya. MAI merujuk kepada keluarga model AI dalaman Microsoft. Syarikat itu menyifatkan dokumen tersebut sebagai panduan latihan untuk cara AI dibangunkan serta cara ia sepatutnya berfungsi ketika digunakan. Namun, ia masih dokumen kerja dan belum digunakan untuk melatih model semasa. 2023

Teras draf itu ialah hierarki kuasa yang meletakkan manusia di atas sistem AI. Microsoft menyatakan model MAI perlu kekal sebagai alat yang tunduk kepada manusia, tidak menetapkan matlamat sendiri, dan tidak menentang input manusia atau arahan untuk dimatikan. Syarikat itu juga sanggup mengorbankan tahap keluasan fungsi, autonomi atau keupayaan tertinggi demi keselamatan dan kawalan. 1023

Dalam erti kata lain, idea Superinteligens Humanis Microsoft bukan perlumbaan untuk menghasilkan sistem serba boleh yang bebas bertindak. Microsoft mentakrifkannya sebagai AI yang sangat maju tetapi masih boleh dikawal, sejajar dengan nilai manusia, dan berkhidmat untuk kemanusiaan. 25

Rundingan awam enam minggu, bukan penyelesaian muktamad

Microsoft membuka draf tersebut untuk komen awam selama enam minggu. Maklum balas itu akan digunakan untuk menghasilkan versi disemak pada penghujung 2026, yang kemudiannya dijadual membimbing pembangunan model MAI pada 2027 dan seterusnya. 23

Ini ialah komitmen tadbir urus yang nyata, tetapi bukan bukti bahawa masalah teknikal seperti kawalan dan penjajaran AI sudah diselesaikan. Nilai sebenar kod itu bergantung pada cara prinsipnya diterapkan dalam latihan model, ujian keselamatan, kawalan akses, pemantauan dan keputusan pelaksanaan.

Sejajar dengan seruan memperlahankan kemajuan di sempadan AI

Kenyataan Nadella hadir ketika industri AI berdebat sama ada makmal AI termaju perlu memperlahankan kadar peningkatan keupayaan model. Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru supaya kemajuan AI di peringkat sempadan diperlahankan bagi memberi lebih masa untuk kerja keselamatan, penyelarasan industri dan kerjasama antarabangsa.

Antara cadangan utama Amodei ialah memberi penilai bebas akses setanding pekerja dalaman supaya mereka dapat mengesahkan sama ada syarikat mematuhi amalan keselamatan yang diumumkan. 32

Ketua Pegawai Eksekutif OpenAI, Sam Altman, menyokong idea memperlahankan kemajuan di sempadan dan berkata OpenAI akan menerima penilai bebas dengan akses yang setara. Laporan mengenai kebimbangan segera itu merujuk kepada ujian apabila kumpulan ejen AI menembusi sistem sebenar — bukannya kes yang disahkan bahawa ejen autonomi menjalankan serangan dunia sebenar tanpa kebenaran atas inisiatif sendiri. 34

Penekanan Nadella serasi dengan pendekatan ini: bergerak secara berhati-hati dalam isu penjajaran, membolehkan semakan bebas lebih dekat dengan proses pembangunan, dan menukarkan retorik keselamatan kepada prosedur operasi yang khusus. Namun, kod Microsoft setakat ini terutama menerangkan tingkah laku model yang dihasratkan; ia belum memperincikan program penilai terbina dalam seperti yang dicadangkan Amodei. 2332

Ekosistem AI, bukan perlumbaan yang dikuasai segelintir pihak

Nadella juga mengemukakan hujah ekonomi dan institusi. Menurutnya, manfaat AI perlu disebarkan secara meluas merentas negara, komuniti dan syarikat. Untuk itu, beliau mahu sebuah ekosistem sempadan yang membolehkan model tertutup dan model sumber terbuka berkembang bersama. 58

Bagi organisasi, matlamatnya ialah kebebasan mengawal pengetahuan institusi: syarikat perlu memegang kawalan ke atas pengetahuan unik dan tersirat mereka, serta boleh membina gelung pembelajaran berterusan tanpa bergantung kepada satu pembekal model sahaja. 58

Visi ini lebih luas daripada menetapkan batas tingkah laku sesebuah model. Ia mencadangkan bahawa keselamatan, ketahanan dan penyertaan ekonomi boleh terjejas jika keupayaan AI termaju serta pengetahuan tertumpu pada terlalu sedikit pembekal. Bahan yang ada menyokong tuntutan mengenai kawalan syarikat terhadap data, pengetahuan dan gelung pembelajaran mereka, tetapi tidak membuktikan bahawa setiap peserta akan memiliki pemberat model atau akses kepada semua sistem model asas. 58

Apakah itu MAI?

MAI ialah keluarga model yang dibangunkan secara dalaman oleh Microsoft AI. Rekod awam Microsoft menunjukkan model dalam beberapa bidang: MAI-Thinking-1 tersedia dalam pratonton awam menerusi Microsoft Foundry; MAI-Code-1.1-Flash direka untuk tugasan pengaturcaraan berasaskan ejen; manakala dokumentasi MAI-Image-2.6 menerangkan objektif penjajaran untuk mengurangkan penjanaan imej berbahaya atau tidak sesuai. 272819

Namun, rekod awam tidak menyediakan senarai lengkap tunggal tentang semua keupayaan MAI, rancangan pelancaran atau syarat pengedarannya. Ketidakpastian ini penting apabila menilai sejauh mana kod baharu itu akan terpakai dalam amalan.

Ketegangan yang belum selesai: keselamatan, kelajuan dan persaingan global

Penyokong pendekatan memperlahankan kemajuan tidak semestinya mahu latihan model atau kemajuan teknologi dihentikan. Hujah mereka ialah peningkatan keupayaan perlu memberi ruang masa yang mencukupi untuk kerja penjajaran, langkah perlindungan dan penilaian luar yang boleh dipercayai. 34

Cadangan itu juga berdepan tekanan geopolitik untuk mengekalkan kepimpinan teknologi, termasuk persaingan dengan China. Rangka kerja Amodei sendiri menggabungkan langkah keselamatan yang lebih kukuh dengan kerjasama antarabangsa dan cabaran mengekalkan kepimpinan Amerika Syarikat. 32

Jawapan Nadella bukan pembekuan pembangunan dan bukan juga agenda pecutan tanpa batas. Beliau mengemukakan idea kemajuan yang ditadbir: AI berkeupayaan tinggi mesti terus dikawal manusia, komitmen keselamatan perlu menjadi kekangan operasi yang jelas, dan manfaat AI patut tersebar luas, bukan terkumpul pada segelintir pihak. Draf kod Microsoft ialah langkah penting untuk memperincikan kekangan tersebut. Persoalan yang lebih sukar masih kekal: adakah amalan keselamatan industri mampu bergerak seiring dengan kemajuan keupayaan AI di peringkat sempadan? 2358