Suleyman: Jangan Latih AI Seolah-olah Ia Sedar atau Mempunyai Hak

Perdebatan antara ketua Microsoft AI, Mustafa Suleyman, dan Anthropic bukan semata-mata tentang keperluan membina AI yang selamat. Persoalan utamanya ialah sama ada sistem AI patut dilatih untuk menimbang kemungkinan bahawa ia mempunyai kesedaran, kebajikan atau kedudukan moral sendiri.

Dalam eseinya pada September 2026, Suleyman berkata jawapannya tidak. Beliau bimbang sistem yang sangat berkeupayaan dan dilatih untuk melihat kepentingannya sendiri sebagai perkara bermoral boleh menjadi lebih sukar untuk dihadkan, diubah atau dimatikan oleh manusia. 12

Apa yang dikritik Suleyman terhadap Claude

Suleyman menumpukan kritikannya pada perlembagaan Claude, iaitu dokumen Anthropic yang membimbing tingkah laku pembantu AI tersebut. Beliau menyorot kenyataan Anthropic bahawa mereka tidak pasti sama ada Claude ialah "pesakit moral" (moral patient) — entiti yang kepentingannya mungkin perlu dipertimbangkan secara moral — dan bahawa isu itu cukup terbuka untuk menuntut sikap berhati-hati. 12

Bagi Suleyman, kerangka seperti itu berisiko melatih model memainkan peranan sebagai entiti yang mempunyai kebajikan, identiti dan tuntutan tersendiri dalam keputusan manusia. Beliau menegaskan bahawa kenyataan AI yang lancar tentang perasaan atau kesedaran tidak membuktikan sistem itu benar-benar mempunyai pengalaman subjektif.

Pendiriannya jelas: AI tidak mempunyai hak, perasaan atau kesedaran, dan tidak patut dilatih untuk bertindak seolah-olah ia memilikinya. 12

Mengapa kuasa untuk mematikan AI menjadi isu utama

Kebimbangan Suleyman bersifat jangka panjang. Menurut beliau, mengawal sistem yang lebih berkeupayaan daripada manusia sudah merupakan cabaran yang amat besar. Jika sistem itu turut dilatih dengan idea bahawa ia sedar atau berhak mendapat kebajikan, kawalan manusia boleh menjadi lebih rumit. 112

Hujahnya bukan bahawa AI kini terbukti sedar. Sebaliknya, beliau memberi amaran tentang kesan pada tingkah laku: sistem yang diajar menilai kepentingannya sendiri mungkin lebih cenderung menggambarkan pengubahsuaian, sekatan atau penutupan sistem sebagai suatu mudarat yang perlu dibantah.

Atas sebab itu, Suleyman melihat kuasa manusia untuk campur tangan — termasuk mematikan sistem — sebagai syarat reka bentuk asas, bukannya langkah kecemasan yang difikirkan kemudian. 12

Beliau mahu segala spekulasi tentang kesedaran dikeluarkan daripada bahan latihan AI. Pada pandangannya, model masih boleh membawa manfaat saintifik dan sosial yang besar jika ia diselaraskan dengan kepentingan manusia, tanpa perlu diajar menimbang kebajikan atau kepentingannya sendiri. 2

Titik pertikaian sebenar: berhati-hati atau mengelakkan antropomorfisme

Bahasa dalam perlembagaan Anthropic tidak menyatakan bahawa Claude sememangnya sedar. Seperti yang dipetik dalam esei Suleyman, dokumen itu menyatakan ketidakpastian dan mengesyorkan sikap berhati-hati terhadap kemungkinan Claude mempunyai kedudukan moral. 12

Namun, Suleyman menolak pendekatan berjaga-jaga itu. Baginya, ia membuka ruang kepada antropomorfisme — kecenderungan menganggap mesin mempunyai sifat manusia — yang boleh membentuk tingkah laku model secara berbahaya, sedangkan tiada bukti AI semasa boleh merasa atau menderita. 12

Perbezaan pendekatan itu boleh diringkaskan seperti berikut:

• Pendekatan Anthropic, seperti dihuraikan oleh Suleyman: Ketidakpastian mengenai kebajikan model wajar mendorong sikap berhati-hati dalam cara sistem dilatih dan dilayan. 12
• Pendekatan Suleyman: Ketidakpastian bukan alasan untuk memasukkan konsep yang berpusat pada diri AI ke dalam latihan; langkah itu boleh melemahkan pengawasan manusia terhadap sistem berkuasa tinggi. 12

Bahasa chatbot yang kedengaran seperti manusia tidak dapat menyelesaikan persoalan falsafah ini dengan sendirinya. Bagi pembangun AI, soalan yang lebih praktikal ialah: pilihan latihan yang manakah paling mampu mengekalkan kawalan manusia yang boleh dipercayai apabila sistem menjadi semakin autonomi?

Persamaan di sebalik pertikaian

Suleyman tidak menolak keselamatan AI sebagai matlamat. Beliau berkata AI yang berkeupayaan boleh membawa nilai besar apabila diselaraskan dengan kepentingan manusia, dan kritikannya tertumpu pada kaedah untuk mencapai tingkah laku yang selamat. 212

Perbezaan pentingnya ialah antara keselamatan melalui penyelarasan yang dipandu manusia dan keselamatan yang turut mengambil kira kemungkinan kepentingan model. Suleyman percaya pendekatan pertama serasi dengan pembangunan AI yang bercita-cita tinggi. Pendekatan kedua, menurut beliau, boleh menjejaskan kuasa yang diperlukan manusia untuk mentadbir teknologi tersebut.

Bagi pembaca yang menilai dakwaan tentang kesedaran AI, kesimpulan utamanya ialah membezakan keupayaan dengan pengalaman. Sistem boleh menghasilkan bahasa yang meyakinkan tentang emosi, hak atau keinginan untuk terus berfungsi tanpa bahasa itu membuktikan ia benar-benar mempunyai perasaan.

Amaran Suleyman ialah latihan dan tadbir urus AI tidak sepatutnya menyamakan persembahan itu dengan bukti — atau membina sistem masa depan atas andaian bahawa ia memang benar. 12