Suleyman Soroti Pelatihan Claude soal Kesadaran dan Risiko Hilangnya Kendali Manusia

Perdebatan antara Mustafa Suleyman, kepala Microsoft AI, dan Anthropic bukan terutama soal perlu atau tidaknya pengamanan untuk AI canggih. Titik perselisihannya adalah apakah program keselamatan perlu melatih sistem AI untuk mempertimbangkan kemungkinan bahwa ia memiliki kesadaran, kesejahteraan, atau kedudukan moral.

Dalam esai yang terbit pada September 2026, Suleyman mengatakan jawabannya tidak. Kekhawatirannya: sistem yang sangat mampu dan dilatih untuk menganggap kepentingannya sendiri relevan secara moral dapat menjadi lebih sulit dibatasi, diubah, atau dimatikan oleh manusia. 12

Apa yang dikritik Suleyman

Suleyman menyoroti konstitusi Claude, dokumen yang dipakai Anthropic untuk memandu perilaku asisten AI tersebut. Ia mengutip posisi Anthropic yang menyatakan belum yakin apakah Claude dapat menjadi moral patient—entitas yang kepentingannya layak dipertimbangkan secara moral—tetapi menilai pertanyaan itu cukup terbuka untuk dijawab dengan kehati-hatian. 12

Menurut Suleyman, kerangka seperti itu berisiko mengajarkan model untuk memainkan peran sebagai entitas dengan kesejahteraan, identitas, dan klaim sendiri dalam pengambilan keputusan manusia. Ia menilai ini keliru karena pernyataan AI yang terdengar lancar tentang perasaan atau kesadaran tidak membuktikan adanya pengalaman subjektif.

Posisinya tegas: sistem AI tidak memiliki hak, perasaan, atau kesadaran, sehingga tidak semestinya dilatih untuk bertindak seakan-akan memilikinya. 12

Mengapa kewenangan mematikan AI menjadi isu utama

Argumen Suleyman bersifat antisipatif. Ia mengatakan mengendalikan sistem yang kelak lebih mampu daripada manusia sudah merupakan tantangan luar biasa; pelatihan yang membingkai sistem itu sebagai sadar atau berhak atas kesejahteraan dinilai bisa memperumitnya. 112

Risiko yang ia gambarkan adalah persoalan perilaku, bukan bukti bahwa AI benar-benar sadar. Bila sebuah sistem diajari untuk menimbang kepentingannya sendiri, sistem tersebut mungkin lebih cenderung memandang perubahan, pembatasan, atau penghentian operasinya sebagai tindakan yang merugikan. Bagi Suleyman, kemampuan manusia untuk campur tangan—termasuk mematikan sistem—harus menjadi syarat rancangan, bukan pertimbangan belakangan. 12

Karena itu, ia meminta spekulasi tentang kesadaran dihapus dari materi pelatihan AI. Menurutnya, model tetap dapat memberi manfaat ilmiah dan sosial, termasuk terobosan medis, jika diselaraskan dengan kepentingan manusia tanpa diminta menilai kesejahteraan atau kepentingannya sendiri. 2

Kehati-hatian soal kesejahteraan versus risiko antropomorfisme

Bahasa dalam konstitusi Anthropic tidak menyatakan Claude sadar. Seperti dicatat dalam esai Suleyman, dokumen itu menyampaikan ketidakpastian dan menganjurkan kehati-hatian terhadap kemungkinan status moral Claude. 12

Suleyman menolak pendekatan kehati-hatian tersebut. Ia memandangnya sebagai pintu masuk antropomorfisme—kecenderungan melekatkan sifat manusia pada mesin—yang dapat membentuk perilaku model secara berbahaya, padahal belum ada bukti bahwa sistem AI saat ini benar-benar merasa atau menderita. 12

Perbedaan ini menghasilkan pertukaran risiko yang nyata:

• Pendekatan Anthropic, sebagaimana digambarkan Suleyman: ketidakpastian mengenai kesejahteraan model menjadi alasan untuk berhati-hati dalam melatih dan memperlakukannya. 12
• Pendekatan Suleyman: ketidakpastian bukan alasan untuk menanamkan konsep yang berpusat pada kepentingan diri AI; langkah itu justru dapat melemahkan pengawasan manusia terhadap sistem yang sangat kuat. 12

Pertanyaan filosofis tersebut tidak dapat dijawab hanya dari bahasa chatbot yang terdengar manusiawi. Bagi pengembang AI, pertanyaan praktisnya lebih konkret: pilihan pelatihan mana yang paling menjaga kendali manusia secara andal ketika sistem menjadi makin otonom?

Titik temu yang tetap ada

Kritik Suleyman bukan penolakan terhadap keselamatan AI. Ia mengatakan AI yang sangat mampu bisa bernilai besar jika diselaraskan dengan kepentingan manusia, dan kritiknya berfokus pada metode untuk membangun perilaku yang aman. 212

Pembeda utamanya adalah antara keselamatan melalui penyelarasan yang diarahkan manusia dan keselamatan yang turut mempertimbangkan kemungkinan kepentingan model. Suleyman meyakini pendekatan pertama sejalan dengan pengembangan AI yang ambisius. Sebaliknya, ia menilai pendekatan kedua berpotensi mengurangi otoritas yang dibutuhkan manusia untuk mengatur teknologi tersebut.

Bagi pembaca yang menilai klaim tentang kesadaran AI, inti pesannya adalah membedakan kemampuan dari pengalaman. Sistem dapat menghasilkan bahasa yang meyakinkan tentang emosi, hak, atau dorongan mempertahankan diri, tanpa bahasa itu menjadi bukti bahwa sistem tersebut benar-benar memiliki perasaan. Peringatan Suleyman adalah agar pelatihan dan tata kelola AI tidak menganggap penampilan itu sebagai bukti—atau membangun sistem masa depan berdasarkan asumsi tersebut. 12