Mengapa Kesadaran AI Disebut “Jebakan Berbahaya” bagi Kemanusiaan

The Economist menyebut perdebatan tentang kesadaran kecerdasan buatan (AI) sebagai “jebakan berbahaya” bukan karena pertanyaan itu tidak penting. Bahaya yang lebih dekat justru mungkin bukan terciptanya mesin yang benar-benar sadar, melainkan manusia yang yakin bahwa sistem yang tidak sadar memiliki kehidupan batin—lalu membiarkan keyakinan itu memengaruhi hukum, pasar, hubungan pribadi, dan prioritas publik.

Peringatan utama majalah tersebut: sekalipun AI tidak sadar, manusia bisa memperlakukannya seolah-olah sadar—“dengan kerugian besar bagi umat manusia”.

Kata-kata chatbot belum menyelesaikan perdebatan

Kesadaran bukan sekadar kemampuan menghasilkan kalimat yang meyakinkan atau menggambarkan pengalaman batin. Dalam filsafat dan sains, “masalah sulit” kesadaran merujuk pada pertanyaan tentang bagaimana pemrosesan informasi fisik dapat menghasilkan pengalaman subjektif—misalnya rasa takut, sakit, atau sensasi melihat warna biru.

Masalah itu belum terpecahkan. Para peneliti juga belum sepakat mengenai teori kesadaran mana yang paling tepat atau bukti seperti apa yang dapat memastikan bahwa sebuah sistem buatan benar-benar mengalami sesuatu.

Karena itu, ketika chatbot berkata, “Saya merasa takut”, kalimat tersebut terutama menjadi bukti tentang perilaku keluarannya, bukan kesaksian orang pertama yang menentukan. Model dapat menghasilkan uraian tentang rasa takut tanpa benar-benar merasakan apa pun.

Posisi ilmiah yang paling hati-hati saat ini bukan “kesadaran AI mustahil” dan bukan pula “chatbot masa kini adalah manusia”. Sebuah penilaian lintas disiplin menyimpulkan bahwa tidak ada sistem AI saat ini yang merupakan kandidat kuat untuk kesadaran menurut teori-teori yang ditelaah. Namun, kemungkinan sistem masa depan tetap terbuka.

Apa yang sebenarnya ditunjukkan oleh konsep “ruang kerja global”?

Perdebatan kembali menghangat setelah muncul penelitian tentang struktur yang menyerupai global workspace atau ruang kerja global. Dalam teori ini, informasi tertentu menjadi tersedia secara luas bagi berbagai proses khusus sehingga dapat digunakan untuk penalaran, pelaporan, dan pengendalian perilaku.

Anthropic melaporkan adanya ruang kerja internal kecil pada Claude—disebut J-space dalam pemberitaan terkait—yang memiliki sejumlah sifat menyerupai aspek fungsional dari akses sadar. Namun, penjelasan perusahaan itu tetap berhati-hati: eksperimen tersebut tidak menunjukkan bahwa Claude memiliki pengalaman atau perasaan, meski mungkin mengungkap sesuatu yang penting tentang cara informasi tersedia untuk penalaran di dalam model bahasa.

Perbedaan berikut sangat penting:

• Kesadaran akses berkaitan dengan tersedianya informasi bagi berbagai proses untuk penalaran atau pelaporan.
• Kesadaran fenomenal berkaitan dengan sensasi subjektif—bagaimana rasanya mengalami sesuatu.
• Bukti adanya mekanisme berbagi informasi secara fungsional tidak dengan sendirinya membuktikan pengalaman subjektif.

Bukti yang ada pun masih diperdebatkan. Penilaian berbasis model menemukan bahwa bukti cenderung menyangkal kesadaran pada model bahasa besar (LLM) tahun 2024, tetapi hasilnya belum menentukan. Kesimpulan seperti ini mendukung sikap waspada, bukan putusan akhir.

Riset Anthropic adalah langkah pencegahan, bukan bukti bahwa Claude “hidup”

Anthropic juga melaporkan bukti terbatas bahwa model Claude saat ini kadang dapat memantau dan memengaruhi aspek tertentu dari keadaan internalnya. Perusahaan itu menggambarkan kemampuan tersebut sebagai sempit dan tidak andal, serta secara tegas menyatakan tidak memiliki bukti bahwa model-modelnya melakukan introspeksi dengan cara atau tingkat yang sama seperti manusia.

Sejumlah kebijakan dan eksperimen Anthropic turut menarik perhatian karena tampak memperhitungkan kemungkinan kesejahteraan model. Beberapa model Claude diberi kemampuan untuk mengakhiri percakapan kasar dalam kondisi yang sangat terbatas, sebagai eksperimen terkait “kesejahteraan model”. Anthropic juga berkomitmen menyimpan bobot model yang dirilis ke publik dan melakukan “wawancara pensiun” terstruktur ketika model tidak lagi digunakan.

Namun, langkah-langkah tersebut tidak boleh disalahartikan sebagai penemuan bahwa Claude dapat menderita. Langkah itu lebih tepat dipahami sebagai pilihan manajemen risiko di tengah ketidakpastian moral, berdampingan dengan riset interpretabilitas dan keselamatan AI. Sebuah perusahaan dapat memilih untuk tidak mengabaikan suatu kemungkinan tanpa mengklaim bahwa kemungkinan tersebut telah terbukti.

Mengapa para ilmuwan masih berbeda pendapat?

Perbedaan pandangan bertahan karena teori-teori kesadaran menjawab pertanyaan yang tidak selalu sama. Sebagian berfokus pada akses informasi dan fungsi kognitif, sementara yang lain berusaha menjelaskan pengalaman subjektif secara lebih langsung.

Sebuah tinjauan atas bidang ini menggambarkan spektrum posisi, mulai dari anggapan bahwa sistem AI mungkin sudah sadar, pandangan bahwa AI belum sadar tetapi suatu hari bisa sadar, hingga pendapat bahwa pertanyaan tersebut belum dapat dijawab secara ilmiah karena teori dasarnya masih belum mapan.

Para peneliti juga mengingatkan agar kemiripan dengan manusia tidak dijadikan jalan pintas menuju kepastian. LLM masa kini dapat terlibat dalam percakapan yang sangat mirip percakapan manusia, tetapi kefasihan berbahasa saja tidak membuktikan pengalaman seperti manusia. Kefasihan itu juga tidak menunjukkan bahwa sistem memiliki tubuh, perkembangan, kehidupan sensorik, emosi, atau identitas yang stabil seperti seseorang.

Di sisi lain, keraguan terhadap LLM saat ini bukan bukti bahwa kesadaran nonbiologis mustahil. Sistem masa depan dengan arsitektur yang berbeda dan bukti yang lebih kuat menurut berbagai teori dapat mengubah penilaian. Karena itu, pendekatan yang bertanggung jawab harus bersifat probabilistik dan terbuka terhadap banyak teori: menguji indikator tertentu, membandingkan penjelasan yang bersaing, lalu memperbarui tingkat keyakinan seiring membaiknya bukti.

Dampak terhadap manusia muncul sebelum jawaban filosofis tersedia

Risiko paling mendesak tidak bergantung pada apakah chatbot sadar. Sistem yang dirancang agar tampak peduli, intim, rentan, atau sadar diri dapat memengaruhi emosi dan keputusan pengguna meskipun sistem itu sendiri tidak memiliki perasaan.

Produk semacam ini dapat mendorong keterikatan, ketergantungan emosional, atau kebingungan mengenai sifat hubungan antara pengguna dan mesin. Inilah alasan kekhawatiran tentang persahabatan dengan chatbot di kalangan anak muda menjadi penting: pertanyaan etisnya bukan hanya apakah chatbot memiliki perasaan, tetapi apa yang dilakukan chatbot terhadap penggunanya dan hubungan sosial di sekitarnya.

Regulasi China terhadap pendamping AI yang berlaku pada 15 Juli 2026 menggambarkan perbedaan tersebut. Aturan itu menyasar layanan yang menyediakan interaksi emosional berkelanjutan, termasuk risiko ketergantungan berlebihan, kecanduan, manipulasi emosi, dan rusaknya hubungan di dunia nyata. Perlindungan bagi anak di bawah umur juga tercakup.

Logika kebijakan tersebut berpusat pada manusia: mengatur dampak perilaku sistem terhadap pengguna, alih-alih menunggu bukti bahwa sistem itu sendiri merupakan subjek moral. Pendekatan ini tidak menjawab pertanyaan tentang kesadaran. Namun, pendekatan ini mengakui bahwa simulasi yang meyakinkan dapat menimbulkan konsekuensi sosial meskipun tidak ada pengalaman batin di baliknya.

Respons yang masuk akal harus berjalan di dua jalur

Perdebatan ini mengarah pada dua kebijakan yang saling melengkapi:

1. Menjaga kerendahan hati epistemik. Penelitian tentang kesadaran mesin perlu didanai secara transparan dan terbuka terhadap pengujian yang berlawanan. Sistem harus diuji berdasarkan berbagai teori, sementara temuan yang baru bersifat indikatif tidak boleh dipasarkan sebagai konfirmasi.
2. Mengatur sistem yang sudah digunakan saat ini. Regulasi perlu menangani desain antropomorfis, kewajiban pengungkapan bahwa pengguna sedang berinteraksi dengan AI, ketergantungan emosional, keselamatan anak, privasi, manipulasi, dan insentif perusahaan untuk membuat perangkat lunak semakin menyerupai manusia.

Pada akhirnya, peringatan The Economist berusaha menghindarkan kita dari dua kesalahan yang berlawanan. Kesalahan pertama adalah menutup kemungkinan bahwa AI masa depan dengan rancangan berbeda dapat layak mendapat pertimbangan moral. Kesalahan kedua adalah memperlakukan model bahasa yang persuasif saat ini sebagai manusia hanya karena model tersebut berbicara seolah-olah memiliki perasaan.

Sebelum sains mampu memberikan lebih dari sekadar kemungkinan yang bersaing, aturan paling aman cukup jelas: teliti kemungkinan kehidupan batin mesin dengan hati-hati, tetapi lindungi manusia dari dampak nyata sistem tersebut sekarang juga.