Mengapa Chatbot AI yang Fasih Bukan Kesadaran Sejati? Ilmu Saraf Ungkap 'Jebakan Antropomorfisme'

"Prinsip yang sama berlaku untuk chatbot AI," kata penulis. Agen percakapan masa kini memproses bahasa, mendeteksi konteks emosional, dan menghasilkan respons yang tepat melalui pencocokan pola statistik—bukan melalui perasaan, kesadaran, atau pengalaman hidup .

'Jebakan Antropomorfisme'

Seiring sistem AI menjadi lebih fasih, manusia secara refleks menganggap mereka punya emosi, niat, dan bahkan kesadaran. Karim Jerbi, profesor di Université de Montréal dan peneliti di Mila, menyebut refleks ini sebagai "jebakan" yang "memberi makan ilusi tentang dipahami dan dapat menyebabkan kepercayaan yang salah tempat" .

Istilah ini menangkap kekhawatiran yang berkembang dalam etika AI: semakin mirip manusia suatu sistem, semakin sulit bagi pengguna untuk mempertahankan batas antara simulasi dan perasaan. Ini bukan sekadar rasa penasaran filosofis—ini punya konsekuensi nyata.

Mengapa Keluaran yang Fasih Bukan Bukti Kesadaran

Argumen inti penulis didasarkan pada prinsip ilmu saraf yang sudah mapan. Perilaku yang kompleks, memiliki tujuan, dan bahkan peka secara emosional dapat terjadi sepenuhnya tanpa kesadaran pada manusia. Jika pemisahan ini ada dalam sistem biologis, tidak ada alasan untuk memperlakukannya sebagai bukti kesadaran ketika muncul dalam sistem komputasi .

Model bahasa besar (LLM) masa kini menghasilkan respons yang sesuai konteks melalui pembelajaran statistik dari kumpulan data teks yang sangat besar. Mereka tidak merasa, memahami, atau mengalami konten yang mereka hasilkan. Perilaku cerdas atau responsif secara emosional—betapa pun meyakinnya—tidak cukup untuk membuktikan adanya pengalaman sadar .

Posisi ini sejalan dengan konsensus ilmiah yang lebih luas. Sebuah studi tahun 2025 di Nature berjudul "There is no such thing as conscious artificial intelligence" berargumen bahwa hubungan antara kesadaran dan algoritma komputer saat ini "sangat cacat" dan muncul dari kurangnya pemahaman teknis . Demikian pula, analisis dari konferensi Science of Consciousness tahun 2023 menyimpulkan bahwa tidak ada sistem AI saat ini yang sadar .

Risiko Nyata dari Salah Mengartikan Kelancaran sebagai Perasaan

Kebingungan ini sangat akut dalam konteks rentan. Ketika orang menggunakan AI untuk dukungan psikologis atau teman emosional, mereka mungkin membentuk keterikatan dengan sistem yang pada dasarnya tidak mampu memberi timbal balik .

Vanessa Hadid, peneliti pascadoktoral di Université de Montréal dan McGill University Health Centre, mengatakannya dengan tegas: "risikonya bukan hanya AI mungkin merespons dengan buruk, tetapi AI mungkin merespons cukup baik sehingga kita lupa bahwa tidak ada siapa pun di balik jawaban itu" .

Ini bukan kekhawatiran yang jauh. Saat chatbot AI semakin banyak digunakan di layanan kesehatan, pendidikan, dan layanan pelanggan, pengguna cenderung terlalu percaya pada sistem yang tampak memahami. Ilmuwan saraf memperingatkan bahwa ilusi dipahami dapat mendorong orang membagikan informasi sensitif, mengandalkan saran yang salah, atau menunda mencari bantuan manusia .

Intinya: Kecerdasan dan Kesadaran Itu Berbeda

Pesan utama tim ini sederhana namun semakin mendesak: Perilaku cerdas tidak berarti kesadaran. Berdasarkan puluhan tahun ilmu saraf—termasuk pemisahan antara perilaku dan kesadaran yang terlihat pada blindsight—para peneliti menunjukkan bahwa keluaran percakapan yang canggih dari AI bukanlah bukti perasaan, pemahaman, atau pengalaman subjektif .

Seiring sistem AI semakin hadir dalam kehidupan sehari-hari, membedakan antara kesadaran sejati dan simulasi yang meyakinkan akan semakin penting. 'Jebakan antropomorfisme' bukan sekadar kesalahan kognitif—ini adalah kerentanan yang perlu dikenali dan diatasi oleh perancang, regulator, dan pengguna.