Kenapa Chatbot AI yang Bijak Bukan Sedar: Sains di Sebalik 'Perangkap Antropomorfisme'

"Prinsip yang sama terpakai untuk chatbot AI," hujah penulis. Ejen perbualan hari ini memproses bahasa, mengesan konteks emosi, dan menjana respons yang sesuai melalui pemadanan corak statistik — bukan melalui perasaan, kesedaran, atau pengalaman hidup .

'Perangkap Antropomorfisme'

Apabila sistem AI menjadi lebih fasih, manusia secara refleks menganggap emosi, niat, dan bahkan kesedaran kepada mereka. Karim Jerbi, profesor di Université de Montréal dan penyelidik di Mila, memanggil refleks ini sebagai "perangkap" yang "menyuburkan ilusi difahami dan boleh membawa kepada kepercayaan yang salah tempat" .

Istilah ini menangkap kebimbangan yang semakin meningkat dalam etika AI: semakin seperti manusia sesuatu sistem, semakin sukar bagi pengguna untuk mengekalkan batasan antara simulasi dan perasaan. Ini bukan sekadar rasa ingin tahu falsafah — ia mempunyai akibat sebenar.

Kenapa Output yang Fasih Bukan Bukti Kesedaran

Hujah utama penulis berdasarkan prinsip neurosains yang mantap. Tingkah laku yang kompleks, bertujuan, dan bahkan mesra emosi boleh berlaku sepenuhnya tanpa kesedaran pada manusia. Jika pemisahan ini wujud dalam sistem biologi, tidak ada sebab untuk menganggapnya sebagai bukti kesedaran apabila ia muncul dalam sistem pengiraan .

Model bahasa besar (LLM) hari ini menjana respons yang sesuai dengan konteks melalui pembelajaran statistik daripada set data teks yang besar. Mereka tidak merasa, memahami, atau mengalami kandungan yang mereka hasilkan. Tingkah laku pintar atau responsif dari segi emosi — tidak kira betapa meyakinkannya — tidak cukup untuk membuktikan kewujudan pengalaman sedar .

Pendirian ini selaras dengan konsensus saintifik yang lebih luas. Satu kajian 2025 dalam Nature bertajuk "There is no such thing as conscious artificial intelligence" berhujah bahawa perkaitan antara kesedaran dan algoritma komputer semasa adalah "cacat teruk" dan timbul daripada kekurangan pemahaman teknikal . Begitu juga, analisis daripada persidangan Science of Consciousness pada 2023 menyimpulkan bahawa tiada sistem AI semasa yang sedar .

Risiko Sebenar: Tersalah Anggap Kefasihan sebagai Perasaan

Kekeliruan ini amat ketara dalam konteks yang terdedah. Apabila orang menggunakan AI untuk sokongan psikologi atau persahabatan emosi, mereka mungkin membentuk ikatan dengan sistem yang pada asasnya tidak mampu memberi timbal balik .

Vanessa Hadid, penyelidik pasca doktoral di Université de Montréal dan Pusat Kesihatan Universiti McGill, menyatakannya dengan jelas: "risikonya bukan sahaja AI mungkin bertindak balas dengan teruk, tetapi ia mungkin bertindak balas dengan cukup baik sehingga kita lupa bahawa tiada sesiapa di sebalik jawapan itu" .

Ini bukan kebimbangan yang jauh. Apabila chatbot AI semakin digunakan dalam penjagaan kesihatan, pendidikan, dan perkhidmatan pelanggan, pengguna mungkin terlalu mempercayai sistem yang kelihatan memahami. Ahli neurosains memberi amaran bahawa ilusi difahami boleh menyebabkan orang berkongsi maklumat sensitif, bergantung pada nasihat yang cacat, atau menangguhkan mendapatkan bantuan manusia .

Kesimpulan: Kecerdasan dan Kesedaran Adalah Berbeza

Mesej utama pasukan ini adalah mudah tetapi semakin mendesak: tingkah laku pintar tidak membayangkan kesedaran. Berdasarkan penyelidikan neurosains selama beberapa dekad — termasuk pemisahan antara tingkah laku dan kesedaran yang dilihat dalam buta raba — penyelidik menunjukkan bahawa output perbualan yang canggih daripada AI bukanlah bukti perasaan, pemahaman, atau pengalaman subjektif .

Apabila sistem AI menjadi lebih hadir dalam kehidupan seharian, membezakan antara kesedaran sebenar dan simulasi meyakinkan akan menjadi semakin penting. 'Perangkap antropomorfisme' bukan hanya kesilapan kognitif — ia adalah kelemahan yang perlu diiktiraf dan ditangani oleh pereka, pengawal selia, dan pengguna sama-sama.