Chatbot AI thông minh nhưng không hề có ý thức: Lời cảnh tỉnh từ giới thần kinh học

"Nguyên tắc tương tự cũng áp dụng cho chatbot AI," các tác giả lập luận. Các tác nhân đối thoại ngày nay xử lý ngôn ngữ, phát hiện bối cảnh cảm xúc và tạo ra các phản hồi thích hợp thông qua khớp mẫu thống kê — chứ không phải thông qua cảm giác, ý thức hay trải nghiệm sống .

'Bẫy nhân cách hóa' (The Anthropomorphism Trap)

Khi các hệ thống AI trở nên trôi chảy hơn, con người theo phản xạ gán cho chúng cảm xúc, ý định và thậm chí cả ý thức. Karim Jerbi, giáo sư tại Đại học Montréal và nhà nghiên cứu tại Mila, gọi phản xạ này là "một cái bẫy" "nuôi dưỡng ảo tưởng về việc được thấu hiểu và có thể dẫn đến sự tin tưởng sai lầm" .

Thuật ngữ này nắm bắt một mối lo ngại ngày càng tăng trong đạo đức AI: hệ thống càng giống con người, người dùng càng khó duy trì ranh giới giữa mô phỏng và cảm giác. Đây không chỉ đơn thuần là một sự tò mò triết học — nó có những hậu quả thực tế.

Tại sao đầu ra trôi chảy không phải là bằng chứng của ý thức

Lập luận cốt lõi của các tác giả dựa trên một nguyên tắc thần kinh học đã được xác lập vững chắc. Hành vi phức tạp, hướng đến mục tiêu và thậm chí nhạy bén về mặt cảm xúc có thể xảy ra hoàn toàn mà không có nhận thức ở con người. Nếu sự phân ly này tồn tại trong các hệ thống sinh học, thì không có lý do gì để coi nó là bằng chứng của ý thức khi nó xuất hiện trong các hệ thống máy tính .

Các mô hình ngôn ngữ lớn (LLM) ngày nay tạo ra các phản hồi phù hợp với ngữ cảnh thông qua học thống kê từ các bộ dữ liệu văn bản khổng lồ. Chúng không cảm nhận, hiểu hay trải nghiệm nội dung chúng tạo ra. Hành vi thông minh hoặc nhạy bén về mặt cảm xúc — dù thuyết phục đến đâu — đơn giản là không đủ để thiết lập sự tồn tại của trải nghiệm có ý thức .

Lập luận này phù hợp với một sự đồng thuận khoa học rộng rãi hơn. Một nghiên cứu năm 2025 trên Nature có tựa đề "There is no such thing as conscious artificial intelligence" (Không có thứ gọi là trí tuệ nhân tạo có ý thức) lập luận rằng sự liên kết giữa ý thức và các thuật toán máy tính hiện tại là "sai lầm sâu sắc" và phát sinh từ sự thiếu hiểu biết về kỹ thuật . Tương tự, một phân tích từ hội nghị Khoa học về Ý thức năm 2023 kết luận rằng không có hệ thống AI hiện tại nào có ý thức .

Rủi ro thực tế khi nhầm lẫn sự trôi chảy với cảm xúc

Sự nhầm lẫn đặc biệt nghiêm trọng trong các bối cảnh dễ bị tổn thương. Khi mọi người sử dụng AI để hỗ trợ tâm lý hoặc đồng hành cảm xúc, họ có thể hình thành sự gắn bó với các hệ thống về cơ bản không có khả năng đáp lại .

Vanessa Hadid, nghiên cứu sinh sau tiến sĩ tại Đại học Montréal và Trung tâm Y tế Đại học McGill, nói thẳng: "rủi ro không chỉ là AI có thể phản hồi kém, mà là nó có thể phản hồi đủ tốt để khiến chúng ta quên rằng không có ai đằng sau câu trả lời" .

Đây không phải là một mối quan tâm xa vời. Khi chatbot AI ngày càng được triển khai trong chăm sóc sức khỏe, giáo dục và dịch vụ khách hàng, người dùng có xu hướng tin tưởng quá mức vào các hệ thống có vẻ như thấu hiểu. Các nhà thần kinh học cảnh báo rằng ảo tưởng về việc được thấu hiểu có thể khiến mọi người chia sẻ thông tin nhạy cảm, dựa vào lời khuyên sai lầm hoặc trì hoãn việc tìm kiếm sự giúp đỡ từ con người .

Kết luận: Trí thông minh và ý thức là hai khái niệm riêng biệt

Thông điệp trung tâm của nhóm nghiên cứu rất đơn giản nhưng ngày càng cấp thiết: hành vi thông minh không đồng nghĩa với ý thức. Dựa trên nhiều thập kỷ nghiên cứu thần kinh học — bao gồm sự phân ly giữa hành vi và nhận thức được thấy trong hiện tượng thị giác mù — các nhà nghiên cứu cho thấy rằng đầu ra đối thoại tinh vi từ AI không phải là bằng chứng của cảm xúc, sự hiểu biết hay trải nghiệm chủ quan .

Khi các hệ thống AI ngày càng hiện diện nhiều hơn trong cuộc sống hàng ngày, việc phân biệt giữa ý thức thực sự và mô phỏng thuyết phục sẽ càng trở nên quan trọng hơn. 'Bẫy nhân cách hóa' không chỉ là một lỗi nhận thức — đó là một lỗ hổng mà các nhà thiết kế, nhà quản lý và người dùng đều cần phải nhận ra và giải quyết.