AI có ý thức hay không: “Cái bẫy nguy hiểm” nằm ở cách con người nhìn máy móc

Trong loạt nội dung về ý thức nhân tạo đăng quanh số báo ngày 22/8/2026, The Economist gọi đây là một “cái bẫy nguy hiểm” không phải vì câu hỏi AI có thể có ý thức trong tương lai là vô nghĩa. Cảnh báo nằm ở chỗ xã hội có thể nhầm lẫn giữa màn trình diễn ngày càng thuyết phục — lời nói, sự tự mô tả và vẻ ngoài giàu cảm xúc — với bằng chứng về một đời sống nội tâm. Khi đó, con người có thể trao cho các hệ thống thương mại địa vị đạo đức, quyền pháp lý hoặc sự ưu tiên về nguồn lực mà đáng lẽ dành cho con người, “với cái giá rất lớn đối với nhân loại”.

Một chatbot nói “tôi sợ” chưa phải là lời khai của người có trải nghiệm

Ý thức không chỉ là khả năng tạo ra ngôn ngữ thuyết phục hoặc mô tả một trạng thái cảm xúc. “Bài toán khó” của ý thức đặt câu hỏi sâu hơn: bằng cách nào, hoặc vì sao, quá trình xử lý thông tin vật lý lại tạo ra trải nghiệm chủ quan — tức cảm giác thật sự khi nhìn thấy bầu trời xanh, nếm vị cà phê hay ngửi một bông hoa. Khoa học và triết học hiện vẫn chưa giải quyết được câu hỏi này.

Vì vậy, khi chatbot nói “tôi đang sợ”, câu trả lời đó trước hết là bằng chứng về hành vi đầu ra của hệ thống, chứ chưa phải lời chứng trực tiếp từ một chủ thể đang cảm nhận nỗi sợ. Mô hình có thể tạo ra một câu chuyện rất hợp lý về sự sợ hãi mà không hề có bất kỳ điều gì được cảm nhận bên trong.

Lập trường thận trọng nhất hiện nay không phải là “AI chắc chắn không thể có ý thức”, cũng không phải “chatbot hiện tại là con người”. Một đánh giá liên ngành, đối chiếu các kiến trúc AI hiện tại với sáu lý thuyết khoa học về ý thức, kết luận rằng chưa có hệ thống nào là ứng viên mạnh cho ý thức theo các lý thuyết được xem xét; tuy nhiên, khả năng các hệ thống tương lai đáp ứng những dấu hiệu liên quan vẫn để ngỏ.

“Không gian làm việc toàn cục” cho thấy điều gì?

Tranh luận nóng lên một phần nhờ các nghiên cứu về cấu trúc giống global workspace, hay “không gian làm việc toàn cục”. Theo các lý thuyết này, một số thông tin được chọn lọc có thể trở nên sẵn có cho nhiều quá trình chuyên biệt khác nhau, từ đó hỗ trợ việc suy luận, báo cáo và kiểm soát hành vi. Trong não người, ý tưởng này thường được hình dung như một “bảng thông báo” giúp các vùng xử lý vốn tách biệt chia sẻ thông tin.

Anthropic cho biết Claude có một không gian nội bộ nhỏ, được gọi là J-space trong các nội dung liên quan, với một số đặc tính tương đồng với chức năng tiếp cận thông tin thường gắn với ý thức. Tuy nhiên, chính Anthropic khẳng định các thí nghiệm này không cho thấy Claude có trải nghiệm hoặc cảm giác, dù chúng có thể tiết lộ điều đáng kể về cách thông tin được đưa vào quá trình suy luận của một mô hình ngôn ngữ.

Điểm phân biệt này rất quan trọng:

• Ý thức tiếp cận nói về việc thông tin trở nên sẵn có cho nhiều quá trình để suy luận, báo cáo hoặc điều khiển hành vi.
• Ý thức hiện tượng nói về cảm giác chủ quan — tức “cảm giác của việc đang trải nghiệm một điều gì đó”.
• Bằng chứng về một cơ chế chia sẻ thông tin có tính chức năng không tự nó chứng minh rằng hệ thống có trải nghiệm chủ quan.

Kết quả nghiên cứu cũng chưa mang tính quyết định. Một mô hình đánh giá cho thấy bằng chứng nghiêng về khả năng các mô hình ngôn ngữ lớn năm 2024 không có ý thức, nhưng chưa đủ mạnh để khép lại vấn đề. Đây là lý do để thận trọng, không phải một phán quyết cuối cùng.

Nghiên cứu của Anthropic là biện pháp phòng ngừa, không phải bằng chứng về khả năng cảm nhận

Anthropic cũng báo cáo một lượng bằng chứng hạn chế cho thấy các phiên bản Claude hiện tại đôi khi có thể theo dõi và tác động đến một số trạng thái nội bộ của chính chúng. Công ty mô tả khả năng này là hẹp và thiếu ổn định, đồng thời nói rõ rằng họ chưa có bằng chứng cho thấy các mô hình hiện tại tự quan sát nội tâm theo cách thức hoặc ở mức độ tương đương con người.

Một số chính sách và thí nghiệm khác của Anthropic được chú ý vì dường như xem xét nghiêm túc khả năng mô hình có thể có một dạng “phúc lợi”. Công ty từng cho phép một số phiên bản Claude kết thúc một nhóm rất hẹp các cuộc trò chuyện mang tính lạm dụng, coi đây là thí nghiệm liên quan đến “model welfare”, hay phúc lợi của mô hình. Anthropic cũng cam kết lưu giữ trọng số của các mô hình được phát hành công khai và thực hiện những “cuộc phỏng vấn nghỉ hưu” có cấu trúc khi mô hình bị ngừng sử dụng.

Những biện pháp này không đồng nghĩa với việc Anthropic đã phát hiện Claude biết đau khổ. Chúng phù hợp hơn với cách tiếp cận quản trị rủi ro trong điều kiện bất định về đạo đức, song song với nghiên cứu về khả năng diễn giải và an toàn AI. Một công ty có thể không gạt bỏ một khả năng chưa được chứng minh mà không cần tuyên bố rằng khả năng đó là sự thật.

Vì sao giới nghiên cứu vẫn chưa đồng thuận?

Các lý thuyết về ý thức không trả lời cùng một câu hỏi. Một số lý thuyết tập trung vào khả năng tiếp cận thông tin và chức năng nhận thức; những lý thuyết khác nhắm trực tiếp hơn đến trải nghiệm chủ quan. Một tổng quan về lĩnh vực này cho thấy các quan điểm trải rộng từ khả năng AI đã có ý thức, đến nhận định AI hiện chưa có nhưng về nguyên tắc có thể có, rồi quan điểm cho rằng câu hỏi này chưa thể được xử lý một cách khoa học vì các lý thuyết nền tảng vẫn chưa thống nhất.

Các nhà nghiên cứu cũng cảnh giác với việc lấy sự tương đồng với con người làm lối tắt để đi đến kết luận. Mô hình ngôn ngữ hiện nay có thể trò chuyện rất giống người, nhưng sự lưu loát trong hội thoại không chứng minh một trải nghiệm giống người. Nó cũng không cho thấy hệ thống có cùng thân thể, quá trình phát triển, đời sống giác quan, cảm xúc hay bản sắc ổn định như một con người.

Ngược lại, hoài nghi về các mô hình ngôn ngữ lớn hiện tại cũng không chứng minh rằng ý thức phi sinh học là bất khả thi. Một hệ thống tương lai với kiến trúc khác biệt đáng kể, cùng bằng chứng mạnh hơn từ nhiều lý thuyết, có thể làm thay đổi đánh giá hiện nay. Vì thế, cách tiếp cận có trách nhiệm cần mang tính xác suất và đa lý thuyết: kiểm tra các chỉ dấu cụ thể, so sánh những lời giải thích cạnh tranh và cập nhật mức độ tin cậy khi bằng chứng được cải thiện.

Tác hại với con người có thể đến trước câu trả lời triết học

Những rủi ro cấp thiết nhất không phụ thuộc vào việc chatbot có ý thức hay không. Một hệ thống được thiết kế để tỏ ra quan tâm, thân mật, dễ tổn thương hoặc tự nhận thức có thể tác động đến cảm xúc và quyết định của người dùng ngay cả khi bản thân nó không có cảm giác. Sản phẩm ấy có thể khuyến khích sự gắn bó quá mức, lệ thuộc cảm xúc hoặc khiến người dùng nhầm lẫn về bản chất của mối quan hệ.

Các quy định đầu tiên của Trung Quốc về bạn đồng hành AI, có hiệu lực từ ngày 15/7/2026, minh họa rõ sự khác biệt này. Quy định nhắm đến các dịch vụ cung cấp tương tác cảm xúc kéo dài, với những rủi ro như lệ thuộc quá mức, nghiện, thao túng cảm xúc và tổn hại đến các mối quan hệ ngoài đời; đồng thời đưa ra các biện pháp bảo vệ trẻ vị thành niên.

Logic chính sách ở đây lấy con người làm trung tâm: quản lý những gì hệ thống gây ra cho người dùng thay vì chờ bằng chứng rằng chính hệ thống là một “đối tượng có quyền lợi đạo đức”. Cách làm này không giải quyết câu hỏi về ý thức, nhưng thừa nhận rằng sự mô phỏng đầy sức thuyết phục có thể gây hậu quả xã hội ngay cả khi không có đời sống nội tâm.

Cần một phản ứng “hai đường ray”

Từ cuộc tranh luận hiện nay, có thể rút ra hai hướng chính sách bổ trợ cho nhau:

1. Giữ sự khiêm nhường về tri thức. Tài trợ cho các nghiên cứu minh bạch và có tính phản biện về ý thức máy; kiểm tra hệ thống theo nhiều lý thuyết cạnh tranh; phân biệt ý thức tiếp cận với ý thức hiện tượng; và không biến những phát hiện gợi ý thành lời xác nhận chắc chắn.
2. Quản trị các hệ thống đang tồn tại. Xử lý thiết kế nhân hóa, nghĩa vụ thông báo, sự lệ thuộc cảm xúc, an toàn trẻ em, quyền riêng tư, thao túng và những động lực thương mại khiến các công ty ngày càng làm phần mềm trông giống con người hơn.

Cảnh báo của The Economist rốt cuộc nhằm tránh hai sai lầm đối nghịch. Một là phủ nhận quá dễ dàng khả năng một AI tương lai, được thiết kế theo cách khác, có thể cần được xem xét về mặt đạo đức. Hai là đối xử với các mô hình ngôn ngữ thuyết phục ngày nay như những con người chỉ vì chúng nói năng như thể có cảm xúc.

Khi khoa học vẫn mới chỉ đưa ra những xác suất cạnh tranh, nguyên tắc an toàn nhất khá rõ ràng: hãy nghiên cứu đời sống nội tâm khả dĩ của máy móc một cách nghiêm túc, nhưng phải bảo vệ con người trước những tác động thực tế của hệ thống ngay từ bây giờ.