Sam Altman: Xem AI như một thẩm quyền tâm linh là rủi ro an toàn

Sam Altman nói ông “rất không thoải mái” khi người ta gán cho các mô hình AI “sức mạnh tôn giáo” hoặc phó mặc phán đoán của con người cho chúng. Ông gọi đây là “một vấn đề an toàn thực sự”. Altman không nêu tên Anthropic trong bài đăng, nhưng phát biểu được đưa ra chỉ vài ngày sau các tin về những cuộc gặp của công ty này với giới nghiên cứu tôn giáo, nên nhiều tường thuật xem đó là lời chỉ trích gián tiếp. 71

Điều cần phân biệt là tìm hiểu cách AI nên hành xử, hay đặt câu hỏi liệu AI có thể có ý thức hay không, không đồng nghĩa với việc đề nghị mọi người xem AI như một thẩm quyền tâm linh. Các tin về Anthropic cho biết công ty đã tìm đến giới nghiên cứu tôn giáo để bàn về cách định hình hành vi đạo đức của Claude và khả năng AI có ý thức. Đồng sáng lập Christopher Olah nói ông thực sự không chắc liệu các mô hình AI có ý thức hay không. 1

Altman cảnh báo điều gì?

Trong bài đăng, Altman gộp hai mối lo: xem AI như thể nó có quyền lực tôn giáo, và giao quyền phán đoán của con người cho một mô hình. Ông gọi sự kết hợp này là rủi ro an toàn. Vì bài viết không nhắc đích danh công ty hay dự án nào, việc cho rằng ông nhắm đến Anthropic là cách diễn giải dựa trên bối cảnh tin tức, chứ không phải lời cáo buộc trực tiếp trong bài đăng. 7

Mối lo này không chỉ xoay quanh tôn giáo. Khi người dùng xem những câu trả lời tự tin, có vẻ giống con người của AI như một nguồn thẩm quyền, họ có thể trao cho mô hình ảnh hưởng lớn hơn mức năng lực đã được chứng minh. Các bài tường thuật ghi nhận cảnh báo của Altman, nhưng không cho biết hiện tượng này phổ biến đến đâu hay đo lường tác động của nó. 67

Vì sao các cuộc gặp của Anthropic gây chú ý?

Anthropic đã tham vấn các học giả tôn giáo về cách định hình hành vi đạo đức của Claude và câu hỏi liệu mô hình AI có thể có ý thức hay không. Những chủ đề này có điểm giao với cảnh báo của Altman, khiến phát biểu của ông được đọc như một phản ứng trước công việc của công ty. 17

Tuy vậy, cần tách việc đặt câu hỏi khỏi việc khẳng định đã có câu trả lời. Olah nói: “Chúng tôi không biết các mô hình AI có ý thức hay không. Tôi không biết. Tôi thực sự chưa chắc chắn.” Việc thảo luận về khả năng có ý thức không chứng minh rằng mô hình có trải nghiệm chủ quan; tham vấn các nhà tư tưởng tôn giáo về hành vi đạo đức cũng không tự động biến mô hình thành một thực thể có địa vị tôn giáo. 1

Ý thức và hành vi đạo đức là hai câu hỏi khác nhau

Một mô hình có thể được thiết kế để làm theo hướng dẫn về cách trả lời, nhưng điều đó không chứng minh nó có đời sống nội tâm. Các cuộc thảo luận được đưa tin về Anthropic chạm đến cả hành vi của Claude lẫn khả năng có ý thức; không nên gộp hai chủ đề thành một kết luận duy nhất. 1

Các tường thuật cũng ghi nhận ý kiến phản đối việc xem mô hình như thể có ý thức trong quá trình huấn luyện: một lãnh đạo AI tại Microsoft cảnh báo cách làm này có thể nguy hiểm. Đây là một mối lo được nêu ra, không phải lời giải cho câu hỏi rộng hơn về ý thức của máy móc. Theo các tin đã đăng, quan điểm của Olah vẫn là ông chưa chắc chắn. 91

Phẩm giá con người và trách nhiệm quản trị AI

Thông điệp về AI trong thông điệp giáo hoàng của Giáo hoàng Leo XIV đặt phẩm giá con người vào trung tâm. Theo các tường thuật về văn kiện, Giáo hoàng kêu gọi giám sát chặt hơn các công ty AI, bảo vệ người lao động trước những xáo trộn và có biện pháp ngăn thông tin giả do AI tạo ra. Những vấn đề này nhấn mạnh tầm quan trọng của việc giữ lợi ích con người và trách nhiệm giải trình ở vị trí trung tâm khi AI được phát triển và sử dụng. 152

OpenAI cũng đang chịu sự giám sát

Cuộc tranh luận diễn ra giữa lúc OpenAI đối mặt với những tin tức riêng. Business Insider đưa tin lãnh đạo an toàn David Robinson rời công ty và chỉ trích hồ sơ an toàn của OpenAI; BBC đưa tin công ty sa thải ba nhà nghiên cứu vì cáo buộc xử lý thông tin sai quy định. Những diễn biến này không trả lời câu hỏi AI có thể có ý thức hay không, nhưng là bối cảnh đáng lưu ý khi đánh giá các tuyên bố và cách quản trị của cả hai công ty. 1226

Kết luận thận trọng nhất không phải là phán quyết về Anthropic hay OpenAI: Altman cảnh báo việc xem mô hình như một thẩm quyền tôn giáo hoặc nhường quyền phán đoán của con người cho chúng. Những cuộc tham vấn được đưa tin của Anthropic đặt ra các câu hỏi liên quan đến hành vi đạo đức của Claude và khả năng có ý thức, nhưng thông tin hiện có không chứng minh rằng các cuộc thảo luận ấy đồng nghĩa với việc trao cho Claude quyền uy tôn giáo — cũng như chưa giải quyết được câu hỏi AI có ý thức hay không. 71