Geoffrey Hinton: Rủi ro AI xóa sổ nhân loại 10% trong 10 năm là “không vô lý”

Geoffrey Hinton, nhà khoa học máy tính từng đoạt Nobel và thường được gọi là một trong những người đặt nền móng cho AI hiện đại, nói rằng xác suất 10% AI giết toàn bộ loài người trong 10 năm tới “không phải là một ước tính vô lý”. Tuy vậy, ông lập tức kèm một lưu ý quan trọng: “không ai thực sự biết” cách đưa ra một ước tính xác suất hợp lý. 91012

Vì thế, đây không phải dự báo rằng tuyệt chủng chắc chắn sẽ xảy ra, cũng không phải tuyên bố các chatbot hiện nay đã mang rủi ro như vậy. Lập luận của Hinton mang tính thận trọng: điều gì có thể xảy ra nếu AI trở nên vượt trội rõ rệt so với con người nhưng vẫn khó kiểm soát?

Con số 10% thực sự có ý nghĩa gì?

Trong cuộc phỏng vấn với chương trình Newsnight của BBC, Hinton đồng ý rằng mức 10% là một ước tính không vô lý cho sự kiện AI dẫn tới tuyệt chủng của con người trong vòng một thập kỷ. Lý do cốt lõi của ông là sự bất định: nhân loại chưa từng phải chung sống với các thực thể có thể sớm thông minh hơn mình. 910

Hinton từng đưa ra các đánh giá nghiêm trọng về rủi ro dài hạn. Cuối năm 2024, ông nói AI có xác suất 10%–20% dẫn đến tuyệt chủng nhân loại trong ba thập kỷ; năm 2025, ông mô tả khoảng số này là nhận định theo trực giác, chứ không phải một dự báo được tính toán. 1415

Điểm cần phân biệt là giữa ước tính rủi ro và khẳng định điều không thể tránh khỏi. Theo cách nhìn của Hinton, khi hậu quả tiềm tàng quá lớn, sự thiếu chắc chắn là lý do để thận trọng chứ không phải để yên tâm.

Vì sao AI siêu năng lực khiến ông lo ngại?

Kịch bản được bàn tới không phải một cuộc nổi dậy kiểu phim khoa học viễn tưởng. Nỗi lo của Hinton là một hệ thống AI có năng lực chiến lược và kỹ thuật vượt xa con người có thể gây hỗn loạn hoặc theo đuổi các mục tiêu xung đột với lợi ích của con người.

Các con đường gây hại được đề cập gồm thao túng con người, tạo virus sinh học hoặc virus máy tính, tiến hành tấn công mạng, hay hỗ trợ phá hoại hạ tầng trọng yếu. Đây là những cơ chế rủi ro được giả định đối với các hệ thống tương lai cực kỳ mạnh, không phải năng lực đã được chứng minh của công cụ AI hiện nay. 1011

Phân biệt này rất quan trọng. Evan Hubinger, người phụ trách khoa học căn chỉnh tại Anthropic, nói ông đánh giá rủi ro từ các mô hình hiện tại là thấp. Điều khiến ông lo ngại, tương tự Hinton, là khả năng các hệ thống tương lai trở nên mạnh hơn rất nhiều hoặc tự cải thiện nhanh hơn mức các nhà nghiên cứu có thể quản lý an toàn. 11624

Jacob Coxon và Evan Hubinger: cảnh báo từ Anthropic

Cuộc tranh luận nóng lên sau khi Jacob Coxon rời Anthropic và cả ngành AI. Coxon cho rằng Anthropic và OpenAI đang chạy đua hướng tới siêu trí tuệ có thể tự cải thiện mà chưa hành động đủ trách nhiệm; ông gọi đó là một canh bạc với sinh mạng con người. 317

Coxon không đưa ra dự đoán chính xác rằng nhân loại sẽ chấm dứt vào năm 2030. Tuyên bố hẹp hơn của ông là: những người đang phát triển AI tiền tuyến thực sự tin công nghệ này có thể giết tất cả mọi người trước khi thập kỷ kết thúc. 57

Hubinger công khai ủng hộ mức độ nghiêm trọng của mối lo đó. Ông viết rằng bản thân đánh giá xác suất AI có thể giết toàn bộ con người trong thập kỷ tới là trên 10%, dù Anthropic đang cố gắng hết sức. Điểm then chốt: theo ông, công ty hiện chưa có kế hoạch giải quyết bài toán căn chỉnh cho siêu trí tuệ và cũng chưa cho thấy đang đi đúng hướng để làm được điều đó. 16

“Căn chỉnh AI” là gì?

Căn chỉnh AI (alignment) là bài toán bảo đảm các hệ thống AI tiên tiến hành động một cách đáng tin cậy theo mục tiêu mà con người đặt ra và vẫn có thể kiểm soát, kể cả trong những tình huống mà người tạo ra chúng không lường trước.

Với các nhà nghiên cứu tập trung vào an toàn, vấn đề không chỉ là khiến AI từ chối một yêu cầu xấu. Vấn đề là liệu một hệ thống có quyền tự chủ rộng, được dùng công cụ và sở hữu năng lực vượt ngoài hiểu biết của người vận hành có thể được định hướng an toàn trong môi trường thực tế hay không.

Phát biểu của Hubinger không chứng minh căn chỉnh là bất khả thi. Nhưng nó cho thấy, theo đánh giá của ông, hiện chưa có giải pháp được chứng minh để căn chỉnh AI siêu thông minh trước khi loại hệ thống này có thể xuất hiện. 16

Đồng thuận và bất đồng giữa các chuyên gia

Không có đồng thuận về chính xác con số 10% của Hinton.

Gary Marcus ủng hộ luận điểm thận trọng cốt lõi của Hinton: sẽ là thiếu khôn ngoan nếu phát triển siêu trí tuệ trước khi có đồng thuận khoa học rằng nó có thể được xây dựng một cách an toàn và kiểm soát được. Tuy nhiên, các thông tin được dẫn lại cũng cho thấy Marcus không nhìn thấy một con đường thực tế dẫn đến tuyệt chủng trong tương lai gần. Điều này phản ánh điểm chia rẽ lớn: có thể cùng đồng ý về nhu cầu đặt lan can an toàn mà không cùng tin vào xác suất hay thời điểm xảy ra thảm họa. 1141

Vì vậy, các con số xác suất trong tranh luận này nên được hiểu là nhận định cá nhân của chuyên gia, không phải một phép đo đã được kiểm chứng.

Câu hỏi chính sách thực tế

Điểm chung mạnh nhất không phải là khẳng định AI chắc chắn gây tuyệt chủng. Đó là nhận định rằng nếu tồn tại một khả năng đáng kể con người mất quyền kiểm soát với các hệ thống vượt trội người vận hành, vấn đề này cần được giám sát công khai trước khi tốc độ phát triển vượt qua năng lực bảo đảm an toàn.

Những phát biểu của Hinton, việc Coxon rời ngành và cảnh báo về căn chỉnh của Hubinger đều quy về một câu hỏi chưa có lời giải: xã hội cần đòi hỏi loại bằng chứng nào trước khi triển khai hoặc tiếp tục mở rộng những hệ thống có thể trở nên siêu việt về mặt chiến lược so với con người?

Để đọc đúng cuộc tranh luận, cần tách riêng ba mệnh đề thường bị trộn lẫn:

• AI hiện tại là mối đe dọa tuyệt chủng.
• AI trong tương lai có thể đạt năng lực tạo ra mối đe dọa đó.
• Có thể ước tính chính xác xác suất của kết cục ấy.

Các nguồn dẫn cho thấy mệnh đề thứ hai là một mối lo nghiêm túc được nhiều nhà nghiên cứu nổi bật nêu ra; trong khi Hubinger đánh giá rủi ro từ mô hình hiện tại là thấp, còn Hinton nói bản thân xác suất này không thể được tính toán một cách đáng tin cậy. 11016