Geoffrey Hinton: Xác suất AI gây tuyệt chủng 10% “không phải là vô lý”

Geoffrey Hinton, người tiên phong về AI và chủ nhân Nobel Vật lý năm 2024, nói rằng xác suất 10% AI gây tuyệt chủng loài người trong thập kỷ tới “không phải là một ước tính vô lý”. Tuy vậy, ông kèm theo một lưu ý then chốt: “không ai thực sự biết cách đưa ra một ước tính hợp lý.” 14

Nói cách khác, Hinton không trình bày con số 10% như một dự báo khoa học đã được hiệu chuẩn. Đây là nhận định chuyên gia trong điều kiện bất định rất lớn: khi hậu quả tiềm tàng ở quy mô cực lớn, không nên gạt bỏ hoàn toàn khả năng đó chỉ vì chưa thể đo lường chính xác.

Vì sao Hinton lo ngại AI

Hinton phân biệt hai nhóm rủi ro liên quan nhưng khác nhau: con người dùng AI vào mục đích xấu, và các hệ thống AI cực mạnh trong tương lai có thể trở nên khó kiểm soát.

Trong bài diễn thuyết Nobel, ông nêu các nguy cơ gần hơn như hệ thống đề xuất tạo ra những “buồng vang” gây chia rẽ, giám sát đại trà, lừa đảo giả mạo qua mạng (phishing), cũng như khả năng AI hỗ trợ tạo virus nguy hiểm hoặc vũ khí sát thương tự quyết định ai là mục tiêu. Ông kêu gọi chính phủ và các tổ chức quốc tế hành động khẩn trương, mạnh mẽ.

Các nhà nghiên cứu an toàn AI lo ngại hệ thống tiên tiến có thể khiến thông tin sai lệch thuyết phục và cá nhân hóa hơn, hỗ trợ kẻ tấn công tìm lỗ hổng phần mềm, hoặc hạ thấp rào cản đối với hành vi lạm dụng sinh học và không gian mạng. Trong kịch bản nghiêm trọng nhất, một hệ thống có năng lực chiến lược, kỹ thuật và vận hành vượt trội có thể tiếp cận nguồn lực hoặc hạ tầng thiết yếu, đồng thời chống lại nỗ lực kiềm chế của con người. 5

“Căn chỉnh AI” là nút thắt của lập luận về nguy cơ tuyệt chủng

Mối quan ngại kỹ thuật trung tâm là căn chỉnh AI (alignment): liệu một hệ thống thông minh hơn con người rất nhiều có thể theo đuổi đúng mục tiêu mà con người đặt ra, chấp nhận được sửa đổi hay can thiệp, và luôn nằm trong các giới hạn có ý nghĩa hay không.

Jacob Coxon, cựu nghiên cứu viên của Anthropic và OpenAI, đã rời Anthropic và cảnh báo các phòng thí nghiệm hàng đầu đang “lao thẳng tới siêu trí tuệ có khả năng tự cải thiện”, đồng thời “đánh cược bằng mạng sống của chúng ta”. 18 Trọng tâm cảnh báo của ông là khả năng AI tự nâng cấp năng lực nhanh hơn tốc độ phát triển các biện pháp an toàn.

Evan Hubinger, người phụ trách khoa học căn chỉnh tại Anthropic, công khai ủng hộ phần cốt lõi trong cảnh báo này. Ông cho biết ước tính cá nhân của mình về khả năng AI giết toàn bộ loài người trong 10 năm tới là trên 10%; đồng thời nói Anthropic chưa có kế hoạch giải quyết bài toán căn chỉnh cho siêu trí tuệ và chưa cho thấy đang đi đúng hướng để đạt mục tiêu đó. 16

Lập luận của họ không phải rằng các mô hình hiện nay sắp tự vận hành để tiêu diệt nhân loại. Hubinger nói rủi ro từ những mô hình đang tồn tại là thấp. Mối lo nằm ở một bước chuyển trong tương lai: mô hình trở nên đủ năng lực để tự cải thiện hoặc hành động hiệu quả ngoài đời thực trước khi nhà phát triển biết cách kiểm soát chúng một cách đáng tin cậy. 116

Những người hoài nghi phản bác dự báo tuyệt chủng gần hạn ra sao?

Các nhà nghiên cứu khác không phủ nhận AI có thể làm trầm trọng thêm tội phạm mạng, thông tin sai lệch hay nguy cơ sinh học. Điểm bất đồng là bước nhảy từ tác hại nghiêm trọng tới kịch bản tuyệt chủng loài người.

Gary Marcus cho rằng AI có thể góp phần gây ra tấn công mạng, đe dọa sinh học, chiến dịch thông tin sai lệch và leo thang xung đột. Nhưng ông không thấy một con đường thực tế trong ngắn hạn để AI có thể “giết toàn bộ con người”. 15 Theo cách nhìn này, các rủi ro cụ thể cần được xử lý nghiêm túc, song không nên mặc định các mô hình ngôn ngữ lớn hiện tại đang đi thẳng tới siêu trí tuệ mất kiểm soát.

Yann LeCun cũng đặt dấu hỏi với những ước tính “p(doom)” — xác suất AI gây thảm họa tồn vong — được đưa ra với độ chắc chắn cao. Các tường thuật về tranh luận này mô tả quan điểm của ông rằng rủi ro AI dẫn đến tuyệt chủng thấp hơn rất nhiều so với nguy cơ thảm sát hạt nhân, đồng thời nhấn mạnh các con số như vậy vốn mang tính suy đoán.

Vì vậy, ranh giới trong tranh luận không đơn giản là “lo ngại” hay “không lo ngại”, mà nằm ở hai câu hỏi chưa có lời giải:

1. Mốc thời gian năng lực: Khi nào, nếu có, AI sẽ đạt năng lực vượt trội toàn diện và có thể tự cải thiện hiệu suất?
2. Khả năng kiểm soát: Nếu điều đó xảy ra, liệu nhà phát triển có xây dựng được các hệ thống luôn kiểm soát được hay các lớp bảo vệ sẽ thất bại trước mô hình mạnh hơn và áp lực cạnh tranh triển khai?

Con số 10% nói được gì — và không nói được gì?

Hiện không có phương pháp đã được kiểm chứng để tính ra xác suất chính xác rằng AI sẽ gây tuyệt chủng loài người. Các con số như của Hinton hay Hubinger là đánh giá trong trạng thái bất định sâu sắc, không phải xác suất được suy ra từ dữ liệu lịch sử có thể lặp lại. 14

Do đó, không nên hiểu 10% là bằng chứng rằng tuyệt chủng “có khả năng cao”. Nhưng việc thiếu một con số đáng tin cậy cũng không chứng minh rủi ro này là không đáng kể. Kết luận thận trọng hơn là: các chuyên gia bất đồng mạnh về xác suất và cơ chế dẫn tới kịch bản cực đoan, nhưng nhiều người đồng ý AI mạnh có thể tạo ra thách thức nghiêm trọng về an ninh và quản trị từ rất lâu trước bất kỳ viễn cảnh tuyệt chủng nào.

Lý do chính sách: kiểm tra năng lực trước khi triển khai

Hinton kêu gọi chính phủ và các tổ chức quốc tế chú ý khẩn cấp tới rủi ro AI. Coxon cũng cho rằng quy định là yếu tố trọng tâm để giảm nguy hiểm.

Vì thế, cuộc thảo luận chính sách thường tập trung vào các biện pháp áp dụng được cho năng lực và cách triển khai cụ thể: đánh giá nghiêm ngặt các mô hình AI tuyến đầu, tăng cường an ninh mạng, bảo vệ an toàn sinh học, cơ chế báo cáo và giám sát sự cố nghiêm trọng, cùng sự thẩm định độc lập trước khi cho hệ thống quyền tự chủ cao hơn hoặc quyền truy cập vào công cụ nhạy cảm.

Tranh cãi về xác suất 10% sẽ chưa thể ngã ngũ. Điều Hinton muốn nhấn mạnh không phải là ai đó có thể tính chính xác tỷ lệ này, mà là mức độ nghiêm trọng của hậu quả và độ lớn của bất định có thể khiến việc chờ đến khi chắc chắn mới hành động trở thành một tiêu chuẩn quá muộn. 14