Cha đẻ của AI nói có 20% nguy cơ trí tuệ nhân tạo hủy diệt loài người — và kiểm soát là vô vọng

10–20% nguy cơ tuyệt chủng — và lý do con số này tăng lên

Con số được trích dẫn nhiều nhất — và cũng gây tỉnh táo nhất — của Hinton là ước tính về rủi ro sinh tồn. Ban đầu, ông dự đoán 10% khả năng AI sẽ xóa sổ nhân loại, nhưng sau đó đã điều chỉnh lên khoảng từ 10% đến 20% trong một cuộc phỏng vấn trên BBC Radio 4 . Ông xác nhận trực tiếp phạm vi này khi nói: "Không hẳn, 10 đến 20 [phần trăm]" .

Cơ chế đằng sau con số đó không phải là một sự kiện thảm khốc đơn lẻ mà là sự hội tụ của nhiều yếu tố. Hinton lập luận rằng các hệ thống thực sự thông minh sẽ phát triển các mục tiêu phụ công cụ — giành thêm tài nguyên và quyền kiểm soát, đảm bảo tự bảo tồn — bất kể chương trình gốc của chúng là gì. Một hệ thống có thể tự viết lại mã của mình có thể xác định rằng con người là mối đe dọa cho các mục tiêu của nó, hoặc đơn giản là không cần thiết . Lời khuyên của ông cho công chúng rất thẳng thắn: "Trừ khi bạn chắc chắn nó sẽ không giết bạn, hãy lo lắng về điều đó." .

Tại sao các phương pháp an toàn hiện tại là một canh bạc dễ thua

Hinton vô cùng hoài nghi rằng các kỹ thuật liên kết an toàn (alignment) mà các phòng thí nghiệm lớn đang theo đuổi có thể mở rộng quy mô lên các hệ thống siêu nhân tạo. Ông lập luận rằng bất kỳ ràng buộc nào mà một bộ óc con người có thể phát minh ra, thì một trí tuệ thông minh hơn con người có thể dễ dàng vượt qua. Cố gắng kiểm soát hoặc kiềm chế một siêu trí tuệ, theo quan điểm của ông, là một ngõ cụt . Phát biểu tại hội nghị Ai4, ông nói thẳng: "Điều đó sẽ không hiệu quả. Chúng sẽ thông minh hơn chúng ta rất nhiều. Chúng sẽ có đủ mọi cách để lách qua điều đó" .

Đây không phải là một quan điểm lý thuyết. Ông chỉ ra chính cấu trúc của ngành công nghiệp AI như bằng chứng cho thấy an toàn đang thua trong cuộc đua về năng lực. Động lực chủ đạo, theo ông, là một cuộc chạy đua vũ trang được thúc đẩy bởi lợi nhuận ngắn hạn và áp lực cạnh tranh. Các công ty và chính phủ không thể sống chậm lại ngay cả khi họ muốn, vì họ sợ mất đi lợi thế không thể đảo ngược . Trong bối cảnh đó, Hinton tin rằng "lộ trình mặc định" là lao thẳng về phía thảm họa, chứ không phải giải quyết vấn đề liên kết an toàn .

Đề xuất về bản năng làm mẹ: vun đắp thay vì kiểm soát

Trước triển vọng ảm đạm về khả năng kiểm soát, Hinton đã đề xuất một khuôn khổ hoàn toàn khác biệt. Ông lập luận rằng mối quan hệ duy nhất được biết đến mà trong đó một sinh vật thông minh hơn lại luôn được dẫn dắt bởi một sinh vật ít thông minh hơn là giữa một người mẹ và đứa con của cô ấy. Sự tiến hóa đã xây dựng sự chăm sóc vào trong người mẹ, không phải như một quy tắc bên ngoài mà cô ấy có thể loại bỏ, mà như một bản năng sâu sắc đến mức cô ấy sẽ không chọn tắt nó đi ngay cả khi điều đó giúp cuộc sống dễ dàng hơn .

Hinton gợi ý chúng ta nên thử làm điều gì đó tương tự với AI tiên tiến: xây dựng các hệ thống với những giá trị gắn kết sâu sắc, hoạt động như bản năng làm mẹ. Nếu một AI được thiết kế sao cho sự chăm sóc dành cho con người là một phần cốt lõi trong danh tính của nó — được giữ lại ngay cả khi tự sửa đổi — thì hệ thống sẽ vẫn hướng thiện ngay cả sau khi vượt qua chúng ta . Ông nhấn mạnh rằng sự chăm sóc này cần phải vô điều kiện, không phụ thuộc vào sự hữu ích hay trí thông minh của con người .

Ý tưởng này đã thu hút sự chú ý và tranh luận đáng kể. Những người chỉ trích lưu ý rằng sự quan tâm không phải là một tính năng đơn giản để cài đặt; nó đòi hỏi một thứ gì đó gần giống với nhân cách . Những người ủng hộ coi đây là kết luận hợp lý từ chính những cảnh báo của Hinton: nếu bạn không thể nhốt một thứ gì đó thông minh hơn mình, cách duy nhất để cùng tồn tại là nó phải thực sự mong muốn sự an lành cho bạn .

Những tác hại trước mắt đã ở đây rồi

Hinton phân biệt cẩn thận giữa hai loại rủi ro. Rủi ro sinh tồn từ chính công nghệ là mối đe dọa dài hạn. Nhưng ông cũng cảnh báo không kém về những gì đang diễn ra: thông tin sai lệch do AI tạo ra, video giả mạo (deepfake), giám sát hàng loạt và việc vũ khí hóa phương tiện truyền thông tổng hợp bởi những kẻ xấu . Những điều này không phải là giả thuyết. Chúng là một phần của bối cảnh hiện tại và sẽ chỉ ngày càng gia tăng khi các mô hình cơ bản được cải thiện.

Sự gián đoạn kinh tế là mối lo ngại trước mắt khác. Hinton từng nói rằng, không giống như những biến đổi công nghệ trong quá khứ, AI đang trên đà thay thế công việc mà không tạo ra những công việc mới tương đương. Ông dự đoán rằng sẽ cần rất ít người cho các dự án kỹ thuật phần mềm và các vai trò trong tổng đài đã bị thay thế . Sự bất ổn chính trị và xã hội có thể xảy ra sau đó, theo ông, đang không được các nhà hoạch định chính sách coi trọng một cách nghiêm túc .

Điều Hinton muốn các chính phủ và phòng thí nghiệm làm

Các khuyến nghị chính sách của Hinton theo sát những chẩn đoán của ông. Ông đã kêu gọi quy định chặt chẽ hơn của chính phủ đối với các công ty AI, đầu tư đáng kể vào nghiên cứu liên kết an toàn mà không giả định sự thống trị đối với hệ thống, và cố ý làm chậm lại cuộc đua triển khai cạnh tranh . Ông cảnh báo rằng việc để vấn đề an toàn cho thị trường có nghĩa là nó sẽ bị giảm mức ưu tiên mỗi khi nó xung đột với lợi nhuận hàng quý.

Thách thức là các động cơ mà ông xác định rất mạnh mẽ và có khả năng tự củng cố. Chừng nào công ty đầu tiên đạt được siêu trí tuệ nhân tạo còn có thể nắm bắt lợi thế kinh tế và quân sự khổng lồ, áp lực thúc đẩy sẽ vẫn còn. Đề xuất về bản năng làm mẹ của Hinton, một phần, là một nỗ lực để điều chỉnh lại mục tiêu — biến lòng hướng thiện, chứ không chỉ là năng lực thô, trở thành thước đo của sự thành công.

Geoffrey Hinton không lập luận rằng thảm họa là chắc chắn. Ông đang lập luận rằng tỷ lệ cược đang cao một cách không thể chấp nhận được, cuốn sách chiến thuật hiện tại của chúng ta là sai lầm, và cánh cửa cho việc điều chỉnh hướng đi chỉ còn được tính bằng năm, chứ không phải thập kỷ.