Dự báo AI năm 2028 của Jack Clark: vì sao AI tự tạo “người kế nhiệm” là ngưỡng đáng lo

Điểm cần nhấn mạnh: Clark không nói kịch bản này đã xảy ra. Ông đang đưa ra một dự báo xác suất về điều có thể xảy ra trong vài năm tới .

“AI tự tạo người kế nhiệm” nghĩa là gì?

“Người kế nhiệm” ở đây không phải một robot mới bước ra từ nhà máy. Trong ngữ cảnh AI, đó là hệ thống tiếp theo trong chuỗi phát triển mô hình — thường được kỳ vọng mạnh hơn, hiệu quả hơn hoặc có năng lực rộng hơn.

Clark lo ngại rằng một hệ thống AI đủ mạnh có thể tham gia sâu, hoặc tự động hóa, các khâu quan trọng để tạo ra hệ thống tiếp theo . Điều này khác với hình dung quen thuộc hiện nay về AI như một công cụ gợi ý code. Viết code chỉ là một phần của cả quy trình R&D. Kịch bản Clark nói đến là tự động hóa đường ống lớn hơn: thiết kế mô hình, huấn luyện, đánh giá, cải tiến và lặp lại với các mô hình tuyến đầu .

Vì vậy, câu hỏi không còn là “AI có giúp lập trình viên nhanh hơn không?”. Câu hỏi trở thành: “AI có thể tự đẩy nhanh quá trình tạo ra AI mạnh hơn không?”.

Vì sao gọi là tự cải tiến đệ quy?

Kịch bản này thường được gọi là tự cải tiến đệ quy: một hệ thống AI giúp tạo ra hệ thống AI mạnh hơn, rồi hệ thống mạnh hơn đó lại tiếp tục giúp tạo ra thế hệ còn mạnh hơn nữa .

Phiên bản đáng lo không chỉ là “AI cải thiện phần mềm”. Đáng lo hơn là vòng lặp có tính cộng dồn: công cụ dùng để cải tiến AI cũng trở nên mạnh hơn sau mỗi thế hệ. Các bài viết về cảnh báo của Clark liên hệ khả năng này với nguy cơ “bùng nổ trí tuệ”, tức năng lực AI tăng tốc mạnh khi AI bắt đầu cải thiện chính các hệ thống đến sau nó .

Nếu nút thắt của tiến bộ AI chuyển từ con người sang các hệ thống AI tự cải tiến, tốc độ phát triển năng lực có thể trở nên khó theo dõi và khó quản trị hơn .

Vì sao đây là rủi ro lớn?

Rủi ro trung tâm là mất bớt quyền giám sát đối với chính quy trình tạo ra các hệ thống AI ngày càng mạnh. Nếu R&D được tự động hóa đầu-cuối, con người có thể có ít điểm dừng có ý nghĩa hơn để đánh giá an toàn trước khi một hệ thống kế nhiệm ra đời .

Có ba nỗi lo chính:

• Ít điểm kiểm tra của con người hơn. Nếu AI tự đảm nhiệm đủ nhiều khâu nghiên cứu, huấn luyện và cải tiến, các công ty và nhà nghiên cứu có thể có ít thời gian hơn để kiểm định an toàn trước khi hệ thống mới xuất hiện .
• Tốc độ tăng năng lực nhanh hơn. Cảnh báo của Clark gắn với khả năng tiến bộ AI tăng tốc khi AI bắt đầu cải thiện AI; một số bài viết gọi đây là rủi ro “bùng nổ trí tuệ” .
• Áp lực lên quản trị. Clark viết rằng hệ quả của tự động hóa AI R&D là rất lớn, và ông không chắc xã hội đã sẵn sàng cho những thay đổi mà nó hàm ý .

Nói cách khác, rủi ro không nằm ở hình ảnh khoa học viễn tưởng kiểu “máy móc tự sinh ra máy móc”. Rủi ro thực tế hơn là một vòng sản xuất AI tuyến đầu nhanh hơn, tự động hơn, có thể vượt khỏi nhịp đánh giá an toàn, quy định và hiểu biết công chúng hiện nay .

Điều gì vẫn chưa chắc chắn?

Con số hơn 60% của Clark là một phán đoán xác suất, không phải sự thật đã được chứng minh . Mốc thời gian 2028 cũng còn gây tranh cãi.

Một phản biện cho rằng tự cải tiến đệ quy đầu-cuối, hoàn toàn không cần con người vào năm 2028 là khó xảy ra, với xác suất dưới 10%; dù vậy, bài viết này vẫn để ngỏ khả năng một kịch bản tương tự có thể trở nên khả thi trong khung thời gian dài hơn, đến năm 2036 .

Cũng có bất đồng kỹ thuật về việc tự cải tiến đệ quy có thật sự tạo ra mức tăng tốc ngày càng lớn hay không. Một bài viết dẫn ý kiến của nhà khoa học máy tính Pedro Domingos rằng vấn đề then chốt không chỉ là AI có thể tạo hoặc sửa phần mềm, mà là liệu điều đó có dẫn tới lợi suất tăng dần một cách đáng tin cậy hay không; theo ông, điều này chưa được chứng minh rõ .

Những khác biệt này quan trọng vì ba mệnh đề sau không giống nhau: AI hỗ trợ nghiên cứu AI; AI tự động hóa phần lớn R&D AI; và AI tự cải tiến đủ nhanh để gây ra “bùng nổ trí tuệ” . Cảnh báo của Clark nằm ở phiên bản có hệ quả lớn nhất của chuỗi tiến triển đó .

Kết luận

Clark dự báo rằng đến cuối năm 2028, khả năng cao hơn là không sẽ xuất hiện các hệ thống AI có thể thực hiện AI R&D không cần con người tham gia và có thể tự xây dựng người kế nhiệm của chính mình .

Nếu ông đúng, vấn đề không chỉ là đổi mới nhanh hơn. Vấn đề là quá trình tạo ra các hệ thống AI mạnh hơn có thể bắt đầu chạy nhanh hơn khả năng giám sát, kiểm định an toàn và quản trị của con người . Nhưng điểm cần giữ tỉnh táo là: đây vẫn là một dự báo còn tranh luận, với những ý kiến cho rằng mốc 2028 có thể quá sớm .