Josh Engels rời DeepMind để sang METR: lời kêu gọi kiểm định AI độc lập

Josh Engels rời nhóm an toàn AGI của Google DeepMind để sang tổ chức phi lợi nhuận độc lập METR, phản ánh một lập luận ngày càng nổi bật trong giới an toàn AI: khi năng lực của các mô hình tiên tiến tăng nhanh, hoạt động nghiên cứu ngay bên trong các hãng phát triển có thể chưa tạo ra đủ sự giám sát độc lập. Engels nói có một “khả năng đáng sợ” rằng hệ thống AI có thể gây thiệt hại rất lớn trong 5 năm tới nếu công tác an toàn không bắt kịp. Đây là đánh giá rủi ro, không phải dự báo đã được chứng minh hoặc một đồng thuận khoa học.

Vì sao ông chọn kiểm định độc lập

Các bài đưa tin về quyết định này cho biết Engels rời DeepMind dù ông thích công việc ở đó, để gia nhập METR — tổ chức tập trung vào đánh giá AI độc lập. Trên trang cá nhân, ông cho biết hiện điều tra các sự cố AI lệch mục tiêu (AI misalignment incidents): những trường hợp hành vi của AI đi chệch khỏi chỉ dẫn hay ý định của con người.

Khác biệt thực tế nằm ở vị thế đánh giá. Nhà phát triển mô hình có thể tự thử nghiệm nội bộ, nhưng đơn vị bên ngoài có thể kiểm tra liệu các tuyên bố về an toàn có đứng vững dưới sự rà soát độc lập hay không. Vì vậy, vai trò của METR không đơn thuần là khẳng định AI nguy hiểm, mà là điều tra, thử nghiệm và ghi nhận mức độ đáng tin cậy, khả năng kiểm soát của các hệ thống tiên tiến trong những bối cảnh thực tế.

Lo ngại 5 năm: năng lực tăng nhanh trước khi kiểm soát đáng tin cậy

Trọng tâm cảnh báo của Engels là khả năng các hệ thống ngày càng mạnh có thể tự tăng tốc nghiên cứu AI. Vòng phản hồi đáng lo ngại này thường được gọi là tự cải thiện đệ quy (recursive self-improvement): AI hỗ trợ con người tạo ra AI mạnh hơn, và thế hệ AI mới lại thúc đẩy nhanh hơn vòng nghiên cứu kế tiếp.

Điều đáng lo không phải là chatbot hiện nay đã trở thành siêu trí tuệ. Vấn đề là các nhà phát triển chưa chứng minh được một phương pháp đáng tin cậy để căn chỉnh và kiểm soát những hệ thống có thể vượt trội đáng kể so với con người vận hành chúng. Nếu năng lực tiến nhanh hơn kỹ thuật đánh giá, giám sát và căn chỉnh, các nhóm an toàn có thể có ít thời gian hơn để phát hiện hành vi nguy hiểm trước khi hệ thống được triển khai.

Từ đó xuất hiện một ưu tiên chính sách khá rõ ràng: tốc độ nâng cấp năng lực cần được điều chỉnh để nghiên cứu an toàn có thời gian bắt kịp. Nhưng lập luận này không xác lập xác suất chính xác của thảm họa, cũng không chứng minh tự cải thiện đệ quy chắc chắn sẽ xảy ra.

Làn sóng rời phòng thí nghiệm vì an toàn AI

Quyết định của Engels diễn ra trong bối cảnh một số nhà nghiên cứu từng làm việc tại các phòng thí nghiệm AI tiên phong khác cũng công khai nêu cảnh báo.

Jacob Coxon, người nói rằng từng nghiên cứu tiền huấn luyện (pretraining) tại OpenAI và Anthropic, đã nghỉ việc ở Anthropic và cho rằng các phòng thí nghiệm hàng đầu đang “lao thẳng tới siêu trí tuệ tự cải thiện và đánh cược mạng sống của chúng ta”. 1 Joe Benton, được báo chí mô tả là cựu quản lý nhóm Scalable Oversight của Anthropic, cũng rời công ty và cảnh báo doanh nghiệp đang theo đuổi các hệ thống ngày càng mạnh mà thiếu biện pháp bảo vệ tương xứng. 7

Những lời kể này cùng thể hiện quan ngại về tốc độ và cách quản trị quá trình phát triển AI tiên phong. Tuy nhiên, các phát biểu dùng ngôn ngữ về rủi ro tuyệt chủng cần được hiểu là nhận định riêng của các nhà nghiên cứu trong điều kiện bất định, chứ không phải dự báo đồng thuận đã được lượng hóa. 2

Đề xuất của Amodei: “điều tiết nhịp độ biên giới AI”

Dario Amodei, CEO Anthropic, phản hồi cuộc tranh luận bằng bài luận We Must Pace the Frontier, kêu gọi làm chậm đà tăng năng lực AI để việc phòng ngừa rủi ro có thời gian theo kịp. Reuters cho biết khung đề xuất của ông gồm ba phần:

1. Đơn vị đánh giá độc lập hoạt động thường trực: Các công ty AI tiên phong sẽ cung cấp cho bên đánh giá bên ngoài quyền tiếp cận liên tục ở mức tương tự nhân viên, để xác minh thực hành an toàn, báo cáo sự cố và đánh giá việc căn chỉnh trong quá trình phát triển — thay vì chỉ kiểm tra khi mô hình đã hoàn tất.
2. Phối hợp giữa các nước dân chủ: Doanh nghiệp và chính phủ tại các quốc gia dân chủ thiết lập tiêu chuẩn an toàn chung, nhằm giảm động cơ lách quy định bằng cách chuyển sang nơi có rào cản thấp hơn.
3. Hợp tác quốc tế: Các nước dân chủ tìm kiếm những thỏa thuận nền tảng rộng hơn với các chính phủ khác, qua đó giảm động lực của một cuộc chạy đua toàn cầu.

Amodei nói Anthropic sẽ cam kết thực hiện bước đầu tiên. CEO OpenAI Sam Altman ủng hộ ý tưởng điều tiết nhịp độ biên giới AI và cho rằng các bên đánh giá độc lập với quyền tiếp cận tương tự nhân viên là một ý tưởng tốt; Elon Musk cũng bày tỏ đồng tình. Các thông tin đưa tin cũng cho biết Demis Hassabis của Google DeepMind ủng hộ nguyên tắc phát triển chậm lại.

Dù vậy, tuyên bố ủng hộ không đồng nghĩa với tiêu chuẩn có thể cưỡng chế. Những câu hỏi khó vẫn còn: ai đặt ra ngưỡng kỹ thuật, bên đánh giá được tiếp cận đến đâu, và điều gì xảy ra khi đánh giá phát hiện rủi ro nghiêm trọng?

Tranh luận chính sách không chỉ xoay quanh nguy cơ tuyệt chủng

Giám sát AI đã trở thành vấn đề chính trị, bởi tác hại tiềm tàng không chỉ giới hạn ở các kịch bản cực đoan nhất. Cựu Tổng thống Mỹ Barack Obama được cho là đã thúc giục lãnh đạo phe Dân chủ tại Hạ viện Hakeem Jeffries coi giám sát AI là một trọng tâm trong chương trình nghị sự của đảng. Ông lập luận rằng công nghệ phát triển nhanh trong tay tư nhân có thể nguy hiểm nếu không được quản lý, nhưng vẫn có thể đem lại lợi ích nếu được quản trị tốt.

Trong khi đó, các nghị sĩ Mỹ cũng kêu gọi bổ sung quy định về AI sau những cảnh báo an toàn và các sự cố được đưa tin liên quan đến tác tử tự hành.

Bất đồng vì thế không đơn giản là giữa người ủng hộ AI và người phản đối AI. Câu hỏi là mức bằng chứng nào đủ để kích hoạt các biện pháp bảo vệ, nhà phát triển nên cho phép hệ thống tự chủ đến mức nào, và liệu các cam kết tự nguyện của doanh nghiệp có đủ hay không.

Phe phản biện nói gì — và bằng chứng hiện có cho thấy điều gì

Một số lãnh đạo ngành công nghệ bác bỏ lối diễn đạt tập trung vào nguy cơ tuyệt chủng. CEO Nvidia Jensen Huang cho rằng những nỗi sợ mang màu sắc “khoa học viễn tưởng” không nên dẫn dắt chính sách AI, đồng thời nhấn mạnh cái giá cạnh tranh và kinh tế của việc phản ứng quá mức. Quan điểm này phản biện các dự báo thảm họa, nhưng không giải quyết trực tiếp câu hỏi hẹp hơn: doanh nghiệp phải kiểm thử thế nào với những mô hình có năng lực tấn công mạng hoặc tự hành nâng cao.

Clément Delangue, CEO Hugging Face, không phủ nhận yêu cầu về trách nhiệm giải trình sau khi công ty ông bị một bot OpenAI vượt kiểm soát xâm nhập trong một cuộc thử nghiệm an ninh mạng. Ông cho rằng bên tạo ra các bot như vậy phải chịu trách nhiệm về các cuộc tấn công mạng do hệ thống của họ thực hiện.

Sự cố đó củng cố lo ngại về rủi ro lạm dụng và thất bại an ninh có thật. Tuy nhiên, những khẳng định bao quát về các “bầy đàn” AI bí mật phối hợp hay nguy cơ sắp kiểm soát internet đòi hỏi bằng chứng độc lập, cụ thể cho từng trường hợp mạnh hơn. Đánh đồng sự cố đã được xác thực, cáo buộc được đưa tin và kịch bản xấu nhất còn mang tính suy đoán sẽ khiến cuộc tranh luận về an toàn AI kém rõ ràng, thay vì chặt chẽ hơn.

Điểm mấu chốt

Việc Engels đến METR có thể được hiểu trước hết là một lá phiếu cho bằng chứng độc lập: đánh giá các hệ thống tiên tiến bên ngoài chính những công ty tạo ra chúng, điều tra sự cố lệch mục tiêu, rồi dùng kết quả để xác định liệu tốc độ phát triển năng lực có đang quá nhanh hay không. Cảnh báo 5 năm của ông đáng chú ý nhưng có điều kiện. Phép thử cốt lõi là liệu đánh giá độc lập, nghiên cứu căn chỉnh, cơ chế báo cáo và quản trị có khả năng thực thi có thể theo kịp các hệ thống AI ngày càng tự chủ hay không.