Cảnh báo của Alex Turner: “Giảm tốc AI” có thể vẫn chưa đủ

Alex Turner, cựu nhà nghiên cứu tại Google DeepMind, đưa ra lập luận gay gắt hơn lời kêu gọi AI “đi chậm lại” quen thuộc: các hệ thống AI ở tuyến đầu phát triển có thể đang tiến nhanh hơn khả năng quản lý đáng tin cậy của doanh nghiệp, chính phủ, thậm chí cả những siêu cường đối địch. Theo Turner, theo dõi năng lực tính toán (compute) — gồm chip chuyên dụng, trung tâm dữ liệu và điện năng phục vụ huấn luyện — có thể là nền tảng để đưa quy định AI từ cam kết tự nguyện thành cơ chế thực thi được. 17

Vì sao Turner rời DeepMind?

Turner từng làm việc trong nhóm nghiên cứu về căn chỉnh có thể mở rộng (scalable alignment) của DeepMind, tức lĩnh vực tìm cách bảo đảm các hệ thống AI rất mạnh trong tương lai hành xử phù hợp với lợi ích và phúc lợi của con người. Ông từ chức vào tháng 6/2026 sau khi Google ký thỏa thuận cho phép Lầu Năm Góc sử dụng AI của công ty trong công việc mật. 1819

Theo Turner, thỏa thuận này không có các hạn chế mang tính ràng buộc nhằm ngăn AI được dùng cho vũ khí tự hành hoặc giám sát hàng loạt. Với ông, đó là minh họa cho một vấn đề rộng hơn: các nguyên tắc an toàn trên giấy chỉ có ý nghĩa khi vẫn được thực thi lúc sức ép thương mại và địa chiến lược tăng cao. 1819

Nỗi lo mất kiểm soát thực chất là gì?

Turner không khẳng định thảm họa chắc chắn xảy ra. Đây là một lập luận về rủi ro: nếu AI có thể hỗ trợ nghiên cứu AI, tự động hóa một phần quá trình phát triển của chính nó, hoặc vận hành ở mức mà con người không còn kiểm tra được một cách có ý nghĩa, các thể chế của con người có thể mất khả năng đánh giá và kiềm chế kịp thời.

Rủi ro không nằm ở “trí thông minh” như một khái niệm trừu tượng, mà ở tổ hợp giữa năng lực, mức tự chủ và thiếu kiểm soát đáng tin cậy. Một hệ thống có thể theo đuổi mục tiêu phức tạp, sử dụng công cụ và góp phần cải thiện các hệ thống kế tiếp có thể tạo ra vòng phản hồi khiến năng lực tăng nhanh hơn tốc độ kiểm định và quản trị của con người.

Vì vậy, Turner cho rằng các công ty không nên để AI tự cải thiện đến ngưỡng trí tuệ không thể kiểm soát. Đây là cảnh báo về một kịch bản thất bại có thể xảy ra, không phải bằng chứng rằng hệ thống như vậy đã tồn tại hay sự tuyệt chủng của loài người là điều tất yếu. 1719

Vì sao theo dõi “compute” lại quan trọng?

Để huấn luyện các mô hình AI tiền tuyến, cần lượng lớn chip, trung tâm dữ liệu và điện năng — những đầu vào vật lý, hữu hạn và có thể quan sát hơn so với chính phần mềm. Turner xem việc theo dõi compute là một đòn bẩy tiềm năng cho quy định có khả năng thực thi. 17

Trên thực tế, một cơ chế giám sát compute có thể giúp cơ quan quản lý hoặc tổ chức độc lập:

• nhận biết các đợt huấn luyện có quy mô bất thường;
• đặt ngưỡng cần cấp phép hoặc rà soát an toàn;
• khiến việc âm thầm vượt qua các giới hạn năng lực đã thống nhất trở nên khó hơn.

Cách làm này tự nó không giải quyết được bài toán căn chỉnh AI. Điểm mạnh của nó là tạo ra một đối tượng cụ thể để kiểm toán trước khi mô hình được triển khai, thay vì chỉ dựa vào lời hứa của doanh nghiệp.

Đây là ranh giới lớn trong cuộc tranh luận. Cam kết tự nguyện có thể cho thấy thiện chí; còn giám sát và yêu cầu bắt buộc được thiết kế để vẫn có hiệu lực khi một công ty có động lực kinh tế hoặc chiến lược để chạy nhanh hơn đối thủ.

Amodei đề xuất: điều tiết nhịp độ, không đóng băng AI

Dario Amodei, CEO của Anthropic, đề xuất cách tiếp cận gọi là “pacing the frontier”: làm chậm tốc độ tăng năng lực AI để công việc căn chỉnh, các biện pháp bảo vệ và đánh giá bên ngoài có thể theo kịp. Ông nhấn mạnh đây không phải lời kêu gọi dừng huấn luyện mô hình hay ngừng tiến bộ kỹ thuật. 16

Kế hoạch gồm ba phần:

1. Đưa bên đánh giá độc lập vào bên trong phòng thí nghiệm AI. Các tổ chức đánh giá bên ngoài sẽ được tiếp cận thường xuyên ở mức tương tự nhân viên để kiểm chứng thực hành an toàn, đánh giá căn chỉnh và báo cáo sự cố. Anthropic đã cam kết thực hiện bước này. 16
2. Phối hợp giữa các nước dân chủ và những phòng thí nghiệm AI hàng đầu. Mục tiêu là xây dựng tiêu chuẩn an toàn chung và giới hạn với việc tăng năng lực AI không được kiểm soát. 116
3. Tiến tới phối hợp quốc tế, gồm cả Trung Quốc nếu có thể. Mục đích là tránh một cuộc đua nguy hiểm, trong đó sự kiềm chế của một bên chỉ khiến quá trình phát triển chuyển sang nơi khác. 18

Mô hình của Amodei chấp nhận việc tiếp tục phát triển AI tiền tuyến, nhưng yêu cầu tiến chậm hơn và có thể xác minh hơn. Còn Turner đặt trọng tâm mạnh hơn vào việc ngăn AI tự cải thiện vượt kiểm soát, đồng thời quản lý ngay từ các đầu vào vật lý cho phép cuộc đua năng lực diễn ra.

Altman, Musk và Hassabis đứng ở đâu?

Đề xuất của Amodei nhận được sự ủng hộ công khai đáng chú ý từ lãnh đạo các tổ chức AI cạnh tranh nhau.

• Sam Altman nói OpenAI sẽ áp dụng ý tưởng cho các bên đánh giá độc lập quyền tiếp cận ở mức tương tự nhân viên; ông cũng cho biết công ty hoan nghênh các yêu cầu an toàn dành cho phòng thí nghiệm AI tiền tuyến. 212
• Elon Musk ủng hộ hướng đi của Amodei bằng phát biểu ngắn gọn: “Dario đúng.” Tuy nhiên, các báo cáo hiện có cho thấy ít chi tiết hơn về một khuôn khổ quản lý cụ thể mà Musk ủng hộ. 47
• Demis Hassabis, người đứng đầu DeepMind, nhận định bài viết của Amodei chỉ ra hướng đi đúng, qua đó ủng hộ định hướng tăng cường biện pháp bảo vệ và điều tiết nhịp độ phát triển AI tiền tuyến. 27

Sự đồng thuận này không đồng nghĩa họ thống nhất về từng ngưỡng năng lực, phương thức cưỡng chế hay đánh đổi địa chính trị. Nhưng nó cho thấy trọng tâm tranh luận đã dịch chuyển: không chỉ là liệu an toàn AI tiền tuyến có cần được quan tâm, mà là liệu các công ty có thể tiếp tục mở rộng năng lực trong khi công tác an toàn cố gắng bắt kịp hay không.

Trung Quốc vừa là phản đối lớn nhất, vừa là lý do phải hợp tác

Lập luận phản đối phổ biến nhất mang tính địa chính trị: nếu các công ty Mỹ tự kìm lại, Trung Quốc có thể không làm vậy. Reuters mô tả ranh giới tranh luận rộng hơn là giữa kiềm chế có phối hợp và cách tiếp cận thiên về thị trường, trong đó cạnh tranh với Trung Quốc là yếu tố trung tâm. 1

Câu trả lời của Amodei là phối hợp theo từng giai đoạn: trước hết giữa các nước dân chủ và các phòng thí nghiệm hàng đầu, sau đó mở rộng hơn. Song thỏa thuận toàn cầu lại là phần ít chắc chắn nhất của kế hoạch, vì việc xác minh, thiếu lòng tin chiến lược và ưu tiên quốc gia khác biệt đều khiến một thỏa thuận ràng buộc trở nên khó đạt được.

Đó là lý do lập luận về compute của Turner đáng chú ý: nếu chính phủ có thể nhận diện và kiểm tra nguồn lực đứng sau những đợt huấn luyện lớn nhất, họ sẽ có công cụ thực thi mạnh hơn những lời hứa được đưa ra trong bối cảnh cuộc đua quốc tế. 17

Tranh chấp cốt lõi: ai phải chứng minh an toàn?

Đồng thuận mới nổi trong ngành vẫn rất giới hạn. Amodei, Altman, Musk và Hassabis đều ủng hộ một dạng điều tiết nhịp độ và kiểm định chặt chẽ hơn. 127 Nhưng các câu hỏi lớn chưa có lời giải:

• Có nên tiếp tục đẩy năng lực AI tiền tuyến đi lên trong khi các biện pháp an toàn được phát triển song song?
• Hay một số hướng phát triển — đặc biệt là AI có khả năng tự cải thiện không bị kiểm soát — phải bị cấm cho đến khi có phương án kiểm soát đáng tin cậy?
• Các bên đánh giá bên ngoài liệu có đủ độc lập, đủ thông tin và đủ quyền hạn để thách thức chính các phòng thí nghiệm mà họ giám sát?
• Liệu phối hợp quốc tế có thể ngăn các quy tắc an toàn trở thành bất lợi cạnh tranh cho những bên tuân thủ chúng?

Đóng góp chính của Turner là nhấn mạnh rằng đây không chỉ là câu chuyện về sự thận trọng của doanh nghiệp. Nếu nguy cơ thực sự là mất kiểm soát, phản ứng cần phải kiểm toán được và thực thi được. Kế hoạch “pacing the frontier” của Amodei là bước tiến đáng kể về giám sát từ bên ngoài; cảnh báo của Turner giải thích vì sao các nhà phê bình cho rằng phép thử cuối cùng là liệu hoạt động giám sát có thực sự chặn được một cuộc đua năng lực nguy hiểm hay không. 1617