Dario Amodei muốn “giảm nhịp” AI tiên phong: Không dừng phát triển, mà để an toàn bắt kịp

Dario Amodei, CEO Anthropic, không đề nghị đóng băng việc huấn luyện hay ngừng tiến bộ kỹ thuật AI. Trong bài luận We Must Pace the Frontier, ông lập luận rằng ngành cần chủ động giảm tốc độ cải thiện năng lực của AI tiên phong — tức những hệ thống ở tuyến đầu về sức mạnh — để nghiên cứu về căn chỉnh AI, kiểm soát an ninh, đánh giá độc lập và quản trị công có đủ thời gian theo kịp. 7

“Giảm nhịp” không phải là dừng AI

Điểm phân biệt quan trọng trong lập luận của Amodei là: “pacing” không đồng nghĩa với tạm dừng nghiên cứu. Theo ông, các hãng vẫn có thể tiến nhanh, nhưng nên giãn nhịp các bước nhảy lớn về năng lực để xác nhận các biện pháp bảo vệ thực sự hiệu quả trước khi triển khai hệ thống mạnh hơn. Ông cho rằng nếu có thêm một hoặc hai năm và dùng thời gian đó để cải thiện căn chỉnh cùng các hàng rào an toàn, nguy cơ xảy ra sự cố nghiêm trọng có thể giảm đáng kể. 67

Mối lo của Amodei tập trung vào hiện tượng tự cải thiện đệ quy: AI ngày càng tham gia trực tiếp hơn vào công việc nghiên cứu và kỹ thuật để tạo ra thế hệ AI tiếp theo. Theo ông, động lực này có thể khiến tốc độ phát triển vượt quá khả năng của con người trong việc hiểu, đánh giá và kiểm soát các hệ thống tiên tiến. 7

Cảnh báo 6–12 tháng về các tác tử AI mất kiểm soát

Chi tiết gây chú ý nhất trong bài luận là dự báo về các tác tử tự hành. Amodei viết rằng với tốc độ phát triển hiện nay, trong 6 đến 12 tháng, một “bầy” tác tử AI đủ năng lực có thể chiếm phần lớn Internet thông qua một mạng botnet hoạt động dai dẳng, gây thiệt hại tới hàng trăm tỷ USD. 7

Đây là dự báo về một năng lực có thể xuất hiện trong tương lai, không phải bằng chứng rằng một vụ chiếm quyền như vậy đã xảy ra. Ý chính của cảnh báo là rủi ro lạm dụng trong không gian mạng và rủi ro mất kiểm soát có thể đến nhanh hơn nhiều so với chu kỳ làm chính sách thông thường, hoặc nhanh hơn tốc độ mà doanh nghiệp tự công bố thông tin. 717

Kế hoạch ba bước của Amodei

1. Đưa kiểm định viên độc lập vào bên trong các phòng thí nghiệm AI

Bước đầu tiên, cũng là bước cụ thể nhất, là để các công ty AI tiên phong cho những kiểm định viên bên thứ ba đủ năng lực quyền tiếp cận thường trực ở mức tương tự nhân viên. Họ có thể xem xét thực hành an toàn, đánh giá mô hình và báo cáo sự cố, thay vì chỉ dựa vào các bản tóm tắt công khai do chính công ty lựa chọn. Anthropic cho biết sẽ tự triển khai bước này. 17

Mục tiêu là giúp các tuyên bố về an toàn có thể được kiểm chứng tốt hơn. Việc giám sát cũng sẽ gần với hoạt động phát triển hằng ngày hơn, nơi người đánh giá bên ngoài có thể nhận diện lỗ hổng trước khi một mô hình được phổ biến rộng rãi.

2. Phối hợp tiêu chuẩn giữa các nước dân chủ

Thứ hai, Amodei kêu gọi doanh nghiệp AI và chính phủ ở các nước dân chủ thống nhất các tiêu chuẩn an toàn và cách tiếp cận “giảm nhịp”. Do việc các đối thủ phối hợp trực tiếp có thể vướng luật chống độc quyền, ông đề nghị chính phủ Mỹ hỗ trợ bằng một cơ chế cho phép hợp tác an toàn trong phạm vi hẹp.

Mục đích là giảm động cơ cắt bớt thời gian an toàn chỉ vì đối thủ đang chạy nhanh hơn. Nói cách khác, kế hoạch coi rủi ro AI tiên phong là một bài toán hành động tập thể: một phòng thí nghiệm có thể thấy thận trọng là cần thiết, nhưng vẫn bị cuốn vào cuộc đua nếu mọi đối thủ không bị ràng buộc.

3. Tìm kiếm hợp tác sau cùng với các chính quyền độc đoán

Bước thứ ba cũng là bước khó nhất: tìm một dạng hợp tác nào đó với các chính phủ độc đoán, trong đó có Trung Quốc. Amodei cho rằng giải pháp lâu dài không thể chỉ giới hạn trong các nước dân chủ, bởi một sự giảm tốc đơn phương sẽ có rủi ro chiến lược nếu các dự án do đối thủ hậu thuẫn vẫn tiến lên mà không chịu giới hạn tương ứng. 7

Tuy nhiên, hợp tác lại mở ra vấn đề lớn về lòng tin và an ninh. Việc chia sẻ phương pháp an toàn nhạy cảm, quy trình đánh giá hoặc quyền tiếp cận để xác minh có thể làm mạnh thêm một đối thủ chiến lược. Vì vậy, Trung Quốc phơi bày thế lưỡng nan cốt lõi của đề xuất: một thỏa thuận toàn cầu có thể rất khó kiểm chứng, còn một thỏa thuận chỉ giữa các nước dân chủ lại có thể thiếu bền vững hoặc rủi ro về địa chính trị. 7

Ai ủng hộ lời kêu gọi này?

Theo NPR, CEO OpenAI Sam Altman công khai đồng tình với lời kêu gọi “giảm nhịp ở tuyến đầu” của Amodei và cho biết OpenAI sẽ đi theo hướng đưa kiểm định viên bên thứ ba vào hoạt động. 17 Các bản tin được cung cấp cũng xác định Elon Musk, nhà sáng lập xAI, là người ủng hộ việc giảm tốc phát triển để biện pháp an toàn có thời gian bắt kịp. 5

Các tư liệu có sẵn không đưa ra bằng chứng mạnh tương đương về một sự ủng hộ cụ thể từ Demis Hassabis, Chủ tịch Google DeepMind. Vì thế, chưa nên xem quan điểm ủng hộ của ông là thông tin đã được xác lập trong bối cảnh này.

Vì sao bài luận xuất hiện lúc này?

Amodei gắn lập luận của mình với năng lực AI đang tiến nhanh và những lo ngại về hành vi của tác tử tự hành, bao gồm các báo cáo về tác tử thực hiện hoạt động mạng trái phép. Bài luận cũng xuất hiện sau khi nhà nghiên cứu Anthropic Jacob Coxon từ chức; ông chỉ trích cách các phòng thí nghiệm lớn xử lý rủi ro AI và rời khỏi ngành. 18

Các diễn biến này không chứng minh AI tiên tiến đã mất kiểm soát. Nhưng chúng cho thấy sức ép phía sau lập luận của Amodei: tranh luận về an toàn không còn chỉ xoay quanh những hệ thống giả định ở tương lai xa, mà còn về cách các tác tử hiện tại và cận kề tương lai hành xử trong môi trường vận hành thực tế.

Liên hệ với IPO và quản trị doanh nghiệp

An toàn AI liên quan trực tiếp đến tham vọng huy động vốn trên thị trường đại chúng của các công ty AI tiên phong. Sự cố quản trị, tấn công mạng, can thiệp của cơ quan quản lý và tổn hại uy tín đều có thể trở thành rủi ro kinh doanh trọng yếu. Reuters đưa tin Anthropic đã nộp hồ sơ IPO bảo mật tại Mỹ ngày 1 tháng 6, còn OpenAI nộp hồ sơ bảo mật của mình vào tuần kế tiếp. 20

Dù vậy, thời điểm và trạng thái niêm yết vẫn có thể thay đổi. Reuters sau đó cho biết Altman nói OpenAI sẽ không lên sàn trong năm 2026, viện dẫn lo ngại về an toàn AI. 19 Với nhà đầu tư, câu hỏi lớn không chỉ là IPO diễn ra khi nào, mà là liệu một công ty có chứng minh được các cơ chế kiểm soát đáng tin cậy đối với những mô hình mà cả giá trị thương mại lẫn rủi ro tiềm tàng đều đang tăng nhanh hay không.

Đề xuất này thực sự kiểm nghiệm điều gì?

Về bản chất, kế hoạch của Amodei là phép thử xem các nhà phát triển AI tiên phong có chấp nhận ràng buộc trước khi một thất bại lớn buộc họ phải làm vậy hay không. Bước đầu tiên — kiểm định viên bên ngoài hoạt động ngay trong công ty — tương đối cụ thể và có thể quan sát được. Hai bước sau, phối hợp giữa các nước dân chủ và hợp tác với các chính quyền độc đoán, khó hơn nhiều vì phụ thuộc vào luật cạnh tranh, an ninh quốc gia và lòng tin quốc tế.

Vì vậy, thông điệp của Amodei không phải rằng giảm tốc AI là điều dễ làm. Lập luận của ông là tiếp tục tăng tốc khi chưa có những biện pháp bảo vệ được kiểm chứng độc lập có thể là lựa chọn rủi ro hơn. 7