Trump bác lời kêu gọi hãm tốc AI, Amodei đề xuất luật an toàn cho AI tiên phong

Donald Trump nhìn cuộc tranh luận về AI tiên phong chủ yếu qua lăng kính cạnh tranh với Trung Quốc. Trong các phát biểu công khai, ông nói Mỹ phải tiếp tục dẫn đầu lĩnh vực này vì “ai thắng AI thì người đó thắng”. Sau đó, ông gọi những cảnh báo rằng AI có thể kiểm soát thế giới hoặc hủy diệt nhân loại là một “trò lừa bịp”, đồng thời mô tả sự phản đối AI và các trung tâm dữ liệu là một “âm mưu bệnh hoạn” chỉ có lợi cho Trung Quốc. 1719

Vì sao Trump chỉ trích Dario Amodei?

Phản ứng của Trump xuất hiện sau khi Dario Amodei, CEO Anthropic, kêu gọi chủ động giảm tốc độ cải thiện các hệ thống AI mạnh nhất. Hai phía đặt trọng tâm khác nhau: Trump ưu tiên giữ vị thế công nghệ của Mỹ, còn Amodei cho rằng năng lực của mô hình có thể đang tiến nhanh hơn các biện pháp an toàn và giám sát hiệu quả. 17

Trump cũng cho rằng chính quyền đã có thẩm quyền hình sự và quản lý rất lớn đối với các công ty này; theo ông, một tổng thống mạnh là hàng rào bảo vệ cần thiết. Vì vậy, chỉ trích của ông nhắm vào Amodei vừa thể hiện sự hoài nghi đối với các cảnh báo rủi ro hiện sinh, vừa phản ánh lo ngại rằng quy định chính thức có thể làm doanh nghiệp Mỹ yếu thế trước đối thủ Trung Quốc. 1921

“We Must Pace the Frontier” đề xuất điều gì?

Amodei không kêu gọi chấm dứt nghiên cứu AI. Kế hoạch ba phần của ông hướng đến việc làm chậm đà tăng năng lực thiếu kiểm soát, để công tác an toàn, kiểm thử và quản trị có thời gian bắt kịp.

1. Đưa bên đánh giá độc lập vào thường trực trong các phòng thí nghiệm AI tiên phong. Anthropic cam kết cho bên đánh giá thứ ba quyền tiếp cận lâu dài, ở mức tương đương nhân viên, với hệ thống của mình. Họ sẽ kiểm tra việc tuân thủ biện pháp an toàn, báo cáo sự cố và đánh giá mức độ mô hình vẫn bám sát mục tiêu trong quá trình huấn luyện. 16
2. Phối hợp giữa các công ty AI tiên phong. Kế hoạch đề nghị các phòng thí nghiệm hàng đầu thống nhất chuẩn an toàn và giới hạn đối với quá trình phát triển thiếu kiểm soát, thay vì chỉ chạy đua gia tăng năng lực mô hình.
3. Hợp tác quốc tế. Amodei cho rằng quản lý các rủi ro nghiêm trọng nhất của AI rốt cuộc cần sự phối hợp vượt ra ngoài một quốc gia hay một khối quốc gia.

Trong ba điểm trên, Anthropic trình bày điểm đầu tiên là cam kết thực hiện ngay từ phía công ty, không chỉ là đề xuất dành cho chính phủ hoặc đối thủ. 16

Các lãnh đạo AI khác phản hồi ra sao?

Sam Altman, CEO OpenAI, nói ông đồng ý rằng cần “điều tiết nhịp độ” ở ranh giới công nghệ AI tiên phong và OpenAI cũng sẽ cho các bên đánh giá bên ngoài tiếp cận hệ thống. Elon Musk, người điều hành xAI, cũng cho biết ông đồng tình với Amodei.

Satya Nadella, CEO Microsoft, hoan nghênh việc giảm tốc có chủ đích và ý tưởng đưa người đánh giá vào nội bộ phòng thí nghiệm. Tuy nhiên, ông nhấn mạnh một điều kiện quản trị quan trọng: việc giám sát không thể bị kiểm soát chỉ bởi một nhóm nhỏ công ty. Theo Nadella, mọi nỗ lực theo đuổi siêu trí tuệ phải mang lại lợi ích cho nhân loại và vẫn nằm dưới sự kiểm soát của con người.

Các phản hồi này chưa tạo thành một chế độ quản lý chung hoàn chỉnh. Nhưng chúng cho thấy một số lãnh đạo ngành ủng hộ việc giám sát liên tục, chính thức hơn đối với những hệ thống AI tiên tiến nhất.

Bài toán phối hợp: Trung Quốc và nguy cơ “một bên tự hãm phanh”

Jacob Coxon, cựu nhà nghiên cứu của Anthropic và OpenAI, nói những người trực tiếp xây dựng các hệ thống này “thực sự sợ hãi” cho tương lai nhân loại. Ông ủng hộ làm chậm phát triển, nhưng cho rằng điều đó cần được phối hợp với Trung Quốc. 1

Đây là điểm khó nhất của cuộc tranh luận. Một công ty hoặc quốc gia tự giảm tốc có thể lo bị đối thủ không làm điều tương tự vượt lên. Bộ Ngoại giao Trung Quốc đã phản bác lời kêu gọi của Amodei về các giới hạn tác động đến năng lực AI của Trung Quốc, coi đó là nỗ lực của Mỹ nhằm kiềm chế Trung Quốc hơn là quản trị an toàn trung lập. 4

Vì thế, vấn đề cốt lõi là niềm tin. Những người ủng hộ cho rằng quy tắc có đi có lại giúp giảm rủi ro; những người phản đối lại có thể coi chính các quy tắc ấy là cách duy trì ưu thế công nghệ của bên kia.

Phê phán rằng quy định an toàn có thể bảo vệ các hãng đương nhiệm

Nhà đầu tư Michael Burry gọi chiến dịch giảm tốc là “vị kỷ”. Lập luận của ông là việc phát triển chậm hơn cùng yêu cầu tuân thủ nặng hơn có thể giúp các công ty AI đã lớn mạnh, vì khiến đối thủ mới khó cạnh tranh hơn. Burry cũng bác bỏ quan điểm cho rằng các mô hình ngôn ngữ lớn hiện nay đang đi trên con đường dẫn đến trí tuệ nhân tạo tổng quát, hay AGI.

Phê phán này không tự động bác bỏ các lo ngại về an toàn AI. Nhưng nó nêu ra một rủi ro thực tế trong thiết kế chính sách: quy định để làm AI tiên phong an toàn hơn cũng có thể tạo rào cản gia nhập và làm quyền lực tập trung vào các công ty đủ nguồn lực tuân thủ. Một khuôn khổ đáng tin cậy cần xử lý cả rủi ro an toàn lẫn nguy cơ tập trung quyền lực.

Vì sao cuộc gặp Trump - Tập Cận Bình dự kiến ngày 24/9 đáng chú ý?

Trump và Chủ tịch Trung Quốc Tập Cận Bình được cho là dự kiến thảo luận về quản trị AI trong cuộc gặp ngày 24/9. 4 Điều này đáng chú ý vì phần khó nhất của chiến lược an toàn AI tiên phong không phải là viết quy định cho một phòng thí nghiệm, mà là tạo ra các thỏa thuận mà những cường quốc cạnh tranh đều tin là có tính đối ứng và có thể thực thi.

Cách Trump đặt AI trong cuộc đua với Trung Quốc, cùng sự phản đối của Bắc Kinh đối với các giới hạn năng lực AI của họ, cho thấy thỏa thuận sẽ rất khó đạt được. Tranh luận vì vậy không chỉ là chọn tăng tốc hay tạm dừng: đó là câu hỏi liệu cuộc đua AI có thể được quản trị mà không biến chính sách an toàn thành một mặt trận mới của cạnh tranh địa chính trị hay không. 174