Tranh luận an toàn AI: Arthur Mensch đang cảnh báo điều gì về quyền lực thị trường?

Trong cuộc phỏng vấn với Le Monde ngày 24/9, Arthur Mensch, CEO công ty AI Pháp Mistral AI, cho rằng các tập đoàn công nghệ Mỹ đang khai thác nỗi sợ về trí tuệ nhân tạo. Ông nhấn mạnh: “AI là phần mềm. Nó có thể được kiểm soát.” Đây là một câu hỏi đáng đặt ra về quyền lực thị trường, không phải kết luận rằng AI không nguy hiểm: một lời cảnh báo có thể nói đúng về rủi ro, đồng thời mang lại lợi ích cho doanh nghiệp đưa ra nó.29

Ai được định nghĩa thế nào là phát triển AI có trách nhiệm?

Điểm cốt lõi trong lập luận của Mensch là ai đặt ra tốc độ phát triển và tiêu chuẩn an toàn. Nếu những công ty lớn nhất định hình quy định theo các yêu cầu mà chính họ dễ đáp ứng nhất, doanh nghiệp nhỏ hơn có thể gặp bất lợi. Đó là mối lo về cạnh tranh, chứ không phải bằng chứng rằng rủi ro AI chỉ là chuyện bịa đặt.29

Bản thân Mistral cũng không nói việc triển khai AI là vô hại. Công ty từng cảnh báo rằng mô hình AI có thể trở thành tác nhân mạnh khi được trao quyền tự chủ và quyền sử dụng công cụ; triển khai an toàn vì thế đòi hỏi thận trọng. Nói AI “có thể được kiểm soát” nên được hiểu là lập luận ủng hộ quản lý rủi ro, không phải lời bảo đảm rằng mọi hệ thống AI trong tương lai đều kiểm soát được.72

Cảnh báo nghiêm trọng vẫn cần được kiểm chứng

Đầu tháng 9, Jacob Coxon, cựu nhà nghiên cứu của Anthropic và trước đó là OpenAI, cảnh báo AI “có thể giết chết tất cả chúng ta vào cuối thập kỷ này”. Sau đó, CEO Anthropic Dario Amodei kêu gọi tự nguyện giảm tốc độ phát triển các mô hình tiên tiến nhất; Le Monde đưa tin các đối thủ Mỹ hàng đầu ủng hộ lời kêu gọi ngày 12/9 của ông.18

Đó là những cảnh báo và đề xuất nghiêm túc, nhưng không phải dự báo đã được xác lập. Coxon nói về một khả năng, không phải một hạn chót đã được chứng minh. Tương tự, sự ủng hộ đối với việc giảm tốc chưa đủ cho thấy cách này hiệu quả hơn các biện pháp bảo vệ nhắm vào từng rủi ro cụ thể.18

Tranh luận cũng không đơn giản là châu Âu đối đầu với Mỹ. Geoffrey Hinton thúc giục hành động nhanh hơn để thiết lập biện pháp bảo vệ, trong khi Andrew Ng chất vấn cơ sở bằng chứng của những thông điệp thiên về kịch bản tận thế và phản đối lời kêu gọi tạm dừng phát triển một cách bao trùm. Câu hỏi hữu ích hơn là: rủi ro nào đã có bằng chứng, và biện pháp nào thực sự xử lý được rủi ro đó?

Vụ kiện chống độc quyền chứng minh được gì?

Một vụ kiện do những người đăng ký trả phí sử dụng dịch vụ AI khởi xướng cáo buộc Anthropic, OpenAI, SpaceXAI và Google đã thỏa thuận hạn chế tốc độ phát triển cạnh tranh sau lời kêu gọi giảm tốc ngày 12/9. Đây là cáo buộc, chưa phải kết luận rằng các công ty đã đạt thỏa thuận trái luật. Việc nhiều lãnh đạo cùng bày tỏ lo ngại về an toàn, tự nó, không chứng minh có sự phối hợp.

Lập luận của Mensch và vụ kiện đặt ra hai câu hỏi liên quan nhưng khác nhau: ngôn ngữ về an toàn có thể tạo lợi thế cho doanh nghiệp dẫn đầu hay không, và các đối thủ có thực sự thỏa thuận giảm tốc hay không. Không thể trả lời bằng cách coi mọi cảnh báo là chiêu tiếp thị, hoặc mọi lời kêu gọi thận trọng là bằng chứng thông đồng.

Cách tiếp cận vững chắc hơn là kiểm tra từng biện pháp an toàn bằng bằng chứng có thể được đánh giá độc lập, rồi xem chi phí tuân thủ có đè nặng quá mức lên những đối thủ tiềm năng hay không. Tiêu chuẩn ấy cần áp dụng cả với lập luận tiếp tục phát triển của Mistral lẫn lời kêu gọi giảm tốc từ các công ty lớn: lợi ích thương mại là lý do để kiểm chứng một quan điểm, không phải để tự động bác bỏ nó.789