OpenAI, Anthropic và Google DeepMind được cho là bàn hợp tác về an toàn AI

OpenAI, Anthropic và Google DeepMind được cho là đang trao đổi về khả năng hợp tác để đặt an toàn AI lên ưu tiên cao hơn. Nếu trở thành hiện thực, đây sẽ là một bài toán khó cho ngành công nghệ: các đối thủ có thể phối hợp giảm rủi ro mà không biến sự phối hợp đó thành cách hạn chế cạnh tranh hay không?

Theo Bloomberg News, thông tin được Reuters dẫn lại, ba công ty đã bàn về công việc an toàn AI. Reuters nhấn mạnh họ không thể xác minh độc lập báo cáo này; OpenAI, Alphabet — công ty mẹ của Google — và Anthropic cũng chưa phản hồi ngay yêu cầu bình luận. 4

Điều gì đang được bàn tới?

Chris Lehane, người phụ trách chính sách toàn cầu của OpenAI, cho biết OpenAI đã trao đổi với Anthropic và Google trong vài tuần. Theo ông, các công ty nên cố gắng phối hợp để ưu tiên an toàn. 4

Tuy vậy, thông tin công khai hiện chưa cho thấy có thỏa thuận cuối cùng, tiêu chuẩn chung cụ thể hay chương trình ràng buộc nào được thông qua. Vì thế, điều có thể khẳng định ở thời điểm này chỉ là các cuộc thảo luận được đưa tin, chứ không phải một khuôn khổ hợp tác liên công ty đã chính thức hình thành. 4

Vì sao lo ngại về rủi ro thảm họa tăng lên?

Các cuộc trao đổi diễn ra sau khi lãnh đạo những phòng thí nghiệm AI hàng đầu của Mỹ công khai kêu gọi tạm dừng phát triển công nghệ này, khiến lo ngại về các rủi ro mang tính tồn vong từ hệ thống AI ngày càng mạnh hơn. 4

Tại Washington, số nghị sĩ Mỹ kêu gọi thiết lập quy định mới cho AI cũng tăng lên sau những cảnh báo từ các nhà nghiên cứu Anthropic rằng tiến bộ AI quá nhanh có thể tạo ra rủi ro ở cấp độ tuyệt chủng. 3

Trước đó, Anthropic từng đề nghị các phòng thí nghiệm AI lớn cân nhắc một đợt tạm dừng phát triển có phối hợp và có thể kiểm chứng nếu rủi ro tăng cao. Lập luận của hãng là AI có thể tiến tới khả năng tự cải thiện nhanh hơn tốc độ xã hội có thể quản trị hệ quả. 15

Đây là các cảnh báo về năng lực và rủi ro có thể xuất hiện trong tương lai, không phải sự đồng thuận rằng những kịch bản ấy chắc chắn xảy ra. Nhưng chúng lý giải vì sao các biện pháp tự nguyện của doanh nghiệp, tiêu chuẩn chung và cơ chế giám sát có thể thực thi đang được bàn luận đồng thời.

Rào cản chống độc quyền

Vấn đề then chốt là luật chống độc quyền. Việc các đối thủ cùng hợp tác có thể bị cơ quan quản lý xem xét kỹ, nhất là khi họ cũng đang cạnh tranh quyết liệt để phát triển và triển khai các mô hình AI tiên tiến.

Lehane nói ông không cho rằng OpenAI, Anthropic và Google DeepMind cần được miễn trừ luật chống độc quyền để phối hợp về an toàn. 4 Quan điểm này vẫn gây tranh luận: Chủ tịch Ủy ban Thương mại Liên bang Mỹ (FTC) Andrew Ferguson nói công chúng nên “hết sức nghi ngờ” những công ty AI xin miễn trừ chống độc quyền, dù các chuyên gia nói với Reuters rằng luật hiện hành có thể đã cho phép phối hợp nhằm ngăn rủi ro thảm họa. 2

Ranh giới ở đây rất quan trọng. Chia sẻ phương pháp kiểm thử an toàn hay thực hành quản trị rủi ro có thể được coi là biện pháp phòng ngừa tác hại. Ngược lại, một thỏa thuận làm chậm phát triển theo cách kìm hãm cạnh tranh thị trường sẽ đặt ra các câu hỏi pháp lý và chính sách khó hơn.

Hướng đi lập pháp tại Mỹ

Lehane cũng cho biết OpenAI sẽ ủng hộ luật lưỡng đảng tại Mỹ nhằm giảm các rủi ro AI mang tính thảm họa. 4

Điều này phù hợp với các cuộc đàm phán đang diễn ra ở Thượng viện Mỹ. Các nhà thương lượng được cho là đang xem xét một “nghĩa vụ cẩn trọng” (duty of care), theo đó nhà phát triển AI phải chứng minh họ đã áp dụng biện pháp hợp lý để ngăn tác hại. Bộ Thương mại Mỹ có thể được trao quyền yêu cầu bằng chứng và cử kiểm toán viên kiểm tra sản phẩm. 8

OpenAI cũng đã kêu gọi các yêu cầu an toàn AI bắt buộc trên phạm vi toàn quốc tại Mỹ, đồng thời cho rằng tiêu chuẩn này nên được mở rộng vượt ra ngoài biên giới Mỹ. 6

Điều cần theo dõi

Câu hỏi lớn nhất là liệu các cuộc trao đổi được đưa tin có chuyển thành cam kết công khai với biện pháp bảo vệ rõ ràng, đánh giá độc lập và cơ chế chịu trách nhiệm hay không.

Hiện tại, kết luận thận trọng nhất là OpenAI, Anthropic và Google DeepMind được cho là đã thảo luận về an toàn AI trong bối cảnh lo ngại về AI tiên tiến tăng cao và áp lực về tiêu chuẩn chung lẫn quy định liên bang Mỹ ngày càng lớn. 4

Nếu có hợp tác chính thức trong tương lai, sáng kiến này sẽ bị đánh giá theo hai tiêu chí: liệu nó có tạo ra bảo vệ an toàn thực chất hay không, và liệu an toàn có bị dùng làm cái cớ để các đối thủ hạn chế cạnh tranh hay không.