Vì sao một “nút tắt” AI có thể không đủ để kiểm soát hệ thống tiên tiến

Cuộc tranh luận về “nút tắt” AI không còn chỉ xoay quanh việc một phòng thí nghiệm có thể tắt mô hình của mình hay không. Câu hỏi khó hơn là: cơ chế đó còn hoạt động không khi AI mạnh được triển khai trên hạ tầng rộng lớn, phân tán — hoặc có đủ quyền tự chủ để lan ra ngoài một môi trường kiểm soát duy nhất?

Nút tắt có thể hiệu quả hôm nay, nhưng không bảo đảm cho ngày mai

Jacob Coxon, cựu nghiên cứu viên của Anthropic và OpenAI, nói trên chương trình Meet the Press của NBC News rằng nút tắt có lẽ vẫn hiệu quả với nhiều hệ thống AI hiện nay. Tuy nhiên, đây không đơn giản là bấm một nút: những trung tâm dữ liệu lớn và hệ thống đã triển khai gồm nhiều thành phần, đòi hỏi nhiều thao tác ngắt khác nhau. Theo ông, việc này khó nhưng vẫn khả thi khi hệ thống còn bị giới hạn trong một địa điểm vật lý. 8

Mối lo của Coxon nằm ở giai đoạn tiếp theo. Nếu AI trở thành một “bầy đàn” tự chủ và phân tán, một lệnh tắt từ trung tâm có thể không còn hiệu quả về mặt kỹ thuật. Nói cách khác, cơ chế kiểm soát chỉ có tác dụng khi nó tiếp cận được mọi phiên bản hệ thống đang hoạt động.

Sau khi rời Anthropic, Coxon cảnh báo các phòng thí nghiệm hàng đầu đang chạy đua phát triển AI có thể tự cải thiện, dù có khả năng những hệ thống này sẽ trở nên không thể kiểm soát. 150

Không chỉ có công tắc: phải kiểm chứng được biện pháp bảo vệ

Jack Clark, đồng sáng lập Anthropic, cho rằng năng lực vô hiệu hóa một hệ thống AI nguy hiểm có thể cần trở thành yêu cầu pháp lý, thay vì chỉ là cam kết tự nguyện của công ty phát triển nó. Trao đổi với BBC, ông nói đa số các phòng thí nghiệm lớn, bao gồm Anthropic, đã có cách tắt hệ thống; nhưng ông đặt vấn đề liệu nút tắt đó có nên được một bên thứ ba kiểm chứng hay không. 33

Khác biệt này rất quan trọng: một công ty tuyên bố có quy trình tắt khẩn cấp không đồng nghĩa một tổ chức bên ngoài có thể xác nhận quy trình ấy thực sự tồn tại, được thiết kế phù hợp và có thể dùng được trong tình huống khẩn cấp.

Đề xuất “điều tiết nhịp độ biên giới AI” của Dario Amodei

Dario Amodei, CEO Anthropic, đưa ra khuôn khổ nhằm bảo đảm tốc độ tăng năng lực của AI tiền tuyến không vượt quá các biện pháp an toàn. Kế hoạch gồm ba phần:

1. Đưa các đơn vị đánh giá độc lập vào bên trong tổ chức: Các công ty AI tiền tuyến sẽ cho chuyên gia đánh giá bên ngoài quyền tiếp cận thường trực, tương tự nhân viên, với những hệ thống và thực hành an toàn liên quan. Họ có nhiệm vụ xác minh cam kết và báo cáo các mối lo ngại.
2. Thiết lập tiêu chuẩn chung giữa các nước dân chủ: Những nhà phát triển hàng đầu phối hợp về chuẩn an toàn chung và giới hạn việc tăng năng lực AI không được kiểm soát.
3. Phối hợp quốc tế: Các chính phủ hợp tác xuyên biên giới để quản lý những rủi ro mà không công ty hay quốc gia đơn lẻ nào có thể kiềm chế một cách đáng tin cậy. 17

Đây không phải lời kêu gọi dừng toàn bộ nghiên cứu AI. Đó là đề xuất gắn tiến bộ công nghệ với những hàng rào an toàn có thể được xem xét, kiểm tra từ bên ngoài công ty tạo ra hệ thống.

Những ai ủng hộ hướng đi này?

Reuters cho biết CEO OpenAI Sam Altman và lãnh đạo xAI Elon Musk đã công khai ủng hộ định hướng chung của Amodei. Altman nói OpenAI sẽ áp dụng ý tưởng để các chuyên gia đánh giá độc lập có quyền tiếp cận như nhân viên; còn Musk viết: “Dario đúng.” 17

Các bản tin cũng mô tả CEO Google DeepMind Demis Hassabis ủng hộ định hướng của đề xuất. 30 Tuy nhiên, các nguồn được cung cấp không xác lập phản hồi cụ thể, có thể quy cho CEO Microsoft Satya Nadella; vì vậy chưa nên kết luận ông ủng hộ hay phản đối kế hoạch.

AI Kill Switch Act của Mỹ đề xuất điều gì?

H.R. 9917, dự luật AI Kill Switch Act, sẽ sửa đổi Đạo luật An ninh Nội địa Mỹ để yêu cầu một số tổ chức thuộc diện áp dụng duy trì năng lực kỹ thuật nhằm dừng suy luận (inference), chấm dứt quyền truy cập của người dùng và tắt công nghệ AI thuộc phạm vi điều chỉnh. 49

Đây mới là đề xuất lập pháp, không phải lời giải đã được chứng minh cho mọi bài toán kiểm soát AI. Giá trị thực tế của nó tùy thuộc vào việc nhà phát triển còn có thể nhận diện, tiếp cận và vô hiệu hóa hệ thống liên quan khi xảy ra sự cố nghiêm trọng hay không — đúng thách thức Coxon nêu ra đối với các hệ thống phân tán trong tương lai.

Ước tính rủi ro tuyệt chủng không phải dự báo chắc chắn

Nhà nghiên cứu Anthropic Evan Hubinger cho biết ông tự đánh giá nguy cơ AI gây ra sự tuyệt chủng của loài người trong 10 năm tới là trên 10%. Geoffrey Hinton nói với BBC rằng xác suất 10% là “không phải không hợp lý”. 57

Đây là nhận định của chuyên gia về một tương lai bất định, không phải xác suất đã được đo lường hay đồng thuận khoa học. Dù vậy, chúng cho thấy vì sao tranh luận về nút tắt đã vượt khỏi phạm vi an toàn sản phẩm thông thường: những người ủng hộ kiểm soát mạnh hơn cho rằng ngay cả một khả năng không cao về thảm họa không thể đảo ngược cũng đủ để biện minh cho các biện pháp bảo vệ đáng kể.

Vì sao một số chính phủ không ủng hộ lệnh tắt và làm chậm AI?

Chính phủ Anh đã bác ý tưởng xây dựng nút tắt AI ở cấp quốc gia, với lập luận rằng nước này “không thể đơn giản tắt AI”. Lý do họ đưa ra là việc chặn quyền truy cập mô hình tại Anh không thể ngăn các mô hình ấy được phát triển hoặc bị lạm dụng ở nơi khác. 51

Đó là bài toán địa chính trị cốt lõi. Một quốc gia có thể đặt quy định với doanh nghiệp và hạ tầng thuộc thẩm quyền của mình, nhưng phát triển AI là hoạt động quốc tế. Các chính phủ lo về năng lực cạnh tranh có thể cho rằng hạn chế đơn phương sẽ khiến đầu tư, năng lực kỹ thuật và lợi thế chiến lược chuyển sang các đối thủ chịu ít ràng buộc hơn.

Ở chiều ngược lại, những người ủng hộ quản trị chặt chẽ hơn cho rằng chính vì rủi ro vượt biên giới, các cam kết tự nguyện của doanh nghiệp và quy định đơn lẻ của từng nước là chưa đủ. Theo họ, giám sát và cam kết an toàn cũng phải có độ tin cậy ở cấp quốc tế.

Xung đột thực sự: tốc độ hay khả năng kiểm soát

Bất đồng này không đơn giản là giữa người ủng hộ AI và người phản đối AI.

• Nhóm đề cao an toàn muốn các biện pháp bảo vệ có thể kiểm tra độc lập, năng lực tắt hệ thống thực chất và các giới hạn để năng lực AI không vượt quá khả năng đánh giá, kiểm soát.
• Nhóm hoài nghi các hạn chế cứng nhắc cho rằng việc tạm dừng sẽ khó thực thi trên toàn cầu, có thể làm chậm đổi mới hữu ích nhưng không ngăn được phát triển ở nơi khác.
• Quan điểm phát triển có điều kiện của Coxon, Clark và Amodei là tiếp tục tiến AI, nhưng chỉ khi các biện pháp bảo vệ được kiểm nghiệm thay vì chỉ được hứa hẹn. 83317

Vì thế, nút tắt nên được xem là một lớp trong hệ thống an toàn rộng hơn, chứ không phải vật thay thế cho hệ thống đó. Nếu AI tiên tiến cuối cùng trở nên quá phân tán để một công tắc duy nhất có thể chạm tới, việc giám sát trước triển khai, đánh giá độc lập và phối hợp quốc tế sẽ càng quan trọng hơn.