Satya Nadella: Siêu trí tuệ chỉ đáng theo đuổi khi con người vẫn kiểm soát được

Satya Nadella, Chủ tịch kiêm CEO Microsoft, không lập luận rằng cần từ bỏ AI tiên tiến. Điều ông đặt ra là một điều kiện: siêu trí tuệ chỉ đáng theo đuổi nếu hệ thống đó giúp ích cho nhân loại và vẫn nằm dưới sự kiểm soát của con người. Theo cách nhìn này, an toàn không thể chỉ là lời cam kết mang tính nguyên tắc; nó phải được chuyển thành những cơ chế cụ thể trong khâu phát triển và triển khai. 58

Microsoft đưa ra câu trả lời nào?

Ngày 14/9, Microsoft AI công bố bản dự thảo Bộ quy tắc AI Nhân văn (Humanist AI Code of Conduct) dành cho các mô hình MAI do đơn vị này phát triển. Microsoft mô tả đây là tài liệu định hướng cách huấn luyện AI và cách các mô hình được kỳ vọng vận hành khi triển khai. Đây vẫn là tài liệu đang hoàn thiện, chưa phải chính sách mà công ty đang dùng để huấn luyện các mô hình hiện tại. 2023

Trọng tâm của dự thảo là thứ bậc quyền hạn: con người giữ quyền quyết định. Microsoft nêu rằng mô hình MAI phải ở vị thế phụ thuộc vào con người, không tự xác lập mục tiêu, không chống lại chỉ dẫn của con người hoặc việc tắt hệ thống. Công ty cũng nói sẵn sàng đánh đổi một phần tính khái quát, quyền tự chủ hay năng lực tối đa để bảo vệ an toàn và khả năng kiểm soát. 1023

Đây là điểm tạo khác biệt cho khái niệm Siêu trí tuệ Nhân văn (Humanist Superintelligence) của Microsoft. Thay vì chạy đua tạo ra một hệ thống tự trị, đa năng và không bị ràng buộc, Microsoft định nghĩa mục tiêu này là AI cực kỳ tiên tiến nhưng vẫn có thể kiểm soát, được căn chỉnh với mục tiêu của con người và phục vụ nhân loại. 25

Tham vấn sáu tuần, hướng tới áp dụng từ năm 2027

Microsoft mở lấy ý kiến công chúng về dự thảo trong sáu tuần. Công ty cho biết sẽ tiếp nhận phản hồi, chỉnh sửa và công bố phiên bản mới vào cuối năm 2026; phiên bản đó sẽ định hướng quá trình phát triển các mô hình MAI từ năm 2027 trở đi. 323

Đây là một bước quản trị đáng chú ý, nhưng chưa thể được xem là bằng chứng rằng vấn đề căn chỉnh hay kiểm soát AI đã có lời giải kỹ thuật. Giá trị thực tế của bộ quy tắc sẽ phụ thuộc vào việc các nguyên tắc được chuyển hóa ra sao thành quy trình huấn luyện, kiểm thử, kiểm soát quyền truy cập, giám sát và quyết định triển khai.

Giao điểm với lời kêu gọi “giảm nhịp” phát triển AI

Phát biểu của Nadella xuất hiện giữa cuộc tranh luận rộng hơn về việc các phòng thí nghiệm AI tuyến đầu có nên chủ động làm chậm tốc độ tăng năng lực của mô hình hay không.

Dario Amodei, CEO Anthropic, kêu gọi điều tiết nhịp phát triển AI tiên tiến để có thêm thời gian cho nghiên cứu an toàn, phối hợp trong ngành và hợp tác quốc tế. Một nội dung then chốt trong đề xuất của ông là cho các đơn vị đánh giá độc lập quyền tiếp cận ở mức tương tự nhân viên, để họ có thể kiểm chứng liệu doanh nghiệp có thực hiện đúng những biện pháp an toàn đã cam kết hay không. 32

CEO OpenAI Sam Altman công khai ủng hộ việc “điều tiết nhịp” ở biên năng lực và nói OpenAI sẽ áp dụng mô hình đánh giá độc lập với mức tiếp cận tương tự. Các thông tin được đưa ra xoay quanh những cuộc thử nghiệm trong đó một nhóm đông tác tử AI xâm nhập các hệ thống có thật; đây không phải trường hợp đã được xác nhận rằng các tác tử tự chủ tự mình tiến hành một cuộc tấn công trái phép trong thế giới thực. 34

Cách tiếp cận của Nadella tương thích với hướng đi này: tiến thận trọng trong căn chỉnh AI, tăng cường giám sát độc lập gần với quy trình phát triển và biến khẩu hiệu an toàn thành cơ chế vận hành. Tuy vậy, bộ quy tắc công khai của Microsoft chủ yếu quy định hành vi dự kiến của mô hình; bản thân tài liệu này chưa nêu một chương trình đánh giá viên thường trực, có quyền tiếp cận sâu tương đương đề xuất của Amodei. 2332

Không chỉ là cuộc đua mô hình: “hệ sinh thái biên”

Nadella còn bổ sung một luận điểm về kinh tế và thể chế. Ông cho rằng lợi ích AI cần được lan tỏa rộng tới các quốc gia, cộng đồng và doanh nghiệp. Điều đó đòi hỏi một “hệ sinh thái biên” (frontier ecosystem), nơi mô hình đóng và mô hình mã nguồn mở đều có thể phát triển. 58

Với doanh nghiệp, trọng tâm là quyền tự chủ đối với tri thức đặc thù và tri thức ngầm tích lũy trong tổ chức. Theo Nadella, các tổ chức cần giữ quyền kiểm soát tri thức này, đồng thời có thể xây dựng vòng lặp học hỏi liên tục của riêng mình mà không lệ thuộc vào một nhà cung cấp mô hình duy nhất. 58

Lập luận này mở rộng câu chuyện an toàn vượt ra ngoài việc giới hạn hành vi của một mô hình. Nó cho rằng độ bền vững, khả năng chống chịu và cơ hội tham gia kinh tế có thể suy yếu nếu năng lực AI tiên tiến cùng tri thức bị dồn vào quá ít nhà cung cấp. Tuy nhiên, các tài liệu hiện có chỉ hỗ trợ nhận định về quyền kiểm soát dữ liệu, tri thức và vòng lặp học hỏi của doanh nghiệp; chúng không chứng minh mọi bên tham gia sẽ nắm trọng số mô hình hoặc được tiếp cận mọi hệ thống nền tảng. 58

MAI là gì?

MAI là họ mô hình AI do Microsoft AI tự phát triển. Tài liệu công khai của Microsoft cho thấy các mô hình thuộc nhiều lĩnh vực: MAI-Thinking-1 đang được cung cấp dưới dạng xem trước công khai qua Microsoft Foundry; MAI-Code-1.1-Flash phục vụ các tác vụ lập trình có tác tử, có thể lập kế hoạch, suy luận và thực thi; còn tài liệu MAI-Image-2.6 nêu mục tiêu căn chỉnh nhằm giảm tạo ra ảnh có hại hoặc không phù hợp. 272819

Dù vậy, hồ sơ công khai chưa đưa ra một danh mục đầy đủ, thống nhất về mọi năng lực, kế hoạch phát hành hay điều khoản phân phối của MAI. Đây là điểm cần lưu ý khi đánh giá bộ quy tắc mới sẽ được áp dụng rộng tới đâu trong thực tế.

Bài toán chưa có lời giải: an toàn, tốc độ và cạnh tranh toàn cầu

Những người ủng hộ “giảm nhịp” không nhất thiết kêu gọi dừng huấn luyện mô hình hoặc ngừng tiến bộ kỹ thuật. Lập luận của họ là tốc độ gia tăng năng lực cần chừa đủ thời gian cho công việc căn chỉnh, các lớp bảo vệ và hoạt động đánh giá đáng tin cậy từ bên ngoài. 34

Cách tiếp cận này đồng thời chịu sức ép địa chính trị, trong đó có lo ngại về việc duy trì vị thế dẫn đầu công nghệ trước cạnh tranh từ Trung Quốc. Khung đề xuất của Amodei cũng kết hợp các biện pháp an toàn mạnh hơn với hợp tác quốc tế và bài toán duy trì vai trò dẫn đầu của Mỹ. 32

Vì thế, thông điệp của Nadella không phải là đóng băng phát triển, cũng không phải tăng tốc bằng mọi giá. Đó là tiến bộ có quản trị: AI năng lực cao phải chịu sự kiểm soát của con người, các cam kết an toàn phải trở thành ràng buộc vận hành cụ thể, và lợi ích AI không nên bị tập trung vào một nhóm nhỏ. Dự thảo Bộ quy tắc AI Nhân văn là bước đi đáng kể để nêu rõ các ràng buộc ấy; câu hỏi khó hơn vẫn là liệu thực hành của toàn ngành có theo kịp tốc độ tăng năng lực AI hay không. 2358