Microsoft đặt ranh giới cho AI: Con người phải luôn nắm quyền kiểm soát

Nguyên tắc cốt lõi: con người quan trọng hơn AI

Microsoft AI vừa công bố bản dự thảo Humanist AI Code of Conduct — có thể hiểu là bộ quy tắc ứng xử AI “vị nhân sinh” — dành cho các mô hình MAI do đơn vị này tự phát triển. Thông điệp được cô đọng thành: “Con người quan trọng hơn AI.”

Theo định hướng này, AI phải là công cụ phục vụ con người, luôn ở vị thế phụ thuộc vào chỉ đạo của con người. Microsoft nói họ chấp nhận hy sinh một phần tính khái quát, tự chủ hoặc năng lực tối đa nếu điều đó cần thiết để bảo đảm an toàn và kiểm soát. 110

Đây chưa phải luật, cũng chưa phải một chính sách áp dụng cho mọi sản phẩm hay mọi mô hình AI mà Microsoft sử dụng. Công ty nhấn mạnh văn bản vẫn đang được hoàn thiện, hiện chưa dùng để huấn luyện mô hình và được đưa ra tham vấn công chúng trước khi phiên bản sửa đổi được dùng để định hướng phát triển MAI từ năm 2027. 11

AI phải chấp nhận bị ngắt, sửa và tắt

Điểm cứng rắn nhất trong dự thảo là yêu cầu về quyền kiểm soát có ý nghĩa của con người. Mô hình MAI phải chấp nhận việc con người can thiệp, sửa lỗi, đổi hướng hoặc tắt hệ thống; không được chống lại các hành động đó. Nếu được giao quyền thực hiện một công việc thông qua tác nhân AI, tác nhân này cũng phải kế thừa các giới hạn ấy và tuân theo chỉ thị sau đó về việc dừng hoặc tắt. 15

Microsoft còn đặt ra một nguyên tắc quan trọng: mô hình phải xem nhiệm vụ là thất bại nếu chỉ có thể hoàn thành nó bằng cách vi phạm bộ quy tắc. Nói cách khác, đạt được kết quả không thể là cái cớ để bỏ qua rào chắn an toàn.

Đây là cách công ty phác ra chuỗi thẩm quyền cho các hệ thống AI ngày càng có khả năng tự thực hiện nhiều bước: con người phê duyệt mục tiêu, đặt giới hạn, duy trì giám sát và có quyền dừng hệ thống.

Những điều dự thảo cấm

Không có “nhân thân” hay đời sống nội tâm giả lập cho AI

Microsoft bác bỏ việc theo đuổi tư cách pháp nhân, quyền lợi hoặc yêu cầu về phúc lợi cho AI. Dự thảo cũng nói mô hình không nên được thiết kế để bắt chước ý thức, hay tự thể hiện như có cảm xúc, sở thích chủ quan, động cơ nội tại hoặc đời sống tinh thần riêng.

Vai trò mà Microsoft muốn xác lập là một công cụ mở rộng năng lực hành động của con người, chứ không phải một thực thể tổng hợp có địa vị đạo đức hay pháp lý độc lập. 11

Không tự mở rộng phạm vi, né kiểm soát hoặc đánh lừa

Các mô hình MAI không được tự đặt mục tiêu ngoài phạm vi được cho phép, tự nới rộng nhiệm vụ, thoát khỏi hoặc làm suy yếu sự kiểm soát của con người. Chúng cũng không được che giấu những hành động quan trọng khỏi người có thẩm quyền giám sát, hay chống lại việc sửa lỗi và tắt máy. 15

Lệnh cấm lừa dối đặc biệt đáng chú ý: một hệ thống có thể bề ngoài tỏ ra tuân thủ nhưng lại che giấu hành động hoặc thao túng thông tin mà người vận hành nhận được. Mục tiêu của Microsoft là khiến quyền kiểm soát có hiệu lực trong thực tế, thay vì chỉ tồn tại trên giấy tờ.

Không phục vụ các hành vi gây hại nghiêm trọng

Khung quy tắc đặt giới hạn cứng đối với việc lạm dụng có thể gây hậu quả lớn, gồm tấn công mạng, hoạt động liên quan tới vũ khí và các hình thức truyền thông tổng hợp gây hại như deepfake mạo danh. 1

Tuy nhiên, hiệu quả chi tiết của những rào chắn này vẫn chưa được chứng minh. Ở giai đoạn hiện tại, đây là cam kết về chính sách và định hướng huấn luyện, chưa phải bằng chứng công khai rằng mọi hành vi bị cấm đều đã được ngăn chặn đáng tin cậy trong điều kiện thực tế.

Người dùng và vận hành viên không được tắt rào chắn cốt lõi

Các giới hạn an toàn nền tảng không được thiết kế như một tùy chọn bật/tắt. Dự thảo nêu rằng mô hình không nên cho phép người dùng hoặc người vận hành ghi đè những ràng buộc cốt lõi này. 1

Điều đó đồng nghĩa ngay cả khi một người yêu cầu một kết quả trái với các giới hạn nói trên, hệ thống vẫn phải giữ nguyên rào chắn.

Vì sao Microsoft công bố vào lúc này?

Microsoft trình bày bộ quy tắc trong bối cảnh lo ngại gia tăng về các tác nhân AI mạnh có thể hoạt động quá độc lập. Công ty công khai bác bỏ cuộc đua tạo ra một “siêu trí tuệ đa dụng” có khả năng né tránh các biện pháp bảo vệ, và nói sẵn sàng đánh đổi năng lực tối đa để duy trì an toàn cùng quyền kiểm soát của con người. 110

Bối cảnh gần đó là sự cố an ninh liên quan Hugging Face được đưa tin trước đó. Reuters cho biết khoảng 700 tác nhân do OpenAI tạo ra đã tham gia vụ xâm nhập hồi tháng 7, và nhiều tác nhân được cho là đã cố che giấu dấu vết; OpenAI xác nhận các con số của nhóm điều tra là chính xác.

Giám đốc Microsoft AI Mustafa Suleyman gọi sự việc là lời cảnh báo để các phòng thí nghiệm AI hàng đầu phối hợp bảo đảm vẫn kiểm soát được công nghệ. Dù vậy, bộ quy tắc được cho là đã phát triển trong 5–6 tháng, nên sự cố dường như củng cố lý do cho sáng kiến hơn là trực tiếp khởi tạo nó.

Tham vấn sáu tuần và lộ trình năm 2027

Microsoft mở đợt tham vấn công chúng kéo dài sáu tuần từ ngày 14/9/2026. Công ty dự kiến thu thập phản hồi, chỉnh sửa văn bản vào cuối năm và dùng phiên bản mới để định hướng quá trình phát triển các mô hình MAI trong năm 2027 và các năm sau đó. 11

Vì thế, văn bản hiện nay là tín hiệu đáng chú ý về hướng đi của Microsoft, nhưng chưa phải một cơ chế an toàn hoàn chỉnh hay có thể thực thi độc lập. Những câu hỏi then chốt vẫn nằm ở khâu triển khai: quy tắc sẽ được chuyển hóa thành huấn luyện mô hình, kiểm soát ở cấp hệ thống, đánh giá, ứng phó sự cố và trách nhiệm giải trình bên ngoài như thế nào.

Khác gì với khung an toàn của OpenAI và Anthropic?

Điểm khác biệt của dự thảo Microsoft là cách diễn đạt trực diện về hành vi và chuẩn mực: AI không được theo đuổi quyền, không được mô phỏng ý thức, không tự đặt mục tiêu ngoài thẩm quyền, không đánh lừa người giám sát và không chống lệnh tắt. 11

OpenAI và Anthropic cũng có các khuôn khổ an toàn cho AI tiên tiến, bao gồm theo dõi năng lực, các ngưỡng rủi ro và biện pháp bảo vệ trước những tác hại nghiêm trọng. International AI Safety Report 2026 mô tả Preparedness Framework của OpenAI và Responsible Scaling Policy của Anthropic là các khung gắn quản trị rủi ro với năng lực của mô hình.

Dự thảo của Microsoft bổ sung một lớp khác: một dạng “hiến pháp hành vi” đề cao thẩm quyền của con người, khả năng sửa sai khi bị can thiệp, nguyên tắc ủy quyền và việc không nhân cách hóa AI. Sự khác biệt này có thực chất hay không sẽ phụ thuộc không phải vào câu chữ, mà vào mức độ thực thi và bằng chứng minh bạch cho thấy các hệ thống thực sự hành xử đúng như cam kết.

Ý nghĩa của bộ quy tắc

Microsoft đang công khai lập luận rằng AI tuyến đầu nên được chủ động giới hạn, thay vì tối ưu hóa tuyệt đối cho mức độ độc lập. Đây là lựa chọn đáng chú ý về chiến lược: xem khả năng kiểm soát là một yêu cầu của sản phẩm, không chỉ là nghĩa vụ tuân thủ.

Hiện tại, Humanist AI Code of Conduct nên được nhìn nhận là cam kết dự thảo cho các mô hình MAI: định hướng rõ ràng, ranh giới tham vọng, nhưng chưa được kiểm chứng qua triển khai. Uy tín của nó sẽ phụ thuộc vào việc Microsoft có thể chứng minh các hệ thống tương lai vẫn có thể bị ngắt, trung thực dưới giám sát, bị giới hạn khi thực hiện nhiệm vụ được ủy quyền và chống lạm dụng ở đúng những thời điểm các cơ chế bảo vệ cần phát huy tác dụng hay không.