Sam Altman cảnh báo hai rủi ro AI: Mất kiểm soát và quyền lực tập trung

Sam Altman, CEO OpenAI, cho rằng AI mạnh có thể khiến xã hội thất bại theo hai hướng rất khác nhau: con người đánh mất quyền kiểm soát các hệ thống ngày càng năng lực hơn, hoặc quyền lực AI bị dồn vào tay quá ít chủ thể. Lập luận này đặt an toàn kỹ thuật và quản trị quyền lực vào cùng một khung: AI an toàn không chỉ phụ thuộc vào việc mô hình làm được gì, mà còn phụ thuộc vào việc ai có quyền điều khiển nó. 1316

Hai con đường Altman nói phải tránh

Thứ nhất: con người mất quyền kiểm soát. Altman cảnh báo nhân loại có thể “mất quyền kiểm soát tương lai vào tay AI” — một kết cục ông gọi là không thể chấp nhận. Theo ông, AI phải phục vụ con người, thay vì con người trở nên lệ thuộc hoặc bị đặt dưới quyền của những hệ thống mà họ không thể giám sát đầy đủ. 216

Thứ hai: quyền lực AI tập trung quá mức. Ông cũng cảnh báo về viễn cảnh một hệ thống AI đặc biệt mạnh bị một cá nhân, doanh nghiệp hoặc quốc gia kiểm soát rồi dùng để áp đặt thế giới quan của họ lên tất cả mọi người. Altman nói kết quả khi đó có thể “cực kỳ phản địa đàng”. 113

Hai rủi ro này có liên quan nhưng không giống nhau. Rủi ro đầu tiên là vấn đề con người có còn hiểu, kiềm chế và ghi đè được quyết định của hệ thống hay không. Rủi ro thứ hai là: ngay cả khi hệ thống vẫn có thể bị kiểm soát, quyền kiểm soát ấy có bị trao cho một chủ thể sở hữu quá nhiều quyền lực mà không bị giám sát hay không.

Altman đề xuất những hàng rào nào?

Quan điểm công khai của Altman không phải là dừng hẳn phát triển AI. Thay vào đó, ông cho rằng năng lực mô hình không được vượt quá tốc độ phát triển của công tác căn chỉnh, hay alignment — tức khiến hành vi AI phù hợp với mục tiêu và lợi ích của con người — cùng các cơ chế giám sát. Áp lực cạnh tranh cũng không thể là cái cớ cho việc triển khai thiếu thận trọng. 213

Các biện pháp ông nhấn mạnh gồm:

• Căn chỉnh và giám sát phải theo kịp năng lực AI. Nhà phát triển cần có khả năng đánh giá và kiểm soát thực chất những gì các hệ thống ngày càng mạnh có thể làm. 213
• AI phải luôn phục vụ con người. Đây là nguyên tắc nền tảng trong cảnh báo của Altman về nguy cơ mất kiểm soát. 216
• Các yêu cầu liên bang nhất quán đối với AI tuyến đầu. Altman ủng hộ một khuôn khổ cấp liên bang tại Mỹ để quản lý rủi ro của các mô hình AI tiên tiến, thay vì chỉ dựa vào những cam kết tự nguyện rời rạc. 1316
• Giám sát độc lập. Ông nêu ý tưởng về các kiểm toán viên độc lập như một cách giúp công chúng tin tưởng hơn vào các công ty đang phát triển mô hình ngày càng mạnh. 16

Hàm ý thực tế là các hệ thống mạnh nhất phải đáp ứng ngưỡng chứng minh an toàn cao hơn: biện pháp bảo vệ cần được kiểm tra và đủ độ tin cậy trước khi ra quyết định triển khai, thay vì trở thành phần việc làm sau khi năng lực đã đi quá xa.

Cảnh báo từ Anthropic làm cuộc tranh luận gay gắt hơn

Cùng tuần đó, Jacob Coxon, cựu nghiên cứu viên của Anthropic, cảnh báo các phòng thí nghiệm hàng đầu đang chạy đua hướng tới AI có thể tự cải thiện và “đánh cược bằng mạng sống của chúng ta”. Theo các bài tường thuật về việc ông từ chức, Coxon tin rằng những người trực tiếp xây dựng các hệ thống này thực sự lo ngại chúng có thể trở nên quá mạnh để con người kiểm soát. 17

Cách diễn đạt của Coxon trực diện hơn Altman, nhưng mối lo cốt lõi trùng nhau: năng lực AI có thể tăng nhanh hơn khả năng giám sát đáng tin cậy. Trong một trao đổi công khai được thuật lại, Evan Hubinger, người phụ trách mảng căn chỉnh tại Anthropic, đưa ra đánh giá cá nhân rằng xác suất AI gây tuyệt chủng loài người trong vòng một thập kỷ là trên 10%, đồng thời thừa nhận chưa có lời giải hoàn chỉnh cho bài toán căn chỉnh siêu trí tuệ. Đây là nhận định rủi ro cá nhân, không phải dự báo đã được xác lập hay một xác suất khoa học có đồng thuận. 17

Điểm quan trọng không phải là một mốc thời gian tuyệt chủng cụ thể đã được chứng minh — điều đó chưa xảy ra. Vấn đề là những người làm việc sát với AI tuyến đầu đang công khai tranh luận liệu các thực hành an toàn hiện có có tiến bộ đủ nhanh so với các hệ thống mà họ đang phát triển hay không.

Bất đồng thực sự: năng lực trước hay an toàn trước?

Sự chia rẽ mới nổi thường bị mô tả như cuộc đối đầu giữa phe tăng tốc AI và phe muốn làm chậm AI. Nhưng cách nhìn đó chưa đầy đủ. Phần lớn các bên đều cho rằng AI có thể mang lại lợi ích lớn; bất đồng nằm ở trình tự và khả năng thực thi.

Một quan điểm cho rằng phát triển AI tuyến đầu phải được điều tiết nhịp độ để nghiên cứu an toàn, đánh giá, quản trị và biện pháp ứng phó hành vi lạm dụng có thời gian trưởng thành. Dario Amodei, CEO Anthropic, kêu gọi làm chậm tốc độ nâng cao năng lực mô hình và đưa ra các đề xuất như để bên đánh giá độc lập tham gia sâu, phối hợp giữa các phòng thí nghiệm AI tuyến đầu và hợp tác quốc tế.

Áp lực theo hướng ngược lại là có thật: doanh nghiệp và chính phủ lo ngại chậm hơn đối thủ có thể đồng nghĩa đánh mất lợi thế kinh tế hoặc địa chính trị. Tuy vậy, lập luận của Altman là cạnh tranh không thể biện minh cho việc để năng lực AI vượt xa căn chỉnh và giám sát. 13

Reuters đưa tin một số nhà nghiên cứu cho rằng năng lực mô hình xuất hiện nhanh hơn dự kiến, trong khi khả năng con người quan sát và kiểm soát chúng có thể đang suy giảm. Điều này khiến câu hỏi chính sách trở nên cấp bách: các phòng thí nghiệm nên tiếp tục triển khai các mô hình ngày càng tự chủ trong khi hàng rào an toàn chạy theo sau, hay phải chứng minh trước rằng những hàng rào đó là đủ?

Điều này đặt ra gì cho quản trị AI?

Hai cảnh báo của Altman cho thấy quản trị AI tuyến đầu cần xử lý đồng thời kiểm soát kỹ thuật và phân bổ quyền lực. Đánh giá mô hình tốt hơn, nghiên cứu căn chỉnh, giám sát và kiểm tra độc lập nhằm giải quyết vấn đề thứ nhất. Quy tắc nhất quán, minh bạch và giới hạn quyền kiểm soát đơn phương hướng tới vấn đề thứ hai.

Không nên xem các dự báo thảm họa hay mốc thời gian chính xác là sự thật đã ngã ngũ. Nhưng chính mức độ nghiêm trọng tiềm tàng của thất bại đã khiến yêu cầu về đánh giá chặt chẽ hơn, giám sát từ bên ngoài và tiêu chuẩn an toàn trở thành một câu hỏi trung tâm của ngành AI. 13