AI đang giúp phát triển AI: Vì sao cần giám sát tốc độ tự động hóa?

Điều khiến một nhóm lãnh đạo và nhà nghiên cứu AI kêu gọi giám sát không chỉ là khả năng các mô hình ngày càng mạnh. Mối lo nằm ở chỗ AI có thể góp phần tạo ra thế hệ AI tiếp theo, từ đó hình thành một vòng lặp đẩy nhanh nghiên cứu và phát triển. Các đại diện từ OpenAI, Anthropic, Meta và Microsoft muốn nhà hoạch định chính sách tìm hiểu quá trình tự động hóa này đã tiến xa đến đâu, trước khi nhịp thay đổi khiến việc giám sát trở nên khó khăn hơn. 23

Kịch bản đó đôi khi được gọi là “bùng nổ trí tuệ” (intelligence explosion). Đây là một tình huống rủi ro cần xem xét, không phải bằng chứng cho thấy AI hiện đã tự cải tiến mà không có con người định hướng. Câu hỏi chính sách ở đây là làm sao đo lường và quản lý vai trò ngày càng lớn của AI trong nghiên cứu AI. 114

Vì sao AI hỗ trợ nghiên cứu có thể đẩy nhanh tiến độ?

AI có thể tham gia vào nhiều công đoạn phát triển các mô hình tương lai. Nếu những đóng góp đó giúp tạo ra hệ thống có năng lực cao hơn, và hệ thống mới lại đảm nhận thêm phần việc nghiên cứu, mỗi vòng lặp có thể khiến vòng tiếp theo diễn ra nhanh hơn. Đây là ý tưởng về “tự cải tiến đệ quy”: AI hỗ trợ cải thiện chính quy trình tạo ra AI. 15

Điều các nhà nghiên cứu cảnh báo là tốc độ thay đổi. Một kịch bản được nêu trong các bài đưa tin về nghiên cứu cho rằng tiến bộ vốn cần một năm có thể đạt được chỉ trong vài tuần. Đây là dự báo về một khả năng, không phải kết quả đã được đo lường; các nguồn hiện có không xác nhận rằng tốc độ ấy đã thành hiện thực. 314

Một nghiên cứu trước đó, dựa trên phỏng vấn 25 nhà nghiên cứu tại các phòng thí nghiệm AI tiên tiến và giới học thuật, ghi nhận nhiều người dự đoán AI sẽ tự động hóa nghiên cứu AI và tạo ra vòng phản hồi tích cực. Điều này giúp lý giải vì sao giới chuyên môn coi khả năng trên là đáng quan tâm, nhưng không chứng minh rằng “bùng nổ trí tuệ” chắc chắn sẽ xảy ra. 1

Các nhà nghiên cứu muốn giới chức xem xét điều gì?

Trước mắt, họ muốn có cái nhìn rõ hơn về mức độ các công ty đang sử dụng AI trong nghiên cứu và phát triển. Hơn 20 lãnh đạo và nhà nghiên cứu AI đã kêu gọi nhà hoạch định chính sách xem xét tiến trình này và cân nhắc các biện pháp bảo vệ công nghệ. 2

Lời kêu gọi ấy không đồng nghĩa các phòng thí nghiệm đã giao quyền kiểm soát nghiên cứu cho AI. Nhưng nếu biết rõ AI đang được dùng ở khâu nào và với mức độ ra sao, giới chức có thể đánh giá liệu cơ chế giám sát hiện tại còn phù hợp khi hệ thống đảm nhận ngày càng nhiều công việc phát triển hay không. 23

Làm chậm phát triển có thể giúp ích gì?

Một sự chậm lại có phối hợp có thể tạo thêm thời gian để kiểm tra độ an toàn, đánh giá độc lập và xây dựng cơ chế giám sát trước khi năng lực của các hệ thống thay đổi thêm. Các nhà nghiên cứu tại OpenAI và Anthropic đã công khai kêu gọi phát triển chậm hơn, trong khi một số lãnh đạo khác ủng hộ cách tiếp cận dựa nhiều hơn vào thị trường. Tranh luận này cho thấy ngành AI chưa thống nhất nên giảm tốc đến mức nào, hay một đợt tạm dừng khả thi sẽ gồm những gì. 818

Cách làm cụ thể cũng còn bỏ ngỏ: những hệ thống hay hoạt động nào sẽ nằm trong diện áp dụng, ai sẽ theo dõi việc tuân thủ, và các công ty cạnh tranh có thể phối hợp ra sao? Các bài đưa tin lưu ý rằng cả định nghĩa về một đợt tạm dừng lẫn cách thực thi vẫn chưa rõ ràng.

“Phanh khẩn cấp” cho AI: hữu ích nhưng không đơn giản

Chủ tịch Microsoft Brad Smith cho rằng những bên tạo ra mô hình AI, nhà cung cấp hạ tầng đám mây và những người quản lý tác nhân AI nên có khả năng tắt hệ thống. Đề xuất này xem khả năng tắt như một “phanh khẩn cấp” tiềm năng, chứ không phải phương án thay thế cho việc phòng ngừa và giám sát thường xuyên.

Cơ chế tắt cũng có giới hạn. Hệ thống AI có thể vận hành trên hạ tầng phân tán, nên không có một nút bấm duy nhất nào bảo đảm mọi thành phần đều dừng hoạt động. Các chuyên gia cũng nhấn mạnh vai trò của việc theo dõi liên tục và can thiệp của con người.

Xung đột lợi ích thương mại đặt ra câu hỏi quản trị

Đề xuất giao vai trò giám sát cho nhà phát triển và nhà cung cấp đám mây làm nảy sinh một câu hỏi về quản trị: doanh nghiệp có thể vừa tham gia quản lý hệ thống, vừa là bên xây dựng hoặc lưu trữ hệ thống đó. Microsoft tham gia phát triển mô hình AI và đồng thời là nhà cung cấp dịch vụ đám mây, như phát biểu của Smith cho thấy. Sự giao thoa này khiến các cơ chế kiểm tra độc lập và quy định rõ ràng trở nên quan trọng; tự nó không chứng minh rằng quan điểm an toàn của bất kỳ công ty nào là thiếu chân thành. 2

Bài toán phối hợp rộng hơn cũng chưa có lời giải. Các lãnh đạo trong ngành bất đồng về tốc độ phát triển, trong khi lời kêu gọi giảm tốc xuất hiện giữa cuộc cạnh tranh mạnh mẽ để xây dựng và triển khai AI. Một công ty tự nguyện kiềm chế có thể khó duy trì lựa chọn đó nếu các đối thủ vẫn tăng tốc. Các nguồn cho thấy có bất đồng và áp lực cạnh tranh, nhưng không chứng minh lợi ích đầu tư quyết định quan điểm của từng nhà nghiên cứu. 1218

Vì vậy, giới hoạch định chính sách đang đối diện hai câu hỏi liên quan: làm sao theo dõi vai trò của AI trong việc phát triển AI, và làm sao để các biện pháp bảo vệ có thể kiểm chứng thay vì chỉ dựa vào cam kết của doanh nghiệp. Những cảnh báo này là lý do để xem xét các câu hỏi ấy ngay từ bây giờ; chúng chưa xác định “bùng nổ trí tuệ” có khả năng xảy ra đến đâu, hay biện pháp chính sách nào sẽ hiệu quả nhất. 123