Vì sao các nhà nghiên cứu an toàn AI kiệt sức giữa cuộc đua AI?

Công việc an toàn AI ở tuyến đầu đang tạo ra một dạng áp lực rất đặc biệt: một số người chịu trách nhiệm đánh giá các mô hình tiên tiến tin rằng chúng có thể gây hại nghiêm trọng, nhưng lại có ít quyền hạn để trì hoãn việc phát hành hoặc buộc nhà phát triển khắc phục vấn đề.

Các báo cáo cho biết một số nhân sự tại Viện An toàn AI của Anh (UK AI Safety Institute) đã nghỉ bệnh hoặc tìm tư vấn tâm lý. Những yếu tố được nêu gồm lịch kiểm thử gấp, tinh thần làm việc sa sút và nỗi lo AI được triển khai quá nhanh. Điều này không có nghĩa mọi nhân viên của viện, hay tại Anthropic, OpenAI và Google DeepMind, đều đang chịu tình trạng tương tự. Nhưng nó cho thấy cái giá con người của cuộc đua công nghệ có mức độ rủi ro cao. 2

Vì sao công việc này dễ trở thành gánh nặng tâm lý?

Các nhà nghiên cứu an toàn không đánh giá một công nghệ xa vời trong tương lai. Họ trực tiếp thử nghiệm những mô hình có thể sớm được đưa ra sử dụng. Từ đó nảy sinh mâu thuẫn giữa trách nhiệm nghề nghiệp và động lực nội bộ của tổ chức: phát hiện một lỗ hổng không đồng nghĩa với việc người đánh giá có quyền chặn một đợt phát hành.

Tại viện của Anh, áp lực được báo cáo tập trung vào khoảng thời gian đánh giá các hệ thống chưa công bố ngày càng ngắn, trong khi năng lực mô hình và việc thương mại hóa cùng tăng tốc. 2 Khi một sai sót bị cảm nhận là có hậu quả rất lớn, nhưng cá nhân người kiểm thử không thể tự giải quyết, tình trạng kiệt sức có thể đi kèm cảm giác bất lực và trách nhiệm nặng nề.

Đây nên được nhìn nhận là một vấn đề về thiết kế thể chế, không phải bằng chứng rằng một nhân viên nào đó phản ứng thiếu lý trí, hay rằng thảm họa chắc chắn sắp xảy ra. Căng thẳng phát sinh khi hệ quả tiềm tàng cao, tốc độ làm việc gấp gáp và cơ chế can thiệp độc lập chưa rõ ràng.

Những rủi ro mà giới nghiên cứu lo ngại

Nỗi lo bao gồm cả nguy cơ lạm dụng trong ngắn hạn lẫn kịch bản dài hạn, mang tính suy đoán hơn, về việc con người mất khả năng kiểm soát.

Lạm dụng trong an ninh mạng và sinh học

Mô hình AI mạnh có thể làm giảm kỹ năng, thời gian hoặc chi phí cần thiết để thực hiện hoạt động gây hại. Jacob Coxon, cựu nghiên cứu viên của Anthropic và từng làm việc tại OpenAI, nêu các mối đe dọa sinh học được AI hỗ trợ và vũ khí mạng là những con đường có thể dẫn tới thiệt hại nghiêm trọng. 15

Điều này không phải khẳng định một mô hình cụ thể đã gây ra sự cố như vậy. Đây là lý do các nhóm an toàn nhấn mạnh việc đánh giá, kiểm soát quyền truy cập và giám sát trước khi những hệ thống có khả năng suy luận hoặc hành động tự chủ cao hơn được triển khai rộng rãi.

Hệ thống tiến nhanh hơn cơ chế giám sát

Một nỗi lo khác là AI có thể tự động hóa ngày càng nhiều khâu trong nghiên cứu và kỹ thuật, qua đó tăng tốc chính chu trình phát triển AI. Báo cáo của CSET thuộc Đại học Georgetown cho rằng hoạt động nghiên cứu và phát triển AI được tự động hóa ở mức cao có thể đẩy nhanh tiến bộ năng lực, đồng thời khiến hệ thống khó để con người hiểu và kiểm soát hơn. Báo cáo nêu đây là một kịch bản rủi ro có thể xảy ra, chứ không phải kết quả đã được xác lập. 48

Bằng chứng hiện nay cũng đặt ra một giới hạn quan trọng. Một nghiên cứu gần đây cho thấy các tác tử AI có thể hoàn thành phần lớn công việc kỹ thuật phục vụ nghiên cứu mà không cần con người hỗ trợ, nhưng không đạt tiến bộ đáng kể trong các câu hỏi nghiên cứu mở được kiểm tra. 49 Vì vậy, việc AI tự cải thiện lặp lại hoàn toàn vẫn chưa được chứng minh. Mối lo nằm ở hướng đi và tốc độ: tự động hóa một phần cũng có thể rút ngắn quỹ thời gian dành cho đánh giá, quản trị và sửa sai.

Vì sao việc Jacob Coxon từ chức gây chú ý?

Việc Coxon công khai từ chức khiến những lo ngại vốn thường nằm trong nội bộ có một gương mặt cụ thể. Ông cho biết sau khi làm nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, ông tin các công ty này đang chạy đua hướng tới siêu trí tuệ có khả năng tự cải thiện mà không hành động đủ trách nhiệm. Coxon cũng nói với BBC rằng những người làm công nghệ này “thực sự sợ hãi” trước tốc độ phát triển và các hệ quả tiềm ẩn. 1

Một đơn từ chức không thể tự nó xác thực mọi dự báo của người ra đi. Tuy nhiên, nó làm lộ rõ một tình thế khó xử trong phòng thí nghiệm AI: ở lại bên trong để cố cải thiện hàng rào an toàn, hay rời đi và lên tiếng khi các kênh nội bộ bị cho là không đủ hiệu quả.

Vì sao một phòng thí nghiệm không thể tự mình giảm tốc?

Vấn đề cốt lõi là hành động tập thể. Một phòng thí nghiệm đơn phương làm chậm việc phát triển năng lực AI có thể lo bị đối thủ vượt qua; còn người lao động trong phòng thí nghiệm đó lại càng ít khả năng tác động đến một cuộc đua trên toàn ngành.

Thảo luận của Stanford HAI về câu hỏi liệu AI có nên giảm tốc hay không kết luận rằng việc giảm tốc phát triển năng lực AI trên diện rộng sẽ rất khó thực hiện. Dù vậy, các chuyên gia nhấn mạnh đánh giá độc lập do cơ quan nhà nước hoặc bên thứ ba đủ năng lực tiến hành, cùng với đầu tư mạnh hơn vào an toàn, bảo mật và giám sát. 18

Cách tiếp cận này cụ thể hơn việc đặt gánh nặng lên lương tâm của từng nhà nghiên cứu. Nó chuyển trọng tâm sang các quy tắc dùng chung: ai thực hiện kiểm thử, điều gì xảy ra khi vượt ngưỡng rủi ro, và ai có thể xác minh việc tuân thủ.

Lời kêu gọi giảm tốc của ngành có đáng tin không?

Dario Amodei của Anthropic, Sam Altman của OpenAI và Demis Hassabis của Google DeepMind đã công khai ủng hộ, ở các mức độ khác nhau, việc làm chậm hoặc “điều tiết nhịp độ” phát triển AI tuyến đầu. 32 Các đề xuất được thảo luận công khai bao gồm việc cho các bên đánh giá độc lập bên ngoài quyền tiếp cận liên tục với các phòng thí nghiệm AI tuyến đầu. 36

Nhưng tuyên bố công khai không đồng nghĩa với sự kiềm chế có thể cưỡng chế. Các nhà phê bình lưu ý rằng một lệnh “đóng băng AI” do các công ty lớn thiết kế có thể củng cố quyền lực của họ và gây bất lợi cho các đối thủ nhỏ hơn. 34 Hai điều có thể đồng thời đúng: một số lãnh đạo thực sự lo ngại về an toàn, và các doanh nghiệp đang dẫn đầu vẫn có thể hưởng lợi từ những quy định khó đáp ứng đối với đối thủ.

Vì thế, tiêu chuẩn hữu ích là khả năng kiểm chứng, thay vì suy đoán động cơ. Một cam kết an toàn nghiêm túc cần được đánh giá qua những yếu tố như:

• đánh giá độc lập không do riêng nhà phát triển kiểm soát;
• ngưỡng rủi ro rõ ràng cùng hậu quả khi vượt ngưỡng;
• báo cáo sự cố và thực hành bảo mật minh bạch;
• giám sát bên ngoài có thực quyền;
• bảo vệ nhân viên khi họ nêu quan ngại về an toàn.

Các báo cáo này cho thấy gì — và không cho thấy gì?

Các báo cáo không chứng minh nguy cơ tuyệt chủng của loài người là cận kề; không chứng minh mọi nhân viên tại các phòng thí nghiệm AI tuyến đầu đều khủng hoảng; cũng không chứng minh các hệ thống AI hiện tại có thể tự cải thiện vô hạn mà không cần con người.

Tuy nhiên, chúng lý giải vì sao một số người ở gần công nghệ này xem thời điểm hiện tại là một tình huống đạo đức khó khăn: các hệ thống mạnh được thử nghiệm dưới áp lực thời gian; rủi ro bị lo ngại trải từ lạm dụng trong an ninh mạng và sinh học đến mất kiểm soát; còn các thiết chế quản lý việc phát hành có thể chưa đủ độc lập hoặc quyền hạn. 2 15 18

Với nhà nghiên cứu an toàn AI, tổ hợp này có thể biến một công việc kỹ thuật thành câu hỏi về trách nhiệm cá nhân. Phản ứng bền vững không phải là để từng người lao động gánh trách nhiệm đó một mình, mà là xây dựng hệ thống đánh giá và giải trình đáng tin cậy, có thể kiểm chứng độc lập, để theo kịp chính công nghệ mà chúng phải quản trị.