Câu trả lờiĐã xuất bản17 nguồn
Vì sao Jacob Coxon rời Anthropic và lời cảnh báo AI của ông có ý nghĩa gì
Jacob Coxon nói ông rời Anthropic vì tin rằng các phòng thí nghiệm AI tiên phong đang đẩy nhanh cuộc đua tới hệ thống tự cải thiện nhanh hơn khả năng xây dựng phương pháp kiểm soát và bảo đảm an toàn. Evan Hubinger của Anthropic nhận định rủi ro từ các mô hình hiện tại là thấp, nhưng cá nhân ông ước tính xác suất AI...
Đăng bởiBiên tập bằng GPT-5.6 TerraHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Jacob Coxon nói ông rời Anthropic vì tin rằng các phòng thí nghiệm AI tiên phong đang đẩy nhanh cuộc đua tới hệ thống tự cải thiện nhanh hơn khả năng xây dựng phương pháp kiểm soát và bảo đảm an toàn.
- Evan Hubinger của Anthropic nhận định rủi ro từ các mô hình hiện tại là thấp, nhưng cá nhân ông ước tính xác suất AI giết toàn bộ loài người trong 10 năm tới là trên 10%; đây là đánh giá chủ quan, không phải dự báo đã...
- Dario Amodei đề xuất làm chậm nhịp nâng cao năng lực AI tiên phong, giám sát độc lập và phối hợp quốc tế; trong khi giới phê bình lo quy định quá chặt có thể củng cố vị thế các hãng AI lớn.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Jacob Coxon rời Anthropic như một lời phản đối điều ông xem là động lực cạnh tranh nguy hiểm trong lĩnh vực AI tiên phong: các công ty chạy đua xây dựng những hệ thống ngày càng tự chủ, có thể tự cải thiện, trước khi có cách đáng tin cậy để kiểm soát chúng. Coxon cho biết ông từng làm nghiên cứu tiền huấn luyện (pretraining) tại cả Anthropic lẫn OpenAI, và cho rằng cả hai công ty đều chưa hành động đủ trách nhiệm. 2
3
Cáo buộc cốt lõi: năng lực AI đang đi nhanh hơn khả năng kiểm soát
Trong chuỗi bài đăng công khai trên X, Coxon cáo buộc Anthropic và OpenAI đang “lao thẳng tới siêu trí tuệ tự cải thiện và đánh cược mạng sống của chúng ta”. Mối lo của ông không phải chatbot hiện nay sắp tự mình gây ra sự tuyệt chủng của loài người. Thay vào đó, ông cảnh báo các hệ thống tương lai có thể vượt con người trên những nhiệm vụ tác động lớn, gồm cả năng lực an ninh mạng, rồi có được quyền lực hay nguồn lực thực tế trước khi con người có thể bảo đảm chúng hành động phù hợp với mục tiêu của mình. 3
5
8
Đây là điểm phân biệt quan trọng: lập luận của Coxon chủ yếu nói về sự leo thang năng lực và quản trị. Nếu hệ thống tiến bộ quá nhanh còn nghiên cứu an toàn tụt lại, hậu quả của một thất bại cuối cùng có thể rất nghiêm trọng, dù các mô hình hiện tại vẫn còn nhiều giới hạn.
Vì sao ông quyết định rời đi
Trả lời BBC, Coxon nói những người làm AI tiên tiến đang “thực sự sợ hãi” trước tốc độ phát triển. Ông cho rằng nếu không giảm tốc, sẽ có “khả năng đáng kể” nhân loại có thể chết trong tương lai gần. 1
Theo Coxon, một sự giảm tốc có ý nghĩa không thể do một công ty hoặc một quốc gia đơn lẻ thực hiện. Ông cho rằng cần phối hợp quốc tế, bao gồm cả với Trung Quốc, để việc thận trọng ở một nơi không chỉ khiến hoạt động phát triển AI mạnh nhất chuyển sang nơi khác. 1
Vì vậy, việc từ chức là sự bác bỏ công khai đối với các động lực khuyến khích phát triển mô hình AI tiên phong, chứ không phải cáo buộc rằng ông đã trực tiếp chứng kiến một vụ vi phạm an toàn cụ thể tại Anthropic. Các bài tường thuật về sự ra đi của Coxon mô tả nỗi lo rộng hơn của ông là cuộc đua xây những hệ thống mà doanh nghiệp có thể không kiểm soát được. 2
Các nhà nghiên cứu an toàn AI khác phản hồi ra sao?
Cảnh báo của Coxon nhận được sự ủng hộ từ Evan Hubinger, một nhà nghiên cứu về căn chỉnh AI (alignment) tại Anthropic. Hubinger nói rủi ro từ các mô hình hiện có là thấp, nhưng cá nhân ông đặt xác suất AI giết toàn bộ loài người trong 10 năm tới ở mức trên 10%. 13
Con số này cần được hiểu thận trọng. Đây là nhận định chủ quan về một kịch bản tương lai xác suất thấp nhưng hậu quả cực lớn, không phải dự báo đã được xác lập bằng bằng chứng thực nghiệm. Các thông tin xoay quanh việc Coxon từ chức cho thấy bất đồng sâu sắc về thời gian, xác suất và biện pháp bảo vệ phù hợp; chúng không chứng minh rằng giới khoa học đồng thuận về một nguy cơ tuyệt chủng cận kề. 13
Rủi ro trước mắt: lạm dụng mạng và năng lực tăng tốc
Các lo ngại cụ thể trong cuộc tranh luận này gần với nguy cơ lạm dụng an ninh mạng, thí nghiệm nguy hiểm và các tác tử AI ngày càng có năng lực hơn, thay vì kịch bản kiểu phim ảnh nơi AI bỗng dưng tự tấn công nhân loại.
Các bài viết về tranh luận này nêu lo ngại rằng mô hình tiên tiến có thể hỗ trợ xâm nhập hệ thống mạng và các dạng lạm dụng có tác động lớn khác. Chúng cũng nhắc tới một sự cố bị cáo buộc liên quan tới tác tử của OpenAI và nền tảng Hugging Face. Tuy nhiên, thông tin hiện có không cung cấp đủ chi tiết từ nguồn gốc để xác lập độc lập hoàn cảnh, mức độ cho phép hay phạm vi chính xác của sự việc. 2
63
Điểm thực tế cần rút ra là: các tuyên bố về siêu trí tuệ tương lai không nên làm lu mờ những câu hỏi có thể kiểm chứng ngay hôm nay — mô hình làm được gì, chúng được đánh giá ra sao trước khi phát hành, hành vi lạm dụng có bị phát hiện không, và ai có thể xác minh độc lập các tuyên bố về an toàn của phòng thí nghiệm.
Đề xuất của Amodei: điều tiết nhịp độ, không phải dừng toàn bộ AI
Không lâu sau cảnh báo của Coxon, CEO Anthropic Dario Amodei kêu gọi làm chậm tốc độ nâng cao năng lực của các mô hình AI tiên phong trong bài luận We Must Pace the Frontier. Đề xuất này không kêu gọi đình chỉ toàn bộ việc phát triển AI, mà đòi hỏi thêm thời gian để công tác phòng ngừa rủi ro bắt kịp đà tiến bộ năng lực. 1
Khung đề xuất được nêu gồm:
- giám sát và đánh giá độc lập với các mô hình AI tiên phong;
- tiêu chuẩn an toàn chung trong ngành và giữa các nước dân chủ; và
- về lâu dài, phối hợp quốc tế về quản trị AI, trong đó có hợp tác với Trung Quốc.
1
CEO OpenAI Sam Altman công khai ủng hộ định hướng chung và nói việc để các đơn vị đánh giá độc lập có mức độ tiếp cận tương tự nhân viên là một ý hay. Elon Musk cũng tán thành lời kêu gọi của Amodei, viết rằng “Dario đúng”. 1
Vì sao có người xem đây là vấn đề chính sách cạnh tranh
Các đề xuất an toàn từ những phòng thí nghiệm AI tiên phong lớn nhất không chỉ nhận được ủng hộ mà còn gây hoài nghi. Những người chỉ trích, trong đó có CEO Hugging Face Clément Delangue, lập luận rằng các hạn chế mạnh tay với mô hình tiên phong có thể ưu ái những công ty đã đủ nguồn lực để gánh chi phí tuân thủ. 1
3
Phê bình này không chứng minh nỗi lo của Coxon là thiếu chân thành. Nó nêu một câu hỏi khác: liệu quy định an toàn có thể vừa giảm rủi ro thực sự, vừa tập trung quyền lực vào một nhóm nhỏ các phòng thí nghiệm đương nhiệm?
Đó là điểm căng thẳng trung tâm của cuộc tranh luận. Một hệ thống quản trị đáng tin cậy cần tăng cường giám sát các hệ thống mạnh nhất, nhưng không biến yêu cầu an toàn thành một “hào lũy” nhân tạo bảo vệ số ít doanh nghiệp.
Kết luận
Coxon rời Anthropic vì ông kết luận chính cuộc đua giữa các công ty AI hàng đầu mới là nguồn nguy hiểm: động lực nâng cấp năng lực có thể lấn át thời gian cần thiết để xây dựng cơ chế kiểm soát, kiểm thử và phối hợp quốc tế. 2
3
Các tuyên bố mạnh nhất của ông vẫn gây tranh cãi. Chúng phản ánh một mối quan ngại nghiêm túc của một số người trong ngành AI, nhưng không phải bằng chứng rằng sự tuyệt chủng sắp xảy ra. Thách thức chính sách cấp bách hơn là tạo ra các biện pháp bảo vệ có thể được kiểm chứng độc lập cho những hệ thống ngày càng mạnh — đồng thời bảo đảm các biện pháp ấy không chỉ làm vững thêm vị thế của chính những công ty đang xây chúng. 1
13
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Vì sao Jacob Coxon rời Anthropic và lời cảnh báo AI của ông có ý nghĩa gì" là gì?
Jacob Coxon nói ông rời Anthropic vì tin rằng các phòng thí nghiệm AI tiên phong đang đẩy nhanh cuộc đua tới hệ thống tự cải thiện nhanh hơn khả năng xây dựng phương pháp kiểm soát và bảo đảm an toàn.
Những điểm chính cần xác nhận đầu tiên là gì?
Jacob Coxon nói ông rời Anthropic vì tin rằng các phòng thí nghiệm AI tiên phong đang đẩy nhanh cuộc đua tới hệ thống tự cải thiện nhanh hơn khả năng xây dựng phương pháp kiểm soát và bảo đảm an toàn. Evan Hubinger của Anthropic nhận định rủi ro từ các mô hình hiện tại là thấp, nhưng cá nhân ông ước tính xác suất AI giết toàn bộ loài người trong 10 năm tới là trên 10%; đây là đánh giá chủ quan, không phải dự báo đã...
Tôi nên làm gì tiếp theo trong thực tế?
Dario Amodei đề xuất làm chậm nhịp nâng cao năng lực AI tiên phong, giám sát độc lập và phối hợp quốc tế; trong khi giới phê bình lo quy định quá chặt có thể củng cố vị thế các hãng AI lớn.