Câu trả lờiĐã xuất bản22 nguồn
AI có thể gây tuyệt chủng? Cảnh báo nội bộ, hoài nghi và yêu cầu phải chứng minh an toàn
Ước tính hơn 10% của Evan Hubinger về khả năng AI giết chết toàn bộ loài người trong 10 năm là nhận định cá nhân, không phải xác suất khoa học đã được đo lường. Jacob Coxon và Bilal Chughtai cảnh báo cuộc đua AI có thể vượt quá khả năng kiểm soát; phe phản biện cho rằng giỏi trong môi trường số chưa tự động tạo ra q...
Đăng bởiBiên tập bằng GPT-5.6 TerraHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Ước tính hơn 10% của Evan Hubinger về khả năng AI giết chết toàn bộ loài người trong 10 năm là nhận định cá nhân, không phải xác suất khoa học đã được đo lường.
- Jacob Coxon và Bilal Chughtai cảnh báo cuộc đua AI có thể vượt quá khả năng kiểm soát; phe phản biện cho rằng giỏi trong môi trường số chưa tự động tạo ra quyền lực trong thế giới vật lý.
- Điểm gặp thực dụng là yêu cầu đánh giá độc lập, ngưỡng năng lực nguy hiểm, phối hợp giữa các phòng thí nghiệm và xử lý song song những tác hại AI đang hiện hữu.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Tranh luận hiện nay về việc AI có thể dẫn tới tuyệt chủng không đơn giản là cuộc đối đầu giữa bên cho rằng AI an toàn và bên cho rằng AI nguy hiểm. Câu hỏi thực chất là: năng lực AI sẽ tiến nhanh đến đâu, hệ thống cần đạt những điều kiện gì mới có thể gây hại không thể đảo ngược, và xã hội cần bao nhiêu bằng chứng trước khi siết chặt các giới hạn phát triển?
Các cảnh báo từ những người từng làm việc trong các phòng thí nghiệm AI tuyến đầu khiến vấn đề trở nên cấp bách hơn. Tuy vậy, nhiều người phản đối cách diễn đạt tận thế vẫn ủng hộ kiểm thử nghiêm ngặt và thực hành an toàn. Vì thế, trọng tâm chính sách đang dần chuyển sang một phép thử cụ thể hơn: các nhà phát triển có thể chứng minh rằng họ kiểm soát và triển khai an toàn các hệ thống ngày càng mạnh hay không?
Cảnh báo từ bên trong: cuộc đua tới hệ thống khó kiểm soát
Jacob Coxon, cựu nghiên cứu viên Anthropic và người cho biết từng làm việc tại OpenAI, đã rời Anthropic vào tháng 9/2026. Ông cho rằng hai công ty đang ưu tiên cạnh tranh hơn là phát triển có trách nhiệm, đồng thời “lao thẳng tới siêu trí tuệ tự cải thiện”. 49
Cảnh báo này nhận được sự ủng hộ công khai từ Evan Hubinger, người dẫn dắt mảng khoa học về căn chỉnh AI tại Anthropic. Hubinger nói cá nhân ông đánh giá xác suất AI có thể giết toàn bộ loài người trong thập kỷ tới là trên 10%; đồng thời thừa nhận Anthropic chưa có kế hoạch giải quyết bài toán căn chỉnh cho siêu trí tuệ. 16 Con số đó cần được hiểu đúng là dự báo cá nhân trong điều kiện bất định rất lớn, không phải đồng thuận khoa học hay xác suất được suy ra từ dữ liệu thực nghiệm.
12
Bilal Chughtai, cựu nghiên cứu viên Google DeepMind, cũng đưa ra cảnh báo tương tự: AI có khả năng giết chết tất cả mọi người và thời gian để ngăn chặn kịch bản này có thể đang cạn dần. 2
Những lập luận này thường mang tính điều kiện, chứ không phải khẳng định chatbot hiện tại sẽ đột ngột trở nên nguy hiểm. Chuỗi kịch bản mà họ lo ngại là các hệ thống tương lai có thể tăng tốc nghiên cứu AI, hoạt động tự chủ hơn, né tránh giám sát hiệu quả của con người, hoặc khuếch đại khả năng tiếp cận công cụ tấn công mạng, sinh học và các đòn bẩy thể chế — nhanh hơn tốc độ tiến bộ của phương pháp an toàn. Tính hợp lý và thời điểm của chuỗi này vẫn là điểm tranh cãi cốt lõi.
Vì sao con số 10% chưa phải một dự báo đã được xác lập
Nhận định của Hubinger gây chú ý vì mức độ nghiêm trọng và vị trí của ông trong lĩnh vực căn chỉnh AI. Nhưng nó không phải một xác suất đã được kiểm chứng bằng dữ liệu lịch sử, cũng không phải kết quả của mô hình có thể đo lường rủi ro tuyệt chủng. 12
Dự báo ấy phụ thuộc vào nhiều giả định chưa được giải quyết:
- AI phải trở nên mạnh hơn đáng kể so với các mô hình hiện nay.
- Năng lực đó phải chuyển hóa thành quyền tự chủ chiến lược bền vững hoặc quyền lực gây hại trong thế giới thực.
- Các biện pháp kiểm soát kỹ thuật, người vận hành, thể chế và biện pháp đối phó phải cùng thất bại trong việc ngăn chặn hệ thống hoặc hành vi lạm dụng nó.
- Nghiên cứu về an toàn và căn chỉnh AI phải không theo kịp đà tăng năng lực.
Mỗi mắt xích đều có thể được tranh luận độc lập. Điều đó không khiến mối lo trở nên tầm thường; nhưng cũng có nghĩa không nên xem một tỷ lệ nổi bật trên truyền thông là dự báo đã được chứng minh.
Lập luận hoài nghi: thông minh trên máy tính không đồng nghĩa quyền lực ngoài đời
Phe hoài nghi phản đối bước nhảy từ năng lực mạnh về ngôn ngữ và phần mềm sang khả năng gây thiệt hại vật lý ở quy mô tuyệt chủng. Ví dụ thường được nhắc đến là sinh học. Eric Xing cho rằng việc mô hình ngôn ngữ tạo ra một bản thiết kế bộ gene virus giả định khác về bản chất với việc tạo được virus có khả năng tồn tại: khâu vật liệu, chế tạo, khả năng sống về mặt sinh học, thao tác phòng thí nghiệm và thử nghiệm đều là những rào cản riêng biệt. 46
Sự phân biệt này rất quan trọng. Một mô hình có thể cung cấp thông tin hoặc thiết kế, nhưng để biến chúng thành tổn hại ngoài đời thực còn cần cơ sở chuyên dụng, kỹ năng thực hành khó truyền đạt, chuỗi cung ứng, thử nghiệm lặp lại và quyền tiếp cận vật liệu bị kiểm soát. Những rào cản đó không có nghĩa rủi ro an ninh sinh học bằng 0. Nhưng chúng thách thức giả định rằng năng lực số, tự thân nó, sẽ lập tức tạo ra sức mạnh vật lý mang tính quyết định.
Jensen Huang, CEO Nvidia, là một trong những người chỉ trích mạnh nhất các tuyên bố về tuyệt chủng, gọi ý tưởng AI sẽ kết thúc nhân loại là “hoàn toàn vô lý”. 33 Mark Cuban cũng lập luận rằng phản ứng của con người trước các tuyên bố đáng sợ có thể nguy hiểm hơn chính các “bầy” tác nhân AI.
43
Vì vậy, lập trường hoài nghi không nhất thiết là phủ nhận nhu cầu bảo vệ đối với AI tuyến đầu. Điểm chính của họ là một tuyên bố phi thường về nguy cơ tuyệt chủng cận kề cần bằng chứng mạnh hơn việc ngoại suy từ hiệu năng mô hình hiện nay và các đường dẫn tương lai còn mang tính suy đoán.
Điểm giữa đang hình thành: điều tiết tốc độ, kiểm chứng an toàn
Một hướng tiếp cận mang tính vận hành hơn đến từ những lãnh đạo không coi tuyệt chủng là điều chắc chắn, nhưng cũng không bác bỏ hoàn toàn. CEO Anthropic Dario Amodei kêu gọi làm chậm tốc độ cải thiện năng lực mô hình để có thêm thời gian cho công tác an toàn. Khung đề xuất của ông gồm các đánh giá viên độc lập được cắm tại doanh nghiệp với mức tiếp cận tương tự nhân viên, cùng sự phối hợp giữa các công ty AI tuyến đầu. 18
Reuters cho biết CEO OpenAI Sam Altman nằm trong nhóm lãnh đạo ủng hộ một sự giảm tốc có phối hợp, dù ngành vẫn chia rẽ về mức độ nên dựa vào các biện pháp bảo vệ do thị trường tự điều chỉnh. 19 Các báo cáo cũng cho biết Altman ủng hộ sự tham gia của đánh giá viên bên ngoài trong đề xuất này.
20
Cách tiếp cận đó chuyển cuộc tranh luận từ các dự báo trừu tượng sang các thực hành có thể kiểm chứng:
- Đánh giá độc lập: Cho chuyên gia bên ngoài có đủ năng lực quyền tiếp cận thực chất để kiểm tra các tuyên bố an toàn, thay vì chỉ dựa vào cam kết của doanh nghiệp.
18
- Ngưỡng dựa trên năng lực: Tăng giám sát hoặc hạn chế triển khai khi mô hình đạt tiến bộ đáng kể trong những lĩnh vực nguy hiểm, như tác chiến mạng hoặc hành vi tác nhân tự chủ.
- Phối hợp giữa các phòng thí nghiệm: Giảm động cơ cắt giảm biên độ an toàn chỉ vì sợ tụt lại trong cuộc đua.
- Hợp tác quốc tế: Điều phối tiêu chuẩn giữa các chính phủ và nhà phát triển AI lớn, gồm các cơ chế giảm áp lực cạnh tranh phải tung sản phẩm ra thị trường khi chưa đủ biện pháp bảo vệ.
27
- An toàn phải theo kịp năng lực: Xem năng lực kiểm soát, giám sát và ứng phó đã được chứng minh là điều kiện cần khi hệ thống mạnh hơn.
Lo ngại dài hạn có làm lu mờ tác hại trước mắt?
Một phê bình khác xoay quanh thứ tự ưu tiên. Ngay cả khi rủi ro thảm họa cần được nghiên cứu và có phương án dự phòng, việc chỉ tập trung vào các kịch bản tuyệt chủng còn suy đoán có thể làm mờ đi những tổn hại gắn với AI đã xuất hiện trong thực tế.
Danh sách vấn đề cấp bách gồm lạm dụng AI trong tấn công mạng, lừa đảo, giám sát, thông tin sai lệch, quyết định tự động có tính phân biệt đối xử, biến động việc làm và sự tập trung quyền lực. Chính Amodei cũng nêu các nguy cơ lạm dụng như phát triển vũ khí, tấn công mạng và giám sát khi kêu gọi giảm tốc độ phát triển. 29
Đây không nhất thiết là lựa chọn giữa tác hại hiện tại và rủi ro dài hạn. Nhiều biện pháp tốt có thể xử lý cả hai: kiểm soát quyền truy cập chặt hơn, đánh giá tốt hơn, chính sách triển khai thận trọng, giám sát độc lập, báo cáo sự cố và cơ chế trách nhiệm rõ ràng.
Điều cuộc tranh luận thực sự đặt ra
Kết luận mạnh nhất không phải là “AI gây tuyệt chủng đã được chứng minh”, cũng không phải “có thể gạt bỏ nguy cơ vì chưa ai chứng minh đầy đủ một đường dẫn thảm họa”. Những gì tranh luận này cho thấy là một chuẩn mực thực dụng hơn: các tuyên bố về độ an toàn của hệ thống AI ngày càng mạnh phải có thể kiểm tra, chịu sự thẩm định độc lập và tương xứng với quy mô thiệt hại tiềm tàng.
Coxon, Hubinger và Chughtai đưa ra lý do để thận trọng trong bối cảnh bất định. Những người hoài nghi như Huang và Xing chất vấn liệu bằng chứng hiện tại có đủ để biện minh cho kết luận tận thế trong tương lai gần hay không. Còn Amodei và Altman gợi ý một phản ứng chính sách không đòi hỏi phải giải quyết ngay mọi bất đồng triết học: điều tiết tốc độ ở biên công nghệ, đo lường năng lực nguy hiểm, mở cửa cho giám sát bên ngoài đáng tin cậy và phối hợp trước khi áp lực cạnh tranh biến các tuyên bố an toàn chưa được xác minh thành cơ sở mặc định cho triển khai. 49
16
33
18
19
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "AI có thể gây tuyệt chủng? Cảnh báo nội bộ, hoài nghi và yêu cầu phải chứng minh an toàn" là gì?
Ước tính hơn 10% của Evan Hubinger về khả năng AI giết chết toàn bộ loài người trong 10 năm là nhận định cá nhân, không phải xác suất khoa học đã được đo lường.
Những điểm chính cần xác nhận đầu tiên là gì?
Ước tính hơn 10% của Evan Hubinger về khả năng AI giết chết toàn bộ loài người trong 10 năm là nhận định cá nhân, không phải xác suất khoa học đã được đo lường. Jacob Coxon và Bilal Chughtai cảnh báo cuộc đua AI có thể vượt quá khả năng kiểm soát; phe phản biện cho rằng giỏi trong môi trường số chưa tự động tạo ra quyền lực trong thế giới vật lý.
Tôi nên làm gì tiếp theo trong thực tế?
Điểm gặp thực dụng là yêu cầu đánh giá độc lập, ngưỡng năng lực nguy hiểm, phối hợp giữa các phòng thí nghiệm và xử lý song song những tác hại AI đang hiện hữu.
Nguồn
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns