Câu trả lờiĐã xuất bản22 nguồn
Andrew Ng bác bỏ cảnh báo AI có thể khiến loài người tuyệt chủng
Andrew Ng nói các cảnh báo AI có thể dẫn đến tuyệt chủng nhân loại “giống khoa học viễn tưởng hơn là khoa học”. Ông cho rằng AI không thể hoàn toàn dự đoán được, nhưng có thể ngày càng đáng tin cậy nhờ kiểm thử, biện pháp bảo vệ và kỹ thuật an toàn.
Đăng bởiHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Andrew Ng nói các cảnh báo AI có thể dẫn đến tuyệt chủng nhân loại “giống khoa học viễn tưởng hơn là khoa học”.
- Ông cho rằng AI không thể hoàn toàn dự đoán được, nhưng có thể ngày càng đáng tin cậy nhờ kiểm thử, biện pháp bảo vệ và kỹ thuật an toàn.
- Ng cảnh báo diễn ngôn tận thế có thể làm lu mờ lợi ích của AI, đồng thời tạo sự chú ý và tác động đến cách quản lý ngành.
- Ông ưu tiên xử lý các nguy cơ cụ thể, trước mắt như an ninh mạng, thay vì áp dụng một lệnh giảm tốc trên diện rộng cho AI.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng bác bỏ nhận định rằng AI nhiều khả năng sẽ khiến loài người tuyệt chủng. Trong cuộc phỏng vấn với Bloomberg TV ngày 17/9, ông gọi những nỗi sợ đó là “giống khoa học viễn tưởng hơn là khoa học”. Theo Ng, việc hành vi của AI không thể dự đoán tuyệt đối là một bài toán kỹ thuật cần quản trị, chứ không phải bằng chứng để toàn xã hội phải dừng hoặc làm chậm rộng khắp việc phát triển AI. 10
Vì sao ông hoài nghi thông điệp “AI tận thế”?
Ng không nói an toàn AI là không quan trọng. Điều ông phản đối là việc đặt các viễn cảnh tuyệt chủng ở trung tâm của cuộc tranh luận. Ông cho rằng kiểu diễn ngôn này có thể khiến xã hội xao nhãng những lợi ích tiềm năng của AI. Ông cũng nhắc đến những chu kỳ công nghệ trước đây, khi các cảnh báo về tác hại thảm khốc có thể tạo hiệu ứng truyền thông và góp phần định hình khuôn khổ quản lý. 8
10
Hàm ý trong lập luận này là cần thận trọng với các quy định chỉ xoay quanh các hệ thống AI “biên giới” — tức những mô hình tiên tiến nhất — bởi yêu cầu tuân thủ phức tạp có thể dễ được các phòng thí nghiệm lớn, giàu nguồn lực đáp ứng hơn. Đây là một tranh luận về thiết kế chính sách, chứ không phải lý do để bỏ qua an toàn AI. 8
10
Ng còn cảnh báo rằng việc làm chậm phát triển AI một cách quá rộng có thể đồng thời làm chậm cả tiến bộ về an toàn. 10
Ưu tiên của Ng: giải quyết lỗi và nguy cơ có thể quan sát
Thay vì xây dựng chính sách quanh kịch bản tuyệt chủng, Ng đề cao cách tiếp cận kỹ thuật: kiểm thử nghiêm ngặt, các cơ chế bảo vệ và cải tiến lặp lại để giảm những dạng thất bại cụ thể. An ninh mạng là một ví dụ điển hình về loại rủi ro gần, thực tế và cần được xử lý trực tiếp. 10
Theo ông, AI sẽ không bao giờ hoàn toàn dễ dự đoán. Tuy nhiên, điều đó không có nghĩa là hệ thống không thể đạt mức độ tin cậy chấp nhận được — tương tự nhiều công nghệ phức tạp khác, độ an toàn được nâng dần bằng đánh giá, “lan can” kiểm soát và thực hành kỹ thuật tốt hơn. 10
Khác biệt với phe muốn giảm tốc AI
Một số lãnh đạo và nhà nghiên cứu AI nhìn nhận nguy cơ mất kiểm soát là đủ nghiêm trọng để chủ động giảm nhịp độ nâng cấp năng lực của các mô hình tiên tiến:
- Jacob Coxon, cựu nghiên cứu viên của OpenAI và Anthropic, rời Anthropic và cảnh báo việc phát triển quá nhanh, đặc biệt hướng tới các hệ thống có thể tự cải thiện, có thể dẫn tới thảm họa. Ông kêu gọi giảm tốc.
2
14
- Dario Amodei, CEO Anthropic, đề xuất làm chậm tốc độ nâng cao năng lực mô hình AI biên giới để có thêm thời gian quản trị rủi ro. Kế hoạch của ông gồm ba phần, trong đó có đánh giá độc lập đối với các mô hình tiên tiến.
3
- Sam Altman, CEO OpenAI, ủng hộ lập luận cơ bản về việc cần giảm tốc và tăng cường biện pháp bảo vệ, trong bối cảnh lo ngại ngành có thể tiến gần các hệ thống con người không kiểm soát nổi.
1
9
- Geoffrey Hinton cho rằng có một khả năng đáng kể AI thoát khỏi sự kiểm soát của con người. Ông ủng hộ phát triển chậm hơn và các biện pháp như kiểm thử trước khi phát hành.
16
Khác biệt cốt lõi là ở xác suất đánh giá và trọng tâm chính sách. Coxon, Amodei, Altman và Hinton xem rủi ro mất kiểm soát là đủ đáng ngại để chủ động điều tiết nhịp phát triển AI biên giới. Ng xem tuyên bố về tuyệt chủng là suy đoán, và đặt trọng tâm vào việc giải quyết các rủi ro gần, có thể nhận diện bằng kỹ thuật an toàn thông thường. 3
10
16
Những người cũng phản đối giảm tốc, nhưng với lý do khác
Ng có điểm gặp với một số nhân vật phản đối việc làm chậm AI trên quy mô toàn ngành, dù lập luận của họ không hoàn toàn giống nhau:
- Jensen Huang, CEO Nvidia, phản đối các luật mới dành riêng cho AI và bác bỏ quan điểm cần giảm tốc toàn diện.
5
- Mark Zuckerberg, CEO Meta, phản đối một lệnh tạm dừng trên toàn ngành, cho rằng cạnh tranh và động lực thị trường sẽ thúc đẩy doanh nghiệp làm cho mô hình an toàn hơn.
- Tổng thống Donald Trump bác bỏ lời kêu gọi giảm tốc, gọi các cảnh báo về mối nguy AI là một “trò lừa bịp”, đồng thời nhấn mạnh năng lực cạnh tranh của Mỹ, đặc biệt trước Trung Quốc.
- Một người phát ngôn Bộ Ngoại giao Trung Quốc cũng phản đối lời kêu gọi làm chậm AI biên giới, thể hiện sự không ủng hộ đối với một lệnh tạm dừng toàn cầu được áp đặt từ bên ngoài.
Điểm khác là Ng lập luận theo hướng kỹ trị: tập trung vào lỗi cụ thể, kiểm thử và cơ chế kiểm soát. Trong khi đó, Huang, Zuckerberg, Trump và phía Trung Quốc nhấn mạnh nhiều hơn tới đổi mới, cạnh tranh hoặc sự hoài nghi đối với các ràng buộc mới. 5
7
10
11
Các nguồn hiện có không đủ để mô tả một cách đáng tin cậy quan điểm cụ thể của Aidan Gomez và Steve Eisman về toàn bộ các vấn đề gồm giảm tốc AI, nghiên cứu an toàn, quản lý và điều phối quốc tế.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Andrew Ng bác bỏ cảnh báo AI có thể khiến loài người tuyệt chủng" là gì?
Andrew Ng nói các cảnh báo AI có thể dẫn đến tuyệt chủng nhân loại “giống khoa học viễn tưởng hơn là khoa học”.
Những điểm chính cần xác nhận đầu tiên là gì?
Andrew Ng nói các cảnh báo AI có thể dẫn đến tuyệt chủng nhân loại “giống khoa học viễn tưởng hơn là khoa học”. Ông cho rằng AI không thể hoàn toàn dự đoán được, nhưng có thể ngày càng đáng tin cậy nhờ kiểm thử, biện pháp bảo vệ và kỹ thuật an toàn.
Tôi nên làm gì tiếp theo trong thực tế?
Ng cảnh báo diễn ngôn tận thế có thể làm lu mờ lợi ích của AI, đồng thời tạo sự chú ý và tác động đến cách quản lý ngành.
Nguồn