Câu trả lờiĐã xuất bản25 nguồn
Andrew Ng: Nỗi sợ AI gây tuyệt chủng “giống khoa học viễn tưởng” hơn là khoa học
Trong cuộc phỏng vấn Bloomberg TV ngày 17/9, Andrew Ng nói nỗi sợ AI gây tuyệt chủng “giống khoa học viễn tưởng hơn là khoa học”. Ng không phủ nhận rủi ro AI, nhưng muốn ưu tiên kiểm thử, rào chắn kỹ thuật và các nguy cơ có thể quan sát, đặc biệt là an ninh mạng.
Đăng bởiBiên tập bằng GPT-5.6 TerraHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Trong cuộc phỏng vấn Bloomberg TV ngày 17/9, Andrew Ng nói nỗi sợ AI gây tuyệt chủng “giống khoa học viễn tưởng hơn là khoa học”.
- Ng không phủ nhận rủi ro AI, nhưng muốn ưu tiên kiểm thử, rào chắn kỹ thuật và các nguy cơ có thể quan sát, đặc biệt là an ninh mạng.
- Dario Amodei, Sam Altman, Jacob Coxon và Geoffrey Hinton ủng hộ việc kìm nhịp phát triển AI tiên tiến hơn; Ng phản đối một đợt làm chậm trên diện rộng.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ng không nói AI vô hại. Điều ông phản đối là việc coi viễn cảnh AI sớm dẫn đến tuyệt chủng loài người như cơ sở trung tâm để hoạch định chính sách. Trong cuộc phỏng vấn Bloomberg TV ngày 17/9, người đồng sáng lập Google Brain gọi những cảnh báo ấy là “giống khoa học viễn tưởng hơn là khoa học”, đồng thời cho rằng an toàn AI cần được xử lý như một bài toán kỹ thuật: kiểm thử hệ thống, dựng các lớp bảo vệ và liên tục cải thiện chúng. 2
AI không thể dự đoán tuyệt đối, nhưng vẫn có thể được làm an toàn hơn
Theo Ng, các hệ thống AI sẽ không bao giờ hoàn toàn có thể dự đoán được. Tuy nhiên, điều đó không đồng nghĩa xã hội cần dừng phát triển AI trên diện rộng. Ông cho rằng kiểm thử, biện pháp bảo vệ và kỹ thuật phần mềm có thể cải thiện độ an toàn theo thời gian. Ng cũng cảnh báo rằng nếu làm chậm quá rộng rãi, tiến bộ về chính an toàn AI cũng có thể bị chậm lại. 2
Lập trường này đối nghịch với những người tin rằng các hệ thống ngày càng mạnh có thể sớm vượt khỏi tầm kiểm soát. Với Ng, chương trình an toàn thiết thực hơn phải khởi đi từ các lỗi và tác hại có thể quan sát, đo lường và xử lý.
Vì sao Ng bác bỏ câu chuyện “ngày tận thế”
Ng nói việc nhấn mạnh rủi ro hiện sinh của AI có thể làm tổn hại khả năng xã hội tận dụng đầy đủ lợi ích của công nghệ này. Ông cũng cho rằng ngành công nghệ từng khuếch đại nỗi sợ về thiệt hại thảm khốc của AI trong giai đoạn đầu của làn sóng bùng nổ AI, dường như nhằm thu hút chú ý và định hình quy định. 1
Đây cũng là tranh luận về động cơ: các tuyên bố kịch tính dễ thu hút sự chú ý, trong khi khung pháp lý có thể quyết định bên nào phải gánh chi phí tuân thủ. Ng không đề nghị ngừng công việc an toàn AI; điều ông phản đối là coi nguy cơ tuyệt chủng như kết luận khoa học đã được xác lập, hoặc dùng nó để biện minh cho một đợt tạm dừng bao trùm.
Những rủi ro Ng muốn ưu tiên
Thay vì vậy, Ng đề xuất giảm thiểu rủi ro theo hướng thực dụng. Các bài tường thuật về cuộc phỏng vấn nêu an ninh mạng cùng các biện pháp bảo vệ cụ thể là ưu tiên. 5
Về vận hành, cách tiếp cận này nhấn mạnh:
- Kiểm thử nghiêm ngặt trước và trong khi triển khai;
- Rào chắn và cơ chế bảo vệ nhằm hạn chế các kiểu lỗi đã biết;
- Cải tiến lặp để nâng độ tin cậy khi phát hiện vấn đề mới;
- Tập trung vào tác hại có thể dự báo, bao gồm rủi ro an ninh mạng, thay vì dồn trọng tâm chính sách vào kịch bản tuyệt chủng.
2
5
Cách nhìn này không hứa hẹn kiểm soát AI tuyệt đối. Nó lập luận rằng công nghệ hữu ích có thể đạt mức độ đáng tin cậy chấp nhận được bằng chu trình đánh giá và cải tiến liên tục, tương tự nhiều lĩnh vực kỹ thuật khác.
Khác biệt với nhóm muốn “kìm nhịp” AI tiên tiến
Nhiều nhân vật nổi bật trong ngành AI cũng muốn tăng cường an toàn, nhưng đi đến kết luận mạnh hơn về tốc độ phát triển các mô hình tiên tiến nhất.
Jacob Coxon: đánh giá rủi ro cao hơn nhiều
Jacob Coxon, cựu nhà nghiên cứu của Anthropic và OpenAI, đã rời Anthropic và cảnh báo rằng việc phát triển nhanh các hệ thống có khả năng tự cải thiện có thể dẫn tới thảm họa. Ông cho rằng cần làm chậm lại và sau đó hoan nghênh đề xuất kìm nhịp phát triển của Anthropic. 33
43
Dario Amodei: giảm tốc để có thời gian xây dựng biện pháp bảo vệ
CEO Anthropic Dario Amodei kêu gọi các công ty làm chậm tốc độ nâng cao năng lực mô hình AI. Mục tiêu ông nêu ra là tạo thêm thời gian để quản lý rủi ro, trong đó có một khuôn khổ sử dụng các bên đánh giá độc lập. 18
Sam Altman: ủng hộ việc kìm nhịp AI tiên tiến
CEO OpenAI Sam Altman đồng tình với tiền đề chính trong đề xuất của Amodei và cam kết OpenAI thực hiện một biện pháp bảo vệ: để các chuyên gia đánh giá bên ngoài có quyền tiếp cận đủ ý nghĩa nhằm xem xét thực hành an toàn. 19
24
Geoffrey Hinton: lo ngại AI mất kiểm soát
Geoffrey Hinton cho biết có “rủi ro đáng kể” AI có thể thoát khỏi sự kiểm soát của con người. Ông ủng hộ làm chậm phát triển và các biện pháp như kiểm thử trước khi phát hành, đồng thời cho rằng các chính phủ đã hành động quá chậm. 20
Vì vậy, bất đồng thực tế nằm ở cả xác suất lẫn chính sách. Coxon, Amodei, Altman và Hinton xem rủi ro mất kiểm soát là đủ đáng tin để chủ động kìm nhịp các hệ thống tiên tiến nhất. Ng cho rằng các tuyên bố về tuyệt chủng chưa có đủ nền tảng và muốn dồn nguồn lực an toàn vào những lỗi cụ thể, có thể xử lý. 2
18
20
Không muốn làm chậm AI không có nghĩa cùng một lập luận
Việc Ng phản đối giảm tốc trên diện rộng không đồng nghĩa ông chia sẻ mọi lập luận của những lãnh đạo chính trị và doanh nghiệp cũng phản đối điều này.
- Jensen Huang: CEO Nvidia nói ngành AI không cần luật hay quy định mới.
53
- Mark Zuckerberg: CEO Meta cho rằng không cần một cuộc làm chậm trên toàn ngành vì cạnh tranh và động lực thị trường sẽ khiến doanh nghiệp phải làm mô hình an toàn hơn.
55
- Tổng thống Donald Trump: Trump gọi nỗi sợ AI mất kiểm soát là một “trò lừa bịp”, đồng thời nói Mỹ đã có công cụ để quản lý và truy tố các công ty AI.
49
50
- Quan chức Trung Quốc: Một người phát ngôn Bộ Ngoại giao Trung Quốc phản bác lời kêu gọi làm chậm phát triển AI tiên tiến.
Các quan điểm trên cùng đi đến kết luận phản đối một lệnh giảm tốc diện rộng, nhưng lý do không giống nhau. Lập luận của Ng chủ yếu mang tính kỹ thuật: tập trung vào tác hại đo lường được và xây dựng cơ chế kiểm soát tốt hơn. Trong khi đó, Huang, Zuckerberg, Trump và phía Trung Quốc nhấn mạnh ở các mức độ khác nhau việc phản đối ràng buộc mới, động lực thị trường, cạnh tranh hoặc chiến lược quốc gia. 2
50
52
53
55
Điểm gặp nhau hẹp ở rủi ro an ninh mạng
Tranh luận này không đơn giản là chia thành hai phe: quan tâm đến an toàn và không quan tâm đến an toàn. Chẳng hạn, CEO Cohere Aidan Gomez nói các mô hình AI đã trở thành vũ khí mạng đặc biệt mạnh vì có thể tìm và khai thác lỗ hổng ở quy mô lớn. 62 Mối lo này gần với lời kêu gọi của Ng về việc xử lý các rủi ro an ninh mạng cụ thể.
Tuy nhiên, các nguồn hiện có không đủ để xác định đầy đủ quan điểm của Gomez về việc làm chậm toàn ngành hoặc quản trị AI quốc tế. Tương tự, không có đủ bằng chứng để mô tả lập trường của nhà đầu tư Steve Eisman về chính sách giảm tốc, nghiên cứu an toàn, quy định và quản trị quốc tế.
Điều đáng chú ý
Can thiệp của Ng đặt lại trọng tâm của tranh luận về an toàn AI. Câu hỏi không phải là có cần làm AI an toàn hơn hay không, mà là liệu các kịch bản tuyệt chủng còn nhiều suy đoán có nên dẫn dắt toàn bộ chương trình hay không. Câu trả lời của ông là không: hãy ưu tiên kiểm thử, rào chắn và kỹ thuật để đối phó với các tác hại đã nhận diện được, đồng thời tránh một cuộc làm chậm đại trà mà theo ông có thể cản trở cả đổi mới lẫn tiến bộ về an toàn. 1
2
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Andrew Ng: Nỗi sợ AI gây tuyệt chủng “giống khoa học viễn tưởng” hơn là khoa học" là gì?
Trong cuộc phỏng vấn Bloomberg TV ngày 17/9, Andrew Ng nói nỗi sợ AI gây tuyệt chủng “giống khoa học viễn tưởng hơn là khoa học”.
Những điểm chính cần xác nhận đầu tiên là gì?
Trong cuộc phỏng vấn Bloomberg TV ngày 17/9, Andrew Ng nói nỗi sợ AI gây tuyệt chủng “giống khoa học viễn tưởng hơn là khoa học”. Ng không phủ nhận rủi ro AI, nhưng muốn ưu tiên kiểm thử, rào chắn kỹ thuật và các nguy cơ có thể quan sát, đặc biệt là an ninh mạng.
Tôi nên làm gì tiếp theo trong thực tế?
Dario Amodei, Sam Altman, Jacob Coxon và Geoffrey Hinton ủng hộ việc kìm nhịp phát triển AI tiên tiến hơn; Ng phản đối một đợt làm chậm trên diện rộng.