Câu trả lờiĐã xuất bản23 nguồn
Shane Legg cảnh báo an toàn AI phải theo kịp đà tiến tới AGI
Shane Legg cảnh báo AI phát triển nhanh không được vượt quá năng lực giám sát và kiểm soát an toàn. DeepMind Institute là diễn đàn liên ngành về cách xây dựng, quản trị, triển khai và sử dụng AI ngày càng mạnh, gồm cả AGI.
Đăng bởiBiên tập bằng GPT-5.6 TerraHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Shane Legg cảnh báo AI phát triển nhanh không được vượt quá năng lực giám sát và kiểm soát an toàn.
- DeepMind Institute là diễn đàn liên ngành về cách xây dựng, quản trị, triển khai và sử dụng AI ngày càng mạnh, gồm cả AGI.
- Các bài viết đầu tiên bàn về tính minh bạch trong lập luận, chính sách kinh tế và điều kiện để con người phát triển trong kỷ nguyên AGI.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Google DeepMind co-founder Shane Legg warn about the relationship between rapidly advancing artificial intelligence and safety cont. Article summary: Legg’s central warning was that AI capabilities must not advance faster than the safeguards needed to monitor and control them. He launched the DeepMind Institute (DMI), a discussion and publishing platform on how AGI sh. Topic tags: general, news, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks
Shane Legg, đồng sáng lập Google DeepMind, đưa ra một thông điệp cốt lõi: năng lực AI không thể tăng nhanh hơn các biện pháp an toàn cần thiết để giám sát và kiểm soát những hệ thống ngày càng mạnh. Ông nêu cảnh báo này khi ra mắt DeepMind Institute (DMI), một diễn đàn mới tập trung vào việc triển khai và những hệ quả của trí tuệ nhân tạo tổng quát (AGI). 1
41
Điều Legg lo ngại: năng lực đi trước kiểm soát
Theo Legg, vấn đề không chỉ là các mô hình AI trở nên giỏi hơn, mà là liệu cơ chế giám sát, quản trị và kiểm soát có phát triển đủ nhanh để con người vẫn quản lý được chúng hay không. 1
Đó cũng là lý do phạm vi của DMI không dừng ở nghiên cứu kỹ thuật. Viện đặt mục tiêu thúc đẩy nghiên cứu, hợp tác và tranh luận liên ngành về các câu hỏi kỹ thuật lẫn xã hội quan trọng trong thời đại AGI: làm sao xây dựng và quản trị an toàn các hệ thống AGI, cũng như các cộng đồng tác tử AI mà chúng có thể hình thành. 16
DeepMind Institute làm gì?
DMI là nền tảng xuất bản và thảo luận, không phải đơn vị thay thế cho hoạt động nghiên cứu AI cốt lõi của DeepMind. Mục tiêu là tập hợp các đóng góp từ Google DeepMind và cộng đồng nghiên cứu rộng hơn về cách xây dựng, quản trị, triển khai và sử dụng AI có năng lực ngày càng cao. 36
42
Chương trình của viện trải rộng từ khoa học, giáo dục, xã hội, chính sách, triết học và kinh tế đến an toàn AI cùng sự phát triển thịnh vượng của con người. Nói cách khác, DMI không chỉ bàn về cách giảm rủi ro, mà còn đặt câu hỏi các thể chế, chính sách và mục tiêu xã hội cần thay đổi thế nào nếu AGI được triển khai rộng rãi. 16
36
Có nên làm chậm việc phát hành mô hình AI tiên phong?
Legg nhận xét đề xuất của CEO Anthropic Dario Amodei — làm chậm, nhưng không tạm dừng, việc phát hành các mô hình AI tiên phong — là hướng đi “thú vị” và “đáng để cân nhắc”. 2
Đây chưa phải tuyên bố về chính sách phát hành của DeepMind. Tuy vậy, phát biểu cho thấy Legg xem nhịp độ triển khai thận trọng hơn là một lựa chọn nghiêm túc trong cuộc tranh luận về việc bảo đảm biện pháp an toàn tương xứng với năng lực AI. 2
AGI đã xuất hiện chưa? Legg nói là còn quá sớm
Legg cho rằng còn quá sớm để kết luận AGI đã đạt được, bất chấp các tuyên bố gần đây từ lãnh đạo Nvidia và OpenAI. Các thông tin được dẫn không nêu đầy đủ, trực tiếp mọi khoảng cách năng lực mà ông đề cập; vì vậy, kết luận có cơ sở nhất là Legg không cho rằng các hệ thống hiện tại đã đạt ngưỡng AGI của DeepMind. 4
Google DeepMind mô tả AGI là một hệ thống có các năng lực nhận thức của bộ não con người. Đây là tiêu chuẩn rộng hơn đáng kể so với việc vượt trội ở một vài bài kiểm tra hay nhiệm vụ riêng lẻ. 13
Dù vậy, Legg vẫn nói ông “thoải mái” với dự báo lâu nay rằng có 50% khả năng đạt “AGI tối thiểu” vào năm 2028. Đây là một dự báo, không phải mốc thời gian đã được xác nhận. 2
10
Những bài viết đầu tiên của DMI bàn về gì?
Bộ nội dung ra mắt gồm một bài giới thiệu và các bài tiểu luận chuyên đề. Ba chủ đề nổi bật ban đầu cho thấy cách tiếp cận rộng của viện:
- Tính minh bạch trong lập luận — Bài viết của Rohin Shah và Anca Dragan lập luận rằng cần duy trì khả năng diễn giải quá trình lập luận để con người có thể theo dõi dấu hiệu đánh lừa hoặc mưu tính của mô hình.
11
- Chính sách kinh tế cho AGI — Một bài viết đánh giá 11 chính sách có thể giúp ứng phó với khả năng xáo trộn kinh tế do AI ngày càng tiên tiến và phổ biến, dựa trên các tiêu chí như phúc lợi, khả năng chống chịu, quyền tự chủ và ổn định kinh tế.
39
- Các nguyên tắc cho một chủ nghĩa không tưởng mới — Bài viết xem xét ý nghĩa của sự phát triển thịnh vượng của con người trong một xã hội được AGI định hình, đồng thời lưu ý không nên coi “không tưởng” là lời hứa về sự hoàn hảo.
DMI cũng liệt kê bài viết chuyên đề thứ tư trong đợt ra mắt, “A framework for frontier AI and the dawning of a new age”, bên cạnh bài giới thiệu và ba chủ đề nêu trên. 41
38
Điểm đáng chú ý
Lập trường của Legg kết hợp tính cấp bách và sự kiềm chế. Ông không coi AGI là điều đã thành hiện thực, nhưng vẫn đặt xác suất đáng kể — 50% — cho khả năng đạt “AGI tối thiểu” vào năm 2028. Vì thế, cảnh báo của ông không chỉ xoay quanh một dự đoán thời điểm: nếu năng lực AI tăng tốc, năng lực hiểu, giám sát và định hình cách công nghệ được triển khai cũng phải tăng tốc tương ứng. 1
2
16
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Shane Legg cảnh báo an toàn AI phải theo kịp đà tiến tới AGI" là gì?
Shane Legg cảnh báo AI phát triển nhanh không được vượt quá năng lực giám sát và kiểm soát an toàn.
Những điểm chính cần xác nhận đầu tiên là gì?
Shane Legg cảnh báo AI phát triển nhanh không được vượt quá năng lực giám sát và kiểm soát an toàn. DeepMind Institute là diễn đàn liên ngành về cách xây dựng, quản trị, triển khai và sử dụng AI ngày càng mạnh, gồm cả AGI.
Tôi nên làm gì tiếp theo trong thực tế?
Các bài viết đầu tiên bàn về tính minh bạch trong lập luận, chính sách kinh tế và điều kiện để con người phát triển trong kỷ nguyên AGI.