Câu trả lờiĐã xuất bản19 nguồn
Ba lối đi cho siêu trí tuệ: giám sát quốc tế, hợp nhất các phòng thí nghiệm hay một bên thống lĩnh?
Sam Altman được cho là đã nêu ba hướng quản trị siêu trí tuệ: giám sát quốc tế, hợp tác trong một tổ chức chung kiểu CERN, hoặc một nhà phát triển chiếm ưu thế đến mức hạn chế đối thủ tiếp cận năng lực tính toán. Các phương án được mô tả như những kịch bản có thể xảy ra, không phải ba chính sách OpenAI đã thông qua;...
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Sam Altman được cho là đã nêu ba hướng quản trị siêu trí tuệ: giám sát quốc tế, hợp tác trong một tổ chức chung kiểu CERN, hoặc một nhà phát triển chiếm ưu thế đến mức hạn chế đối thủ tiếp cận năng lực tính toán.
- Các phương án được mô tả như những kịch bản có thể xảy ra, không phải ba chính sách OpenAI đã thông qua; Altman dường như nghiêng về giám sát quốc tế và phản đối kịch bản thứ ba.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman được cho là đã trình bày với nhân viên OpenAI ba cách có thể quản trị sự phát triển của siêu trí tuệ: lập cơ quan giám sát quốc tế, đưa các phòng thí nghiệm AI lớn vào một tổ chức chung, hoặc để một nhà phát triển đạt ưu thế đủ lớn nhằm chặn đối thủ. Theo các bản tin, Altman dường như ủng hộ phương án giám sát quốc tế và gọi kịch bản thứ ba là “tồi tệ”. Đây là những viễn cảnh được nêu ra để thảo luận, không phải ba chính sách OpenAI đã thông qua. 1
4
6
Ba kịch bản được nhắc đến
1. Cơ quan giám sát quốc tế
Phương án đầu tiên là thành lập một cơ quan quốc tế theo mô hình Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA), có vai trò xây dựng hoặc thực thi các tiêu chuẩn an toàn AI. Các bản tin mô tả cơ quan này có thể giám sát những hệ thống AI tiên tiến, bao gồm hoạt động kiểm tra hoặc kiểm toán. 1
4
6
Tuy nhiên, những thông tin hiện có chưa cho thấy đầy đủ quyền hạn cụ thể của cơ quan này. Chẳng hạn, các nguồn chưa xác nhận mọi chi tiết đôi khi được gắn với đề xuất—như theo dõi cả năng lực tính toán lẫn mức tiêu thụ năng lượng—hoặc chứng minh cuộc thảo luận nội bộ là sự tiếp nối trực tiếp của một đề xuất cụ thể hồi tháng 5-2023.
2. “Kế hoạch Demis”
Phương án thứ hai được gọi là “Kế hoạch Demis”, theo tên Demis Hassabis của Google DeepMind. Ý tưởng là tập hợp các phòng thí nghiệm AI lớn vào một tổ chức kiểu CERN, hoặc để họ cùng hoạt động dưới một cơ chế chung. Nhà báo Amir Efrati liên hệ đề xuất này với một ý tưởng của Hassabis vào khoảng năm 2017. 5
23
Một bản tin cho biết tổ chức đó có thể cung cấp mô hình AI cho các quốc gia hợp tác với mình. 5 Trọng tâm của phương án là phối hợp thông qua một cấu trúc quản trị hoặc sở hữu chung, thay vì để các phòng thí nghiệm riêng lẻ tiếp tục cạnh tranh.
3. “Kế hoạch Eliezer”
Kịch bản thứ ba được đặt theo tên nhà nghiên cứu an toàn AI Eliezer Yudkowsky. Theo cách mô tả về cuộc thảo luận của Altman, một nhà phát triển có thể vươn lên dẫn trước nhờ AI tự cải thiện, rồi dùng sức mạnh có được để hạn chế đối thủ tiếp cận tài nguyên tính toán. Kịch bản này được tóm tắt bằng hình ảnh “làm tan chảy GPU của tất cả những bên còn lại”. Các bản tin cho biết Altman phản đối kết cục đó. 3
5
6
“Kế hoạch Eliezer” không đồng nghĩa với điều gì?
Tên gọi này có thể khiến hai ý tưởng khác nhau bị nhập làm một. Các tường thuật về bài viết năm 2022 của Yudkowsky mô tả khái niệm “hành động then chốt”: một AGI đã được căn chỉnh có thể ngăn người khác tạo ra AGI chưa được căn chỉnh. 7
10 Điều đó không giống kịch bản một công ty tận dụng lợi thế để thống trị các nhà phát triển cạnh tranh.
Một bản tin riêng cho biết Yudkowsky sau đó đã làm rõ rằng ví dụ “đốt hết GPU” của ông không phải là một đề xuất. 34 Các nguồn hiện có không cung cấp đủ nội dung phản hồi đầy đủ của ông để trình bày mọi điều kiện hay sắc thái. Điểm khác biệt có thể xác định ở đây là: một bên là giả định về can thiệp nhằm ngăn AGI chưa được căn chỉnh; bên kia là kịch bản một nhà phát triển độc chiếm quyền tiếp cận năng lực tính toán.
Các bản tin hiện có cũng không xác nhận rằng nhân viên OpenAI hiểu nhãn “Kế hoạch Eliezer” là lời đá xoáy Anthropic. Việc đặt tên kịch bản theo Yudkowsky không chứng minh Anthropic ủng hộ kịch bản đó, cũng không cho thấy nhãn này nhắm vào công ty.
Câu hỏi cốt lõi: quyền lực sẽ nằm ở đâu?
Ba kịch bản đặt quyền lực vào ba nơi khác nhau: một cơ quan giám sát quốc tế, một tổ chức chung của các phòng thí nghiệm lớn, hoặc một nhà phát triển áp đảo phần còn lại. Theo các bản tin, Altman nghiêng về phương án đầu tiên và bác bỏ phương án thứ ba. Vì vậy, điểm đáng chú ý nhất trong cuộc thảo luận là sự đối lập giữa giám sát có phối hợp và quyền kiểm soát tập trung vào một bên. 1
4
6
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Ba lối đi cho siêu trí tuệ: giám sát quốc tế, hợp nhất các phòng thí nghiệm hay một bên thống lĩnh?" là gì?
Sam Altman được cho là đã nêu ba hướng quản trị siêu trí tuệ: giám sát quốc tế, hợp tác trong một tổ chức chung kiểu CERN, hoặc một nhà phát triển chiếm ưu thế đến mức hạn chế đối thủ tiếp cận năng lực tính toán.
Những điểm chính cần xác nhận đầu tiên là gì?
Sam Altman được cho là đã nêu ba hướng quản trị siêu trí tuệ: giám sát quốc tế, hợp tác trong một tổ chức chung kiểu CERN, hoặc một nhà phát triển chiếm ưu thế đến mức hạn chế đối thủ tiếp cận năng lực tính toán. Các phương án được mô tả như những kịch bản có thể xảy ra, không phải ba chính sách OpenAI đã thông qua; Altman dường như nghiêng về giám sát quốc tế và phản đối kịch bản thứ ba.
Nguồn
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI