AnswersPublished19 sources
Sam Altman dilaporkan bentangkan tiga kemungkinan masa depan tadbir urus superkepintaran
Sam Altman dilaporkan membentangkan tiga pilihan: pemantauan antarabangsa, kerjasama bersama makmal AI utama, atau satu pembangun menyekat akses pengkomputeran pesaing. Beliau dikatakan lebih menyokong badan pemantau antarabangsa dan menganggap senario satu pembangun menguasai pesaing sebagai buruk.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Sam Altman dilaporkan membentangkan tiga pilihan: pemantauan antarabangsa, kerjasama bersama makmal AI utama, atau satu pembangun menyekat akses pengkomputeran pesaing.
- Beliau dikatakan lebih menyokong badan pemantau antarabangsa dan menganggap senario satu pembangun menguasai pesaing sebagai buruk.
- Senario ketiga itu tidak sama dengan hipotesis Eliezer Yudkowsky tentang tindakan hipotetikal untuk menghalang pembangunan AGI yang tidak selamat.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman dilaporkan menerangkan kepada kakitangan OpenAI tiga kemungkinan cara mengawal pembangunan superkepintaran: pemantauan antarabangsa, sebuah organisasi bersama untuk makmal AI utama, atau satu pembangun yang cukup berkuasa untuk menyekat pesaing. Laporan menyebut Altman kelihatan lebih menyokong pemantauan antarabangsa dan menyifatkan senario ketiga sebagai sesuatu yang buruk. Ini ialah kemungkinan yang dibincangkan, bukannya tiga dasar rasmi OpenAI. 1
4
6
Tiga senario yang dibentangkan
1. Badan pemantau antarabangsa
Pilihan pertama ialah menubuhkan badan antarabangsa yang mencontohi Agensi Tenaga Atom Antarabangsa (IAEA), dengan peranan menetapkan atau menguatkuasakan piawaian keselamatan AI. Menurut laporan, model ini boleh merangkumi pemantauan sistem AI maju, termasuk pemeriksaan atau audit. 1
4
6
Namun, laporan yang tersedia tidak menghuraikan sepenuhnya kuasa badan itu. Ia juga tidak mengesahkan setiap butiran yang kadangkala dikaitkan dengan cadangan tersebut—misalnya pemantauan penggunaan kuasa pengkomputeran dan tenaga—atau memastikan bahawa perbincangan dalaman itu merupakan sambungan langsung kepada cadangan tertentu pada Mei 2023.
2. “Pelan Demis”
Pilihan kedua, yang digelar “Pelan Demis”, mencadangkan makmal AI utama bergabung dalam sebuah organisasi seakan-akan CERN, atau bekerjasama di bawah satu badan bersama. Nama itu merujuk kepada Demis Hassabis dari Google DeepMind; wartawan Amir Efrati mengaitkan idea tersebut dengan cadangan sekitar 2017. 5
23
Satu laporan menyebut organisasi yang dicadangkan itu boleh membekalkan model kepada negara yang bekerjasama dengannya. 5 Inti utamanya ialah penyelarasan melalui pemilikan atau tadbir urus bersama, bukan persaingan antara makmal berasingan.
3. “Pelan Eliezer”
Senario ketiga dinamakan sempena penyelidik keselamatan AI Eliezer Yudkowsky. Dalam versi yang dikaitkan dengan perbincangan Altman, sebuah pembangun mendahului jauh melalui AI yang mampu memperbaik dirinya sendiri, lalu menggunakan kuasa yang terhasil untuk menyekat akses pesaing kepada sumber pengkomputeran. Senario itu diringkaskan sebagai “meleburkan GPU orang lain”. Laporan menyebut Altman menolak kemungkinan tersebut. 3
5
6
Apa yang dimaksudkan—dan tidak dimaksudkan—oleh hipotesis Yudkowsky
Label itu boleh mengaburkan dua idea yang berbeza. Laporan tentang tulisan Yudkowsky pada 2022 menyebut “tindakan penentu” oleh AGI yang sejajar dengan matlamat keselamatan, untuk menghalang pihak lain membina AGI yang tidak sejajar. 7
10 Itu bukan senario yang sama dengan sebuah syarikat menggunakan kelebihannya untuk menguasai pesaing.
Satu laporan berasingan menyebut Yudkowsky kemudian menjelaskan bahawa contoh “bakar semua GPU” yang diberikannya bukan satu cadangan. 34 Sumber yang tersedia tidak memuatkan keseluruhan respons beliau, jadi semua penjelasannya tidak dapat dihuraikan semula di sini. Perbezaan utama yang disokong oleh laporan ialah antara tindakan hipotetikal untuk menghalang AGI yang tidak selamat dengan senario sebuah pembangun memonopoli akses kepada kuasa pengkomputeran.
Laporan yang tersedia juga tidak membuktikan bahawa kakitangan OpenAI mentafsir label “Pelan Eliezer” sebagai sindiran terhadap Anthropic. Nama yang diberikan kepada senario itu bukan bukti bahawa Anthropic menyokongnya atau bahawa label tersebut ditujukan kepada syarikat itu.
Pertaruhan di sebalik pilihan tadbir urus
Ketiga-tiga senario meletakkan kuasa di tempat yang berbeza: pada badan pemantau antarabangsa, dalam organisasi bersama untuk makmal terkemuka, atau pada satu pembangun yang dominan. Keutamaan Altman yang dilaporkan—serta penolakannya terhadap senario ketiga—menjadikan perbezaan antara pemantauan bersama dengan pemusatan kawalan sebagai intipati paling jelas daripada perbincangan itu. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sam Altman dilaporkan bentangkan tiga kemungkinan masa depan tadbir urus superkepintaran"?
Sam Altman dilaporkan membentangkan tiga pilihan: pemantauan antarabangsa, kerjasama bersama makmal AI utama, atau satu pembangun menyekat akses pengkomputeran pesaing.
What are the key points to validate first?
Sam Altman dilaporkan membentangkan tiga pilihan: pemantauan antarabangsa, kerjasama bersama makmal AI utama, atau satu pembangun menyekat akses pengkomputeran pesaing. Beliau dikatakan lebih menyokong badan pemantau antarabangsa dan menganggap senario satu pembangun menguasai pesaing sebagai buruk.
What should I do next in practice?
Senario ketiga itu tidak sama dengan hipotesis Eliezer Yudkowsky tentang tindakan hipotetikal untuk menghalang pembangunan AGI yang tidak selamat.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI