AnswersPublished16 sources
Tiga senario Sam Altman: badan pemantau antarabangsa, makmal bersama atau monopoli AI
Tiga senario yang dilaporkan ialah badan pemantau antarabangsa ala IAEA, organisasi penyelidikan AI bersama ala CERN dan sebuah pembangun yang cukup berkuasa untuk menyekat pesaing daripada mendapatkan kuasa pengkompu... Altman kelihatan lebih menyokong model pengawasan antarabangsa dan dilaporkan menyifatkan senari...
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Tiga senario yang dilaporkan ialah badan pemantau antarabangsa ala IAEA, organisasi penyelidikan AI bersama ala CERN dan sebuah pembangun yang cukup berkuasa untuk menyekat pesaing daripada mendapatkan kuasa pengkompu...
- Altman kelihatan lebih menyokong model pengawasan antarabangsa dan dilaporkan menyifatkan senario monopoli sebagai sesuatu yang “teruk”.
- Senario ini berdasarkan laporan tentang perbualannya dengan kakitangan OpenAI, bukannya cadangan dasar rasmi yang diterbitkan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman dilaporkan membentangkan tiga kemungkinan tentang cara mengawal pembangunan superkepintaran: pengawasan antarabangsa, pembangunan bersama oleh makmal AI utama, atau sebuah pembangun yang menjadi begitu berkuasa sehingga mampu menyekat pesaing. Laporan menyatakan beliau kelihatan lebih menyokong model pengawasan dan menyifatkan senario ketiga sebagai “teruk”. 5
10
15
Maklumat itu datang daripada laporan mengenai kenyataan Altman kepada kakitangan OpenAI, bukannya cadangan dasar rasmi yang diterbitkan. Tiga pilihan tersebut menggambarkan perbezaan tentang siapa yang menetapkan peraturan dan pihak mana yang memegang kuasa dalam pembangunan AI canggih.
Tiga pendekatan yang dilaporkan
1. Badan pemantau AI antarabangsa
Pilihan pertama ialah menubuhkan badan antarabangsa yang mencontohi Agensi Tenaga Atom Antarabangsa (IAEA), badan yang memantau penggunaan tenaga nuklear. Kerajaan dan syarikat AI akan menetapkan piawaian keselamatan, manakala pemeriksaan dan audit bebas menilai model berkeupayaan tinggi sebelum dilancarkan. 5
Intinya, syarikat yang membangunkan model bukan satu-satunya pihak yang menentukan sama ada sistem mereka memenuhi keperluan keselamatan.
2. Organisasi AI bersama ala CERN
“Pelan Demis”, dinamakan sempena ketua Google DeepMind, Demis Hassabis, membayangkan makmal AI utama bergabung dalam sebuah organisasi antarabangsa seperti CERN. CERN ialah organisasi penyelidikan fizik zarah yang dikendalikan bersama oleh beberapa negara. Dalam versi yang dilaporkan, organisasi AI itu akan membangunkan sistem untuk negara yang mengambil bahagian. 5
11
Berbanding badan pemantau yang menetapkan peraturan dari luar, pendekatan ini menyatukan usaha pembangunan dalam satu institusi bersama.
3. Sebuah pembangun menguasai bidang
“Pelan Eliezer”, dinamakan sempena penyelidik keselamatan AI Eliezer Yudkowsky, menggambarkan keadaan apabila sebuah syarikat memperoleh kuasa ekonomi yang cukup besar untuk mengehadkan akses pesaing kepada sumber pengkomputeran. Laporan menggunakan gambaran GPU pesaing “dicairkan” untuk menunjukkan betapa ekstremnya senario itu. Altman dilaporkan tidak menyokongnya. 5
10
Nama pelan itu merujuk kepada senario yang dilaporkan, bukan bukti bahawa Yudkowsky menyokong cadangan khusus tersebut. Laporan yang tersedia juga tidak mengesahkan setiap langkah tentang bagaimana dominasi seperti itu boleh berlaku.
Mengapa model pengawasan berbeza
Keutamaan Altman yang dilaporkan terhadap badan pemantau antarabangsa menunjukkan sokongan kepada peraturan bersama dan semakan bebas, berbanding menyerahkan keputusan keselamatan sepenuhnya kepada makmal individu. Namun, sumber yang tersedia tidak memberikan penjelasan terperinci daripada Altman tentang sebab beliau lebih memilih pilihan itu berbanding organisasi ala CERN. 5
15
Perbezaannya juga bersifat praktikal: badan pemantau menetapkan piawaian dan memeriksa pembangun, manakala organisasi bersama menghimpunkan pembangun di bawah satu institusi. Dalam senario ketiga, kuasa pula tertumpu pada sebuah syarikat, bukannya dikongsi melalui pengawasan. Ketiga-tiganya ialah struktur tadbir urus yang berbeza, bukan cadangan yang boleh saling menggantikan.
Kedudukan badan piawaian industri
Secara berasingan, OpenAI, Google dan Anthropic dilaporkan sedang berusaha menubuhkan sebuah badan industri untuk piawaian AI termaju. Antara matlamat yang dilaporkan ialah menyokong penilaian bebas dan menyelaraskan jangkaan tentang ujian keselamatan atau pelaporan insiden. 1
14
Cadangan itu bukan perkara yang sama dengan badan pemantau antarabangsa. Ia digambarkan sebagai inisiatif industri, sedangkan senario pertama Altman melibatkan badan antarabangsa. Laporan juga tidak menunjukkan bahawa badan piawaian yang dicadangkan itu mempunyai kuasa awam atau kuasa penguatkuasaan seperti yang mungkin dimiliki badan pemantau antarabangsa. 5
14
Secara keseluruhan, tiga senario ini mengemukakan satu persoalan utama: adakah peraturan keselamatan AI patut ditetapkan dan diperiksa di peringkat antarabangsa, diurus melalui pembangunan bersama, atau diserahkan kepada pasaran yang mungkin membolehkan sebuah syarikat mendapat kawalan dominan? Kenyataan Altman yang dilaporkan menunjukkan beliau lebih memilih pengawasan berbanding senario terakhir. Namun, butirannya masih berdasarkan laporan tentang perbualannya, bukan pelan rasmi. 5
10
15
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tiga senario Sam Altman: badan pemantau antarabangsa, makmal bersama atau monopoli AI"?
Tiga senario yang dilaporkan ialah badan pemantau antarabangsa ala IAEA, organisasi penyelidikan AI bersama ala CERN dan sebuah pembangun yang cukup berkuasa untuk menyekat pesaing daripada mendapatkan kuasa pengkompu...
What are the key points to validate first?
Tiga senario yang dilaporkan ialah badan pemantau antarabangsa ala IAEA, organisasi penyelidikan AI bersama ala CERN dan sebuah pembangun yang cukup berkuasa untuk menyekat pesaing daripada mendapatkan kuasa pengkompu... Altman kelihatan lebih menyokong model pengawasan antarabangsa dan dilaporkan menyifatkan senario monopoli sebagai sesuatu yang “teruk”.
What should I do next in practice?
Senario ini berdasarkan laporan tentang perbualannya dengan kakitangan OpenAI, bukannya cadangan dasar rasmi yang diterbitkan.
Sources
chosun.comOpenAI CEO Sam Altman Proposes Three Measures for Safe AI Development
europesays.comSam Altman warns staff of nightmare scenario where one AI lab melts ...
minutemirror.com.pkOpenAI chief outlines three possible endgames for AI development
firstpost.comSam Altman's three AI safety scenarios range from global oversight to a worst-case outcome: Report