JawabanDipublikasikan3 jam yang laluLast edited 2 jam yang lalu19 sumber

Sam Altman Disebut Paparkan Tiga Skenario untuk Mengatur Superinteligensi

Sam Altman dilaporkan membahas tiga kemungkinan tata kelola superinteligensi: badan pengawas internasional, organisasi bersama untuk sejumlah lab AI besar, atau satu pengembang yang cukup kuat untuk menghalangi pesaing. Altman disebut lebih mendukung pengawasan internasional dan menilai skenario satu pengembang mend...

Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2

Cari dan periksa fakta dengan Studio Global AI Jelajahi lebih banyak halaman Trending

Jawaban penelitian

Poin-poin penting

Sam Altman dilaporkan membahas tiga kemungkinan tata kelola superinteligensi: badan pengawas internasional, organisasi bersama untuk sejumlah lab AI besar, atau satu pengembang yang cukup kuat untuk menghalangi pesaing.
Altman disebut lebih mendukung pengawasan internasional dan menilai skenario satu pengembang mendominasi sebagai hal yang buruk.
Pembahasan tersebut merupakan sejumlah kemungkinan, bukan tiga kebijakan OpenAI yang telah ditetapkan.

Editorial illustration for a story about AI governance and superintelligence. — What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog enIllustration: competing approaches to governing advanced AI.
AI Perintah
Create a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com

Sam Altman dilaporkan memaparkan kepada karyawan OpenAI tiga kemungkinan cara mengatur pengembangan superinteligensi: pengawasan internasional, organisasi bersama bagi sejumlah lab AI besar, atau satu pengembang yang mengumpulkan kekuatan untuk menghambat pesaing. Menurut laporan, Altman tampak lebih mendukung pengawasan internasional dan menyebut skenario ketiga sebagai hasil yang buruk. Ketiganya dibahas sebagai kemungkinan, bukan kebijakan OpenAI yang sudah disahkan. 1 4 6

Tiga skenario yang dibahas

1. Badan pengawas internasional

Gagasan pertama adalah membentuk badan internasional yang meniru Badan Tenaga Atom Internasional (IAEA), dengan peran menetapkan atau menegakkan standar keselamatan AI. Sejumlah laporan menggambarkan badan ini sebagai pengawas sistem AI canggih, termasuk melalui inspeksi atau audit. 1 4 6

Namun, laporan yang tersedia belum menjelaskan secara lengkap wewenang badan tersebut. Secara khusus, sumber yang ada belum memastikan seluruh rincian yang kadang dikaitkan dengan gagasan ini—seperti pemantauan penggunaan komputasi dan energi—atau membuktikan bahwa pembahasan internal itu merupakan kelanjutan langsung dari usulan tertentu pada Mei 2023.

2. “Rencana Demis”

Skenario kedua, yang disebut “Rencana Demis”, membayangkan lab-lab AI besar bergabung dalam organisasi bergaya CERN, atau bekerja di bawah sebuah badan bersama. CERN adalah organisasi riset internasional di bidang fisika partikel. Nama “Demis” merujuk pada Demis Hassabis dari Google DeepMind; jurnalis Amir Efrati mengaitkan gagasan tersebut dengan usulan sekitar 2017. 5 23

Salah satu laporan menyebut organisasi itu dapat menyediakan model AI kepada negara-negara yang bekerja sama dengannya. 5 Inti gagasannya adalah koordinasi melalui kepemilikan atau tata kelola bersama, alih-alih membiarkan lab-lab berjalan sendiri dalam persaingan.

3. “Rencana Eliezer”

Skenario ketiga mengambil nama peneliti keselamatan AI Eliezer Yudkowsky. Dalam versi yang dikaitkan dengan pembahasan Altman, satu pengembang unggul jauh berkat AI yang mampu memperbaiki dirinya sendiri, lalu menggunakan kekuatan yang dimilikinya untuk membatasi akses pesaing terhadap sumber daya komputasi. Gambaran ini diringkas dengan ungkapan “melelehkan GPU semua orang”. Laporan menyebut Altman menolak skenario tersebut. 3 5 6

Apa yang dimaksud dengan contoh hipotetis Yudkowsky?

Penyebutan nama Yudkowsky dapat membuat dua gagasan yang berbeda tercampur. Laporan mengenai tulisannya pada 2022 menggambarkan “tindakan penentu” oleh AGI yang selaras dengan tujuan keselamatan untuk mencegah pihak lain membangun AGI yang tidak selaras. 7 10 Itu tidak sama dengan skenario ketika sebuah perusahaan menggunakan keunggulannya untuk mendominasi pengembang lain.

Laporan terpisah menyebut Yudkowsky kemudian menegaskan bahwa contoh “membakar semua GPU” bukanlah sebuah usulan. 34 Sumber yang tersedia tidak memuat cukup banyak isi tanggapan lengkapnya untuk menjelaskan seluruh nuansanya. Perbedaan utama yang didukung sumber adalah antara tindakan hipotetis untuk mencegah AGI yang tidak selaras dan skenario ketika satu pengembang memonopoli akses komputasi.

Laporan yang tersedia juga tidak membuktikan bahwa karyawan OpenAI menafsirkan label “Rencana Eliezer” sebagai sindiran terhadap Anthropic. Nama yang diberikan pada skenario itu bukan bukti bahwa Anthropic mendukungnya atau bahwa label tersebut ditujukan kepada perusahaan itu.

Tarik-menarik soal tata kelola

Ketiga skenario menempatkan kendali di tangan yang berbeda: badan pengawas internasional, organisasi bersama bagi lab-lab terkemuka, atau satu pengembang dominan. Preferensi Altman yang dilaporkan terhadap pilihan pertama—serta penolakannya terhadap pilihan ketiga—menunjukkan kontras paling jelas dalam pembahasan tersebut: koordinasi melalui pengawasan bersama versus pemusatan kendali pada satu pihak. 1 4 6

Studio Global AI

Lanjutkan penelitian Anda

Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.

Cari dan periksa fakta dengan Studio Global AI

Orang-orang juga bertanya

Apa jawaban singkat untuk "Sam Altman Disebut Paparkan Tiga Skenario untuk Mengatur Superinteligensi"?

Apa poin penting yang harus divalidasi terlebih dahulu?

Apa yang harus saya lakukan selanjutnya dalam latihan?

Pembahasan tersebut merupakan sejumlah kemungkinan, bukan tiga kebijakan OpenAI yang telah ditetapkan.

Sumber