JawabanDipublikasikan2 jam yang laluLast edited 2 jam yang lalu16 sumber

Tiga Skenario Sam Altman untuk Mengatur AI Supercerdas

Sam Altman dilaporkan membahas tiga jalur tata kelola AI supercerdas: pengawas internasional ala IAEA, laboratorium bersama ala CERN, atau satu pengembang yang cukup dominan untuk membatasi pesaing. Menurut laporan, Altman tampak lebih mendukung pengawasan internasional dan menilai skenario dominasi satu perusahaan...

Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2

Cari dan periksa fakta dengan Studio Global AI Jelajahi lebih banyak halaman Trending

Jawaban penelitian

Poin-poin penting

Sam Altman dilaporkan membahas tiga jalur tata kelola AI supercerdas: pengawas internasional ala IAEA, laboratorium bersama ala CERN, atau satu pengembang yang cukup dominan untuk membatasi pesaing.
Menurut laporan, Altman tampak lebih mendukung pengawasan internasional dan menilai skenario dominasi satu perusahaan sebagai kemungkinan yang buruk.

Editorial illustration representing international oversight and competing approaches to governing advanced AI — What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets saAltman reportedly outlined three possible approaches to governing superintelligence, from international oversight to concentrated control.
AI Perintah
Create a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com

Sam Altman dilaporkan memaparkan tiga kemungkinan cara mengatur pengembangan AI supercerdas kepada staf OpenAI: membentuk badan pengawas internasional, mengembangkan AI melalui organisasi bersama berbagai laboratorium, atau membiarkan satu pengembang menjadi begitu dominan hingga dapat membatasi pesaingnya. Laporan menyebut Altman tampak lebih mendukung opsi pengawasan dan menilai skenario ketiga sebagai sesuatu yang “mengerikan”. 5 10 15

Namun, informasi ini berasal dari pemberitaan tentang ucapannya kepada staf, bukan proposal kebijakan resmi yang diterbitkan. Ketiga skenario tersebut terutama menggambarkan siapa yang menetapkan aturan dan siapa yang memegang kendali atas pengembangan AI tingkat lanjut.

Tiga skenario yang dilaporkan

1. Pengawas internasional untuk AI

Opsi pertama adalah membentuk badan internasional yang meniru Badan Energi Atom Internasional (IAEA). Pemerintah dan perusahaan AI akan menyusun standar keselamatan, sementara pemeriksaan serta audit independen dapat dilakukan terhadap model AI canggih sebelum dirilis. 5

Gagasan utamanya: perusahaan pembuat model tidak menjadi satu-satunya pihak yang menilai apakah sistemnya sudah memenuhi persyaratan keselamatan.

2. Organisasi bersama ala CERN

Disebut “Demis plan”, skenario ini mengambil nama Demis Hassabis, CEO Google DeepMind. Gagasannya adalah menyatukan laboratorium AI besar dalam sebuah organisasi multinasional yang terinspirasi CERN—pusat riset fisika partikel Eropa. Dalam versi yang dilaporkan, organisasi itu akan mengembangkan AI untuk negara-negara yang ikut serta. 5 11

Alih-alih setiap laboratorium bekerja sendiri di bawah aturan eksternal yang sama, pengembangan dilakukan melalui satu lembaga bersama.

3. Satu pengembang menguasai bidang

“ Eliezer plan”—dinamai berdasarkan peneliti keselamatan AI Eliezer Yudkowsky—menggambarkan kemungkinan satu pengembang memperoleh kekuatan ekonomi yang cukup besar untuk membatasi akses pesaing terhadap sumber daya komputasi. Gambaran ekstremnya adalah GPU milik pesaing “dilebur”, sebuah ungkapan yang dipakai dalam laporan untuk melukiskan betapa jauh dominasi itu dapat berkembang. Altman dilaporkan tidak menyukai skenario ini. 5 10

Nama tersebut merujuk pada skenario yang dilaporkan, bukan bukti bahwa Yudkowsky mendukung rencana spesifik itu. Laporan yang tersedia juga tidak memastikan setiap tahapan tentang bagaimana dominasi semacam itu bisa terjadi.

Apa bedanya pengawas dengan lab bersama?

Preferensi Altman terhadap pengawas internasional mengarah pada aturan bersama dan pemeriksaan independen, bukan keputusan keselamatan yang sepenuhnya diserahkan kepada masing-masing laboratorium. Namun, sumber yang tersedia tidak menjelaskan secara rinci alasan Altman lebih memilih opsi itu dibandingkan model organisasi ala CERN. 5 15

Perbedaan praktisnya cukup jelas: badan pengawas menetapkan standar dan memeriksa para pengembang, sedangkan organisasi bersama menyatukan para pengembang ke dalam satu lembaga. Skenario dominasi satu perusahaan justru memusatkan kekuasaan, bukan membagi pengawasan. Ketiganya adalah model tata kelola yang berbeda, bukan istilah untuk satu usulan yang sama.

Bagaimana dengan badan standar industri?

Secara terpisah, OpenAI, Google, dan Anthropic dilaporkan tengah mengupayakan badan industri untuk menyusun standar AI terdepan. Tujuan yang diberitakan mencakup dukungan bagi evaluasi independen serta penyusunan ekspektasi bersama mengenai pengujian keselamatan atau pelaporan insiden. 1 14

Usulan itu tidak sama dengan pengawas internasional. Badan tersebut digambarkan sebagai inisiatif industri, sementara skenario pertama Altman merujuk pada lembaga internasional. Laporan yang tersedia juga tidak menunjukkan bahwa badan standar yang diusulkan itu memiliki kewenangan publik atau kemampuan menegakkan aturan seperti yang mungkin dimiliki pengawas internasional. 5 14

Pada akhirnya, tiga skenario ini menyoroti pertanyaan mendasar: apakah aturan keselamatan AI sebaiknya disusun dan diperiksa secara internasional, dijalankan melalui pengembangan bersama, atau diserahkan pada persaingan pasar yang berpotensi membuat satu perusahaan memegang kendali besar? Menurut laporan, Altman lebih memilih pengawasan daripada skenario terakhir. Tetapi rincian pandangannya masih bersandar pada pemberitaan tentang ucapannya, bukan pada rencana resmi yang telah diterbitkan. 5 10 15

Studio Global AI

Lanjutkan penelitian Anda

Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.

Cari dan periksa fakta dengan Studio Global AI

Orang-orang juga bertanya

Apa jawaban singkat untuk "Tiga Skenario Sam Altman untuk Mengatur AI Supercerdas"?

Sam Altman dilaporkan membahas tiga jalur tata kelola AI supercerdas: pengawas internasional ala IAEA, laboratorium bersama ala CERN, atau satu pengembang yang cukup dominan untuk membatasi pesaing.

Apa poin penting yang harus divalidasi terlebih dahulu?

Sumber