JawabanDipublikasikan20 sumber
Peringatan Alex Turner soal AI: Mengapa Sekadar Memperlambat Laju Mungkin Belum Cukup
Mantan peneliti DeepMind Alex Turner mengatakan AI frontier dapat berkembang lebih cepat daripada kemampuan perusahaan, pemerintah, bahkan negara adidaya untuk mengelolanya dengan aman. Dario Amodei dari Anthropic mengusulkan agar laju peningkatan kemampuan AI diperlambat supaya riset keselamatan dan evaluasi indepe...
Diterbitkan olehDiedit dengan GPT-5.6 TerraGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Mantan peneliti DeepMind Alex Turner mengatakan AI frontier dapat berkembang lebih cepat daripada kemampuan perusahaan, pemerintah, bahkan negara adidaya untuk mengelolanya dengan aman.
- Dario Amodei dari Anthropic mengusulkan agar laju peningkatan kemampuan AI diperlambat supaya riset keselamatan dan evaluasi independen dapat mengejar—bukan menghentikan riset AI sepenuhnya.
- Sam Altman, Elon Musk, dan Demis Hassabis mendukung arah tersebut, tetapi perdebatan utamanya tetap sama: apakah pengawasan benar benar bisa efektif ketika perusahaan dan negara masih berlomba membangun AI yang lebih...
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind scalable-alignment scientist Alex Turner say about AI development moving faster than governments, companies,. Article summary: Alex Turner’s argument is that frontier AI is advancing on a timetable that neither companies nor governments—and certainly not rival powers locked in a US–China race—can reliably govern. His prescription is materially s. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Alex Turner, mantan ilmuwan riset Google DeepMind, menyampaikan argumen yang lebih tegas daripada sekadar ajakan untuk “memperlambat” AI. Menurutnya, sistem AI paling canggih—sering disebut frontier AI—bisa berkembang lebih cepat daripada kemampuan perusahaan, pemerintah, bahkan negara adidaya pesaing untuk mengelolanya secara andal. Dalam komentarnya, Turner menunjuk pelacakan compute sebagai salah satu jalan menuju regulasi yang nyata dan dapat ditegakkan. Ia juga memperingatkan bahwa dalam perlombaan AI, penahanan diri secara sukarela mungkin tidak memadai. 17
Mengapa Turner keluar dari DeepMind
Turner bekerja di tim scalable alignment DeepMind sebelum mengundurkan diri pada Juni 2026. Ia menyatakan pergi setelah Google membuat kesepakatan yang mengizinkan Pentagon memakai AI-nya untuk pekerjaan rahasia. Keberatannya: kesepakatan itu, menurut Turner, tidak memiliki pembatasan yang mengikat terhadap senjata otonom maupun pengawasan massal. 18
19
Keputusan tersebut menghubungkan isu penggunaan militer dengan kekhawatirannya yang lebih luas mengenai AI berkemampuan tinggi. Prinsip keselamatan di atas kertas, dalam pandangan ini, hanya berarti apabila tetap bisa ditegakkan ketika tekanan bisnis dan kepentingan strategis meningkat. Pekerjaan Turner di DeepMind berfokus pada alignment: upaya memastikan sistem AI masa depan yang sangat cakap bertindak selaras dengan kesejahteraan manusia. 19
Risiko hilangnya kendali yang dikhawatirkan
Peringatan Turner bukanlah prediksi bahwa bencana pasti terjadi. Ini adalah argumen tentang risiko: apabila AI mampu membantu riset AI, mengotomatiskan sebagian pengembangannya sendiri, atau bekerja pada tingkat yang tidak lagi dapat diperiksa manusia secara bermakna, lembaga manusia dapat kehilangan kemampuan untuk menilai dan membendungnya tepat waktu.
Bahaya yang dimaksud bukan sekadar “AI yang sangat pintar”. Risikonya muncul dari gabungan kemampuan tinggi, otonomi, dan ketiadaan kendali yang andal. Sistem yang dapat mengejar tujuan rumit, memperoleh akses ke berbagai alat, lalu membantu memperbaiki sistem penerusnya, berpotensi menciptakan lingkaran umpan balik: kemampuan berkembang lebih cepat daripada evaluasi dan tata kelola manusia.
Karena itu, Turner berpendapat perusahaan tidak seharusnya membiarkan AI meningkatkan dirinya sendiri hingga mencapai tingkat kecerdasan yang tak terkendali. Ini adalah peringatan atas satu jalur kegagalan yang masuk akal, bukan bukti bahwa sistem semacam itu sudah ada atau bahwa kepunahan manusia pasti akan terjadi. 17
19
Mengapa pelacakan compute menjadi penting
Compute merujuk pada sumber daya fisik untuk melatih model AI canggih: cip khusus, pusat data, dan listrik. Karena sumber daya ini terbatas dan berwujud, Turner melihat pelacakannya sebagai dasar potensial bagi regulasi yang bisa ditegakkan. 17
Secara praktis, pemantauan compute dapat memberi pemerintah atau lembaga independen visibilitas atas pelatihan model berskala sangat besar. Mekanisme ini berpotensi menetapkan ambang yang memicu perizinan atau peninjauan, serta menyulitkan pengembang melampaui batas kemampuan yang disepakati secara diam-diam. Pelacakan semacam itu tidak otomatis menyelesaikan masalah alignment. Nilainya terletak pada tata kelola: ada hal konkret yang dapat diaudit sebelum model digunakan.
Di sinilah letak perbedaan penting dalam debat ini. Komitmen sukarela dapat menunjukkan niat baik, tetapi pemantauan dan kewajiban yang mengikat dirancang untuk tetap berlaku ketika sebuah perusahaan punya insentif kuat untuk bergerak lebih cepat.
Usulan Dario Amodei: mengatur laju, bukan menghentikan
CEO Anthropic, Dario Amodei, mengusulkan pendekatan “pacing the frontier”—memperlambat laju peningkatan kemampuan AI agar riset alignment, pengamanan, dan evaluasi eksternal dapat mengejar. Ia secara tegas membedakannya dari penghentian pelatihan model atau kemajuan teknis. 16
Rencananya memiliki tiga bagian:
- Evaluator independen yang tertanam di laboratorium AI. Laboratorium AI frontier akan memberi evaluator eksternal akses berkelanjutan setara akses karyawan untuk memverifikasi praktik keselamatan, menilai alignment, dan melaporkan insiden. Anthropic berkomitmen menjalankan langkah ini.
16
- Koordinasi antara negara demokratis dan laboratorium AI terkemuka. Peserta didorong menyusun standar keselamatan bersama dan membatasi pertumbuhan kemampuan yang tidak terkendali.
1
- Koordinasi internasional pada tahap berikutnya, termasuk dengan China bila memungkinkan. Tujuannya mencegah perlombaan berbahaya, ketika pengekangan di satu negara hanya memindahkan pengembangan ke negara lain.
8
Kerangka ini tetap menerima kelanjutan pengembangan AI frontier, tetapi meminta laju yang lebih lambat dan lebih mudah diverifikasi. Posisi Turner menempatkan penekanan lebih besar pada pencegahan peningkatan diri yang tidak terkendali dan pengaturan atas input fisik yang memungkinkan pengembangan AI frontier sejak awal.
Posisi Altman, Musk, dan Hassabis
Usulan Amodei mendapat dukungan terbuka yang tidak biasa dari sejumlah pemimpin organisasi AI pesaing.
- Sam Altman mengatakan OpenAI akan mengadopsi gagasan evaluator independen dengan akses setara karyawan. Ia juga menyatakan perusahaan menyambut persyaratan keselamatan bagi laboratorium AI frontier.
12
- Elon Musk secara terbuka mendukung arah yang diajukan Amodei dengan mengatakan, “Dario benar.” Namun, laporan yang tersedia tidak memerinci cetak biru regulasi spesifik yang didukung Musk.
4
7
- Demis Hassabis mengatakan esai Amodei menunjukkan arah yang tepat ke depan, sehingga pimpinan DeepMind itu mendukung garis besar pengamanan yang lebih kuat dan laju frontier yang lebih terkendali.
Dukungan tersebut bukan berarti mereka sepakat soal setiap ambang kemampuan, cara penegakan, atau konsekuensi geopolitik. Namun, hal itu menunjukkan perdebatan telah bergeser: bukan lagi sekadar apakah keselamatan AI frontier perlu diperhatikan, melainkan apakah perusahaan dapat terus meningkatkan skala AI sembari pekerjaan keselamatan berusaha mengejar.
China: alasan keberatan sekaligus alasan untuk bekerja sama
Keberatan paling umum terhadap perlambatan adalah geopolitik: bila perusahaan Amerika Serikat menahan diri, China mungkin tidak akan melakukannya. Reuters menggambarkan perpecahan yang lebih luas sebagai pilihan antara pengekangan terkoordinasi dan perlindungan yang lebih dipandu pasar, dengan kompetisi terhadap China sebagai unsur sentral. 1
Jawaban Amodei adalah koordinasi bertahap: dimulai di antara negara demokratis dan laboratorium AI utama mereka, kemudian diperluas. Namun, kesepakatan global adalah bagian rencana yang paling tidak pasti. Verifikasi, ketidakpercayaan strategis, dan perbedaan prioritas nasional membuat pengaturan yang mengikat sulit diwujudkan.
Fokus Turner pada compute memperlihatkan alasan para pendukung regulasi mencari mekanisme yang lebih kuat daripada sekadar meminta itikad baik. Jika pemerintah dapat mengidentifikasi dan memeriksa sumber daya untuk pelatihan AI terbesar, mereka mungkin memiliki tuas penegakan yang lebih nyata dibanding janji yang dibuat di tengah perlombaan internasional. 17
Perselisihan utamanya: siapa yang harus membuktikan keamanan?
Konsensus yang muncul di industri masih terbatas. Amodei, Altman, Musk, dan Hassabis mendukung suatu bentuk pengaturan laju serta evaluasi yang lebih kuat. 1
2
7 Tetapi pertanyaan paling sulit belum terjawab:
- Apakah perusahaan seharusnya terus meningkatkan kemampuan AI frontier sambil praktik keselamatan diperbaiki secara bersamaan?
- Atau, apakah jalur tertentu—terutama sistem yang mampu meningkatkan diri tanpa pengawasan—harus dilarang sampai ada cara yang kredibel untuk mengendalikannya?
- Apakah evaluator dari luar dapat cukup independen dan cukup memahami sistem untuk benar-benar menantang laboratorium yang mereka periksa?
- Mampukah koordinasi internasional mencegah aturan keselamatan menjadi kerugian kompetitif bagi pihak yang mematuhinya?
Kontribusi Turner dalam perdebatan ini adalah penegasannya bahwa isu tersebut bukan semata soal kehati-hatian korporasi. Jika kekhawatiran sebenarnya adalah hilangnya kendali, responsnya harus dapat diaudit dan ditegakkan. Rencana Amodei merupakan langkah penting menuju pengawasan dari luar; peringatan Turner menjelaskan mengapa para pengkritik menilai ujian akhirnya adalah apakah pengawasan itu benar-benar mampu menghentikan perlombaan kemampuan AI yang berbahaya. 16
17
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Peringatan Alex Turner soal AI: Mengapa Sekadar Memperlambat Laju Mungkin Belum Cukup"?
Mantan peneliti DeepMind Alex Turner mengatakan AI frontier dapat berkembang lebih cepat daripada kemampuan perusahaan, pemerintah, bahkan negara adidaya untuk mengelolanya dengan aman.
Apa poin penting yang harus divalidasi terlebih dahulu?
Mantan peneliti DeepMind Alex Turner mengatakan AI frontier dapat berkembang lebih cepat daripada kemampuan perusahaan, pemerintah, bahkan negara adidaya untuk mengelolanya dengan aman. Dario Amodei dari Anthropic mengusulkan agar laju peningkatan kemampuan AI diperlambat supaya riset keselamatan dan evaluasi independen dapat mengejar—bukan menghentikan riset AI sepenuhnya.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Sam Altman, Elon Musk, dan Demis Hassabis mendukung arah tersebut, tetapi perdebatan utamanya tetap sama: apakah pengawasan benar benar bisa efektif ketika perusahaan dan negara masih berlomba membangun AI yang lebih...