JawabanDipublikasikan13 sumber
Bilal Chughtai Peringatkan Risiko AI: Mengapa Ia Menilai Waktu Bisa Kian Menipis
Bilal Chughtai, yang meninggalkan Google DeepMind pada Juli 2026, mengatakan AI berpotensi “membunuh kita semua” dan waktu untuk mencegahnya mungkin semakin sempit. Peringatannya menyusul kekhawatiran serupa dari Jacob Coxon dan Evan Hubinger di Anthropic, tetapi penilaian risiko kepunahan tersebut adalah pandangan...
Diterbitkan olehDiedit dengan GPT-5.6 TerraGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Bilal Chughtai, yang meninggalkan Google DeepMind pada Juli 2026, mengatakan AI berpotensi “membunuh kita semua” dan waktu untuk mencegahnya mungkin semakin sempit.
- Peringatannya menyusul kekhawatiran serupa dari Jacob Coxon dan Evan Hubinger di Anthropic, tetapi penilaian risiko kepunahan tersebut adalah pandangan pribadi, bukan konsensus ilmiah.
- Perdebatan utamanya berkisar pada laju pengembangan dan tata kelola: pendukung meminta pengujian serta pengawasan independen, sementara pihak lain menyoroti risiko hilangnya daya saing AS terhadap China.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Pernyataan Bilal Chughtai merupakan peringatan keras tentang risiko eksistensial, bukan ramalan bahwa AI pasti akan menghancurkan umat manusia. Setelah meninggalkan Google DeepMind—tempat ia mengatakan pernah mengerjakan riset keselamatan dan alignment AGI—Chughtai menulis bahwa AI berpotensi “membunuh kita semua” dan masyarakat mungkin kehabisan waktu untuk mencegah hasil tersebut.
Alignment dalam konteks ini adalah upaya memastikan tujuan dan perilaku sistem AI tetap selaras dengan maksud serta kepentingan manusia. Sementara AGI, atau kecerdasan buatan umum, merujuk pada AI yang mampu menangani beragam tugas intelektual secara luas, bukan hanya satu fungsi tertentu.
Apa yang sebenarnya dikhawatirkan Chughtai?
Kekhawatiran Chughtai adalah kemampuan AI meningkat lebih cepat daripada kemampuan manusia membuat sistem itu aman, dapat dikendalikan, dan dapat diandalkan. Ia menyoroti apa yang disebutnya sebagai lintasan bawaan teknologi tersebut: perusahaan berlomba membangun sistem yang lebih kuat ketika pengaman, riset alignment, dan pengawasan publik belum memadai.
Solusi yang ia ajukan bukan tindakan sepihak oleh satu perusahaan. Ia menyerukan koordinasi untuk menghindari “perlombaan manik” di antara perusahaan AI dan menyesuaikan laju pengembangan dengan kemampuan masyarakat menangani risikonya—sebelum bahaya ekstrem benar-benar terjadi.
Mengapa peringatan ini menjadi sorotan?
Pengunduran diri Chughtai muncul di tengah serangkaian pernyataan terbuka dari peneliti dan eksekutif AI mengenai risiko bencana dari sistem yang sangat canggih.
Jacob Coxon, mantan peneliti Anthropic, mengatakan ia mundur karena menilai laboratorium-laboratorium terdepan berlomba secara tidak bertanggung jawab menuju kecerdasan super yang bisa memperbaiki dirinya sendiri. Coxon menyatakan bahwa orang-orang yang membangun AI sungguh-sungguh percaya teknologi ini dapat menghancurkan manusia sebelum dekade ini berakhir.
Evan Hubinger, peneliti alignment Anthropic, menyetujui kekhawatiran dasarnya dan mengatakan perkiraan pribadinya tentang kemungkinan AI menyebabkan kepunahan manusia dalam satu dekade ke depan lebih dari 10%. Namun, ia membedakan kekhawatiran jangka panjang itu dari model saat ini, yang menurutnya berisiko rendah.
Pernyataan tersebut adalah penilaian individu para peneliti, bukan estimasi probabilitas empiris atau konsensus ilmiah. Inti perdebatan yang lebih terbatas ialah bahwa sebagian orang yang dekat dengan pengembangan model AI terdepan menilai dampak buruk potensialnya cukup berat untuk membenarkan tindakan pencegahan yang lebih kuat sebelum kemampuan AI melaju lebih jauh.
Kaitan dengan seruan memperlambat AI terdepan
Usulan Chughtai sejalan dengan posisi CEO Anthropic, Dario Amodei, yang mendorong pengaturan laju pengembangan sistem AI paling canggih sambil langkah keselamatan dan pengawasan eksternal diperbaiki. Sejumlah laporan menyebut CEO OpenAI Sam Altman dan Elon Musk mendukung perlambatan di tingkat industri.
Dalam praktiknya, agenda tersebut tidak serta-merta berarti larangan permanen terhadap AI. Advanced AI Framework Anthropic mengusulkan kewajiban bagi pengembang model paling canggih, antara lain:
- menguji sistem terhadap risiko katastrofik;
- melibatkan evaluator eksternal yang independen;
- mengungkap hasil evaluasi, risiko, dan insiden keselamatan secara berkelanjutan; serta
- membuat pengembang bertanggung jawab kepada pemerintah, termasuk melalui kewenangan untuk mencegah atau memblokir peluncuran yang berbahaya.
1
Anthropic juga menerapkan pendekatan jika-maka dalam Responsible Scaling Policy: jika model memperlihatkan kemampuan berbahaya tertentu, pengembang tidak boleh menyebarkannya atau melatih model yang lebih kuat sampai pengaman yang sesuai tersedia. 8
Argumen tandingannya: regulasi dapat melemahkan daya saing AS
Perbedaan pandangan ini bukan hanya soal teknologi, tetapi juga geopolitik. Pengkritik perlambatan berpendapat pembatasan ketat dapat memberi keunggulan kepada negara pesaing atau perusahaan yang kurang berhati-hati.
Presiden AS Donald Trump mengakui AI mungkin memerlukan sejumlah pagar pengaman, tetapi mengecilkan klaim-klaim paling mengkhawatirkan dan menyatakan kekhawatiran bahwa Amerika Serikat akan kehilangan keunggulannya dari China. Di situlah letak ketegangan utama: apakah memperlambat AI terdepan merupakan manajemen risiko yang penting, atau justru konsesi strategis yang terlalu mahal.
Apa yang tepat—dan yang belum terbukti—dari “AI doomerism”
Istilah “AI doomerism” kerap dipakai untuk menggambarkan keyakinan bahwa AI canggih dapat menimbulkan bahaya setingkat kepunahan. Label tersebut kadang mengaburkan pertanyaan kebijakan yang lebih konkret: bukti kemampuan berbahaya seperti apa yang seharusnya memicu pengujian tambahan, pembatasan peluncuran, atau intervensi pemerintah?
Argumen Chughtai tidak membuktikan bahwa bencana akibat AI akan segera terjadi. Yang ia tekankan adalah konsekuensi kesalahan dalam keselamatan AI dapat tidak dapat dipulihkan, sementara dorongan persaingan belum tentu menghasilkan kehati-hatian yang dibutuhkan. Respons yang ia dukung adalah tata kelola terkoordinasi: memperlambat pengembangan atau peluncuran bila diperlukan, memperkuat evaluasi, dan memperjelas akuntabilitas sebelum sistem menjadi semakin sulit dikendalikan. 1
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Bilal Chughtai Peringatkan Risiko AI: Mengapa Ia Menilai Waktu Bisa Kian Menipis"?
Bilal Chughtai, yang meninggalkan Google DeepMind pada Juli 2026, mengatakan AI berpotensi “membunuh kita semua” dan waktu untuk mencegahnya mungkin semakin sempit.
Apa poin penting yang harus divalidasi terlebih dahulu?
Bilal Chughtai, yang meninggalkan Google DeepMind pada Juli 2026, mengatakan AI berpotensi “membunuh kita semua” dan waktu untuk mencegahnya mungkin semakin sempit. Peringatannya menyusul kekhawatiran serupa dari Jacob Coxon dan Evan Hubinger di Anthropic, tetapi penilaian risiko kepunahan tersebut adalah pandangan pribadi, bukan konsensus ilmiah.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Perdebatan utamanya berkisar pada laju pengembangan dan tata kelola: pendukung meminta pengujian serta pengawasan independen, sementara pihak lain menyoroti risiko hilangnya daya saing AS terhadap China.