AnswersPublished13 sources
Bilal Chughtai beri amaran AI boleh “membunuh kita semua” — mengapa beliau mahu perlumbaan ini diperlahankan
Bilal Chughtai, yang meninggalkan Google DeepMind pada Julai 2026, berkata AI berpotensi “membunuh kita semua” dan masa untuk mengelakkan hasil itu mungkin semakin singkat. Amarannya menyusuli kebimbangan terbuka daripada bekas penyelidik Anthropic Jacob Coxon serta Evan Hubinger, yang menyifatkan anggaran lebih 10%...
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai, yang meninggalkan Google DeepMind pada Julai 2026, berkata AI berpotensi “membunuh kita semua” dan masa untuk mengelakkan hasil itu mungkin semakin singkat.
- Amarannya menyusuli kebimbangan terbuka daripada bekas penyelidik Anthropic Jacob Coxon serta Evan Hubinger, yang menyifatkan anggaran lebih 10% risiko kepupusan dalam sedekad sebagai pandangan peribadinya.
- Perdebatan utama ialah soal kelajuan dan tadbir urus: penyokong mahu ujian keselamatan, penilaian bebas serta kuasa campur tangan sebelum model berbahaya dilepaskan, manakala pengkritik bimbang Amerika Syarikat kehila...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Kenyataan Bilal Chughtai ialah amaran keras tentang risiko kewujudan manusia, bukannya ramalan bahawa AI pasti akan memusnahkan manusia. Selepas meninggalkan Google DeepMind — tempat beliau berkata beliau mengendalikan penyelidikan keselamatan dan alignment AGI — Chughtai menulis bahawa AI berpotensi “membunuh kita semua” dan masyarakat mungkin semakin kehabisan masa untuk mengelakkan keadaan itu.
AGI, atau kecerdasan am buatan, lazimnya merujuk kepada AI yang boleh melakukan pelbagai tugasan intelek secara sangat luas, bukan setakat satu fungsi khusus. Sementara itu, alignment ialah usaha memastikan matlamat dan tindakan AI benar-benar kekal selaras dengan kehendak serta kepentingan manusia.
Apa sebenarnya yang dibimbangkan Chughtai?
Kebimbangan Chughtai ialah keupayaan AI yang semakin meningkat mungkin bergerak lebih pantas daripada kemampuan manusia untuk menjadikannya selamat, boleh diramal dan terkawal. Tumpuannya ialah pada hala tuju semasa industri: syarikat berlumba membina sistem yang lebih berkuasa sebelum perlindungan mencukupi, penyelidikan alignment dan pengawasan awam diwujudkan.
Beliau tidak mencadangkan tindakan bersendirian oleh satu syarikat. Sebaliknya, beliau menyeru penyelarasan bersama supaya pembangunan AI bergerak pada kadar yang mampu ditangani masyarakat, dengan risiko baharu ditangani sebelum mudarat melampau berlaku. Dalam kata-katanya, syarikat perlu berkoordinasi dan bukannya meneruskan “perlumbaan gila”.
Mengapa amaran ini menarik perhatian?
Pengunduran Chughtai berlaku ketika beberapa penyelidik dan pemimpin industri AI membuat kenyataan terbuka yang luar biasa terus terang tentang risiko sistem AI canggih.
Bekas penyelidik Anthropic, Jacob Coxon, berkata beliau meletak jawatan kerana percaya makmal AI terkemuka sedang berlumba secara tidak bertanggungjawab ke arah superkecerdasan yang boleh memperbaik dirinya sendiri. Coxon berkata individu yang membina AI benar-benar percaya teknologi itu boleh memusnahkan manusia menjelang akhir dekad ini.
Evan Hubinger, penyelidik alignment di Anthropic, secara terbuka bersetuju dengan kebimbangan asas tersebut. Beliau berkata anggaran peribadinya bagi kemungkinan AI menyebabkan kepupusan manusia dalam tempoh 10 tahun adalah melebihi 10%. Namun, beliau membezakan risiko jangka panjang itu daripada model yang wujud hari ini, yang menurutnya berisiko rendah.
Ini ialah penilaian individu daripada penyelidik, bukannya anggaran kebarangkalian empirikal atau konsensus saintifik. Inti yang lebih sempit ialah: sebahagian orang yang dekat dengan pembangunan model AI tercanggih percaya kesan buruknya boleh menjadi begitu besar sehingga langkah berjaga-jaga yang lebih kukuh wajar diambil sebelum keupayaan teknologi itu berkembang lebih jauh.
Kaitannya dengan gesaan memperlahankan AI termaju
Cadangan Chughtai bertindih dengan pendirian Ketua Pegawai Eksekutif Anthropic, Dario Amodei: perlahankan atau kawal kadar kemajuan sistem AI paling canggih sementara langkah keselamatan dan pengawasan luar diperkukuh. Laporan turut menyebut sokongan terhadap nyahpecutan di seluruh industri daripada Ketua Pegawai Eksekutif OpenAI Sam Altman dan Elon Musk.
Dalam amalan, agenda dasarnya tidak semestinya bermaksud larangan kekal terhadap AI. Rangka Kerja AI Lanjutan Anthropic mencadangkan kewajipan untuk pembangun model paling berkeupayaan, termasuk:
- menguji sistem bagi risiko bencana;
- menggunakan penilai luar yang bebas;
- mendedahkan penilaian, risiko dan insiden keselamatan secara berterusan; dan
- menjadikan pembangun bertanggungjawab kepada kerajaan, termasuk melalui kuasa untuk menghalang atau menyekat pelaksanaan yang berbahaya.
1
Anthropic juga membentuk Dasar Penskalaan Bertanggungjawabnya melalui pendekatan “jika-maka”: jika model menunjukkan keupayaan berbahaya yang ditetapkan, pembangun tidak sepatutnya menggunakannya atau melatih model lebih berkuasa sehingga perlindungan yang sesuai tersedia. 8
Hujah balas: peraturan boleh melemahkan daya saing AS
Pertikaian ini bukan hanya soal teknologi, tetapi juga geopolitik. Pengkritik usaha memperlahankan AI berhujah bahawa sekatan ketat mungkin memberi kelebihan kepada negara pesaing atau syarikat yang kurang berhati-hati.
Presiden Donald Trump mengakui AI mungkin memerlukan beberapa pagar keselamatan, tetapi beliau memperkecilkan dakwaan paling membimbangkan dan menyatakan kebimbangan bahawa Amerika Syarikat akan kehilangan pendahuluannya kepada China. Pendirian itu menggambarkan pertentangan utama dalam perbahasan: adakah memperlahankan sempadan AI merupakan pengurusan risiko yang penting, atau satu konsesi strategik yang terlalu mahal?
Apa yang istilah “AI doomerism” jelaskan — dan kaburkan
“AI doomerism” sering digunakan untuk merujuk kepada kepercayaan bahawa AI maju boleh mencipta bahaya pada tahap kepupusan. Namun label itu boleh mengaburkan persoalan dasar yang lebih nyata: apakah bukti keupayaan berbahaya yang patut mencetuskan ujian tambahan, had pelaksanaan atau campur tangan pihak berkuasa?
Hujah Chughtai tidak membuktikan bencana AI akan berlaku dalam masa terdekat. Sebaliknya, beliau berhujah bahawa akibat tersalah langkah dalam soal keselamatan mungkin tidak boleh dipulihkan, manakala insentif persaingan mungkin tidak cukup untuk menghasilkan tahap kehati-hatian yang diperlukan. Respons yang dicadangkan ialah tadbir urus bersama — memperlahankan pelaksanaan apabila perlu, memperkukuh penilaian dan mewujudkan akauntabiliti yang lebih jelas — sebelum sistem menjadi lebih sukar dikawal. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bilal Chughtai beri amaran AI boleh “membunuh kita semua” — mengapa beliau mahu perlumbaan ini diperlahankan"?
Bilal Chughtai, yang meninggalkan Google DeepMind pada Julai 2026, berkata AI berpotensi “membunuh kita semua” dan masa untuk mengelakkan hasil itu mungkin semakin singkat.
What are the key points to validate first?
Bilal Chughtai, yang meninggalkan Google DeepMind pada Julai 2026, berkata AI berpotensi “membunuh kita semua” dan masa untuk mengelakkan hasil itu mungkin semakin singkat. Amarannya menyusuli kebimbangan terbuka daripada bekas penyelidik Anthropic Jacob Coxon serta Evan Hubinger, yang menyifatkan anggaran lebih 10% risiko kepupusan dalam sedekad sebagai pandangan peribadinya.
What should I do next in practice?
Perdebatan utama ialah soal kelajuan dan tadbir urus: penyokong mahu ujian keselamatan, penilaian bebas serta kuasa campur tangan sebelum model berbahaya dilepaskan, manakala pengkritik bimbang Amerika Syarikat kehila...