AnswersPublished22 sources
Debat Kepupusan AI: Amaran Orang Dalam Bertembung Dengan Tuntutan Bukti
Anggaran Evan Hubinger bahawa risiko AI menghapuskan manusia dalam tempoh sedekad melebihi 10% ialah pertimbangan peribadi, bukannya kebarangkalian saintifik yang telah diukur atau dipersetujui secara meluas. Peletakan jawatan Jacob Coxon dan amaran Bilal Chughtai menambah kebimbangan, tetapi pengkritik menegaskan b...
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Anggaran Evan Hubinger bahawa risiko AI menghapuskan manusia dalam tempoh sedekad melebihi 10% ialah pertimbangan peribadi, bukannya kebarangkalian saintifik yang telah diukur atau dipersetujui secara meluas.
- Peletakan jawatan Jacob Coxon dan amaran Bilal Chughtai menambah kebimbangan, tetapi pengkritik menegaskan bahawa keupayaan AI dalam dunia digital tidak terus memberinya kuasa untuk mencetuskan mudarat fizikal berskal...
- Jalan tengah yang muncul menekankan penilaian luar yang bermakna, ambang keupayaan berisiko, penyelarasan antara makmal AI serta tindakan terhadap salah guna semasa seperti serangan siber dan pengawasan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Debat semasa tentang sama ada AI boleh membawa kepada kepupusan manusia bukan sekadar pertarungan antara pihak yang menganggap AI selamat dan pihak yang menganggapnya berbahaya. Persoalan utamanya ialah seberapa pantas keupayaan AI mungkin meningkat, apakah rangkaian peristiwa yang perlu berlaku sebelum sistem AI boleh menyebabkan mudarat yang tidak dapat dipulihkan, dan berapa banyak bukti yang patut dituntut sebelum sekatan lebih ketat dikenakan.
Amaran daripada penyelidik yang pernah bekerja di makmal AI terkemuka menjadikan perdebatan ini lebih mendesak. Namun, pengkritik retorik kepupusan pun lazimnya tidak menolak ujian dan amalan keselamatan. Soalan dasar yang semakin penting ialah sama ada pembangun boleh membuktikan bahawa mereka mampu mengawal dan menggunakan sistem yang semakin berkuasa dengan selamat.
Amaran orang dalam: perlumbaan ke arah sistem yang mungkin sukar dikawal
Jacob Coxon, bekas penyelidik Anthropic yang berkata beliau juga pernah bekerja di OpenAI, meletak jawatan pada September 2026 dan berhujah bahawa kedua-dua syarikat itu mengutamakan persaingan berbanding pembangunan yang bertanggungjawab. Menurutnya, mereka sedang berlumba ke arah “kecerdasan super yang memperbaik dirinya sendiri”. 49
Amaran itu disokong secara terbuka oleh Evan Hubinger, ketua sains penjajaran (alignment) Anthropic. Hubinger berkata beliau secara peribadi menilai kebarangkalian AI membunuh semua manusia dalam tempoh sedekad sebagai melebihi 10%, sambil menyatakan Anthropic masih belum mempunyai pelan untuk menyelesaikan masalah penjajaran bagi kecerdasan super. 16 Laporan mengenainya menegaskan bahawa angka itu ialah ramalan peribadi, bukan konsensus saintifik atau kebarangkalian kepupusan yang dikira secara empirikal.
12
Bekas penyelidik Google DeepMind, Bilal Chughtai, turut memberi amaran yang searah. Beliau berkata AI berpotensi membunuh semua manusia dan masa untuk mengelakkan hasil itu mungkin semakin suntuk. 2
Hujah ini lazimnya bersifat bersyarat, bukannya mendakwa chatbot hari ini akan tiba-tiba menjadi berbahaya dengan sendiri. Senario yang dibimbangi ialah sistem masa depan mungkin mempercepat penyelidikan AI secara besar-besaran, beroperasi dengan lebih autonomi, mengelak pengawasan manusia yang berkesan, atau memperluas akses kepada keupayaan siber, biologi dan institusi lebih pantas daripada kemajuan kaedah keselamatan. Sama ada rangkaian ini munasabah — dan seberapa cepat ia boleh berlaku — ialah titik pertikaian utama.
Mengapa anggaran 10% bukan ramalan yang muktamad
Angka Hubinger menarik perhatian kerana ia besar dan datang daripada penyelidik kanan dalam bidang penjajaran AI. Tetapi ia perlu difahami dengan tepat: ia ialah pertimbangan individu dalam keadaan ketidakpastian yang sangat tinggi, bukan kebarangkalian yang disahkan oleh data sejarah atau model yang mampu mengukur risiko kepupusan. 12
Ramalan itu bergantung pada beberapa andaian yang masih belum terjawab:
- Sistem AI perlu menjadi jauh lebih berkeupayaan daripada model hari ini.
- Keupayaan tersebut perlu diterjemahkan kepada autonomi strategik yang berterusan atau kuasa berbahaya dalam dunia sebenar.
- Kawalan teknikal, pengendali manusia, institusi dan langkah tindak balas sedia ada perlu gagal mengekang sistem atau penyalahgunaannya.
- Penyelidikan keselamatan dan penjajaran perlu gagal mengejar perkembangan keupayaan AI.
Setiap pautan dalam rantaian itu boleh diperdebatkan secara berasingan. Itu tidak menjadikan kebimbangan ini remeh, tetapi bermakna angka utama tersebut tidak patut dianggap sebagai ramalan yang sudah terbukti.
Hujah skeptik: kecerdasan digital bukan kuasa dalam dunia fizikal
Pengkritik mempertikaikan lonjakan daripada prestasi tinggi dalam tugas perisian dan bahasa kepada keupayaan menyebabkan kemusnahan fizikal pada skala kepupusan. Contoh yang kerap dibangkitkan ialah biologi. Eric Xing berhujah bahawa menjana genom virus secara hipotesis dengan model bahasa sangat berbeza daripada menghasilkan virus yang benar-benar berdaya maju: mendapatkan bahan, pembuatan, kebolehhidupan biologi, kerja makmal dan pengujian semuanya ialah halangan berasingan. 46
Perbezaan ini penting. Model boleh menawarkan maklumat atau reka bentuk, tetapi menerjemahkannya kepada mudarat sebenar mungkin memerlukan kemudahan khusus, kepakaran tersirat, rantaian bekalan, eksperimen berulang dan akses kepada bahan terkawal. Kekangan ini tidak bermaksud risiko biosekuriti adalah sifar. Namun, ia mencabar andaian bahawa kemampuan digital sahaja serta-merta menghasilkan kuasa fizikal yang menentukan.
Ketua Eksekutif Nvidia, Jensen Huang, antara pengkritik paling lantang terhadap dakwaan kepupusan, dengan menyifatkan idea bahawa AI akan menamatkan manusia sebagai “karut sepenuhnya”. 33 Mark Cuban pula berhujah bahawa tindak balas manusia terhadap dakwaan yang mencemaskan mungkin lebih berbahaya daripada kawanan ejen AI itu sendiri.
43
Justeru, pendirian skeptik tidak semestinya bermaksud AI peringkat hadapan tidak memerlukan perlindungan. Sebaliknya, mereka berpendapat dakwaan luar biasa tentang kepupusan dalam masa terdekat memerlukan bukti yang lebih kukuh daripada ekstrapolasi prestasi model hari ini dan laluan masa depan yang masih bersifat spekulatif.
Jalan tengah yang muncul: perlahankan peningkatan keupayaan, sahkan keselamatan
Respons yang lebih praktikal datang daripada pemimpin yang tidak menganggap kepupusan itu pasti, tetapi juga tidak menolaknya mentah-mentah. Ketua Eksekutif Anthropic, Dario Amodei, menyeru supaya kadar peningkatan keupayaan model AI diperlahankan agar ada masa untuk kerja keselamatan. Rangka kerja yang dicadangkannya termasuk penilai bebas yang ditempatkan dalam organisasi dengan akses seperti pekerja, serta penyelarasan antara syarikat AI peringkat hadapan. 18
Reuters melaporkan bahawa Ketua Eksekutif OpenAI, Sam Altman, antara pemimpin yang mengusahakan usaha memperlahankan pembangunan secara terselaras, ketika industri masih berpecah tentang sejauh mana perlindungan yang dipacu pasaran patut diandalkan. 19 Laporan lain menyatakan Altman menyokong penilai luar sebagai sebahagian daripada pendekatan tersebut.
20
Pendekatan ini mengalihkan perbincangan daripada ramalan abstrak kepada amalan yang boleh disahkan:
- Penilaian bebas: Beri penilai luar yang layak akses bermakna untuk menilai dakwaan keselamatan, dan bukan bergantung pada kenyataan syarikat semata-mata.
18
- Ambang berasaskan keupayaan: Tingkatkan penelitian atau hadkan penggunaan apabila model menunjukkan kemajuan ketara dalam bidang berbahaya seperti operasi siber atau tingkah laku ejen autonomi.
- Penyelarasan antara makmal: Kurangkan dorongan untuk syarikat mengurangkan margin keselamatan hanya kerana tidak mahu ketinggalan daripada pesaing.
- Kerjasama antarabangsa: Selaraskan piawaian antara kerajaan dan pembangun AI utama, termasuk pengaturan yang mengurangkan tekanan persaingan untuk melancarkan sistem tanpa perlindungan mencukupi.
27
- Kemajuan keselamatan seiring kemajuan keupayaan: Jadikan kawalan, pemantauan dan keupayaan tindak balas yang terbukti sebagai syarat yang perlu bergerak seiring dengan sistem yang semakin berkuasa.
Adakah kebimbangan jangka panjang menenggelamkan mudarat AI yang sudah berlaku?
Satu lagi kritikan berkaitan keutamaan. Walaupun risiko bencana wajar dikaji dan dirancang untuk kemungkinan terburuk, tumpuan tunggal pada senario kepupusan yang spekulatif boleh mengaburkan mudarat yang sudah dikaitkan dengan sistem AI canggih dan penggunaannya.
Agenda yang lebih segera termasuk penyalahgunaan AI untuk serangan siber, penipuan, pengawasan, maklumat palsu, keputusan automatik yang mendiskriminasi, gangguan terhadap pekerjaan dan penumpuan kuasa. Amodei sendiri menyebut risiko penyalahgunaan seperti pembangunan senjata, serangan siber dan pengawasan ketika menggesa kadar pembangunan yang lebih perlahan. 29
Ini tidak semestinya pilihan antara mudarat semasa dan risiko bencana jangka panjang. Perlindungan terbaik boleh menangani kedua-duanya: kawalan akses yang lebih kukuh, penilaian lebih baik, dasar pelancaran yang berhati-hati, penelitian bebas, pelaporan insiden dan akauntabiliti yang jelas boleh mengurangkan penyalahgunaan hari ini sambil meningkatkan kesiapsiagaan bagi sistem yang lebih berkeupayaan.
Apa yang sebenarnya berubah dalam debat ini
Kesimpulan paling kukuh bukanlah bahawa kepupusan sudah terbukti, dan bukan juga bahawa ia boleh diketepikan hanya kerana keseluruhan laluan kepada bencana belum dibuktikan. Bukti yang dibentangkan dalam debat ini menyokong satu piawaian yang lebih praktikal: dakwaan keselamatan bagi sistem yang semakin berkeupayaan mesti boleh diuji, diteliti secara bebas dan sepadan dengan skala potensi mudaratnya.
Coxon, Hubinger dan Chughtai mengemukakan hujah supaya langkah berjaga-jaga diambil dalam keadaan tidak pasti. Pengkritik seperti Huang dan Xing pula mencabar sama ada bukti semasa cukup untuk menyokong kesimpulan kiamat dalam masa terdekat. Amodei dan Altman menunjukkan respons dasar yang tidak memerlukan semua pertikaian falsafah diselesaikan terlebih dahulu: kawal rentak kemajuan di barisan hadapan, ukur keupayaan berbahaya, benarkan semakan luar yang berwibawa, dan wujudkan penyelarasan sebelum tekanan persaingan menjadikan dakwaan keselamatan yang belum disahkan sebagai asas biasa untuk pelancaran sistem. 49
16
33
18
19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Debat Kepupusan AI: Amaran Orang Dalam Bertembung Dengan Tuntutan Bukti"?
Anggaran Evan Hubinger bahawa risiko AI menghapuskan manusia dalam tempoh sedekad melebihi 10% ialah pertimbangan peribadi, bukannya kebarangkalian saintifik yang telah diukur atau dipersetujui secara meluas.
What are the key points to validate first?
Anggaran Evan Hubinger bahawa risiko AI menghapuskan manusia dalam tempoh sedekad melebihi 10% ialah pertimbangan peribadi, bukannya kebarangkalian saintifik yang telah diukur atau dipersetujui secara meluas. Peletakan jawatan Jacob Coxon dan amaran Bilal Chughtai menambah kebimbangan, tetapi pengkritik menegaskan bahawa keupayaan AI dalam dunia digital tidak terus memberinya kuasa untuk mencetuskan mudarat fizikal berskal...
What should I do next in practice?
Jalan tengah yang muncul menekankan penilaian luar yang bermakna, ambang keupayaan berisiko, penyelarasan antara makmal AI serta tindakan terhadap salah guna semasa seperti serangan siber dan pengawasan.
Sources
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns