AnswersPublished22 sources
Andrew Ng Tolak Kebimbangan AI Menghapuskan Manusia: “Lebih Fiksyen Sains Daripada Sains”
Andrew Ng menolak dakwaan bahawa AI berkemungkinan besar menghapuskan manusia, dengan menyifatkannya sebagai “lebih fiksyen sains daripada sains”. Beliau berkata sistem AI tidak akan boleh diramal secara sempurna, tetapi ketidakpastian itu ialah masalah kejuruteraan yang boleh dikurangkan menerusi ujian dan perlindu...
Diterbitkan olehImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Andrew Ng menolak dakwaan bahawa AI berkemungkinan besar menghapuskan manusia, dengan menyifatkannya sebagai “lebih fiksyen sains daripada sains”.
- Beliau berkata sistem AI tidak akan boleh diramal secara sempurna, tetapi ketidakpastian itu ialah masalah kejuruteraan yang boleh dikurangkan menerusi ujian dan perlindungan.
- Ng memberi amaran bahawa retorik kiamat boleh mengalihkan perhatian daripada manfaat AI, menghasilkan publisiti dan membantu membentuk peraturan yang memihak kepada pemain besar.
- Beliau mengutamakan pengendalian kegagalan yang nyata dan boleh dijangka, khususnya risiko keselamatan siber, berbanding kelembapan menyeluruh dalam pembangunan AI.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Dalam wawancara Bloomberg TV pada 17 September, pelopor kecerdasan buatan Andrew Ng menolak dakwaan bahawa AI berkemungkinan menyebabkan kepupusan manusia. Beliau menyifatkan kebimbangan itu sebagai “lebih fiksyen sains daripada sains.” 10
Bagi Ng, hakikat bahawa sistem AI tidak boleh diramal dengan sempurna bukan alasan untuk menghentikan atau memperlahankan pembangunan secara meluas. Sebaliknya, ia ialah masalah kejuruteraan: model perlu diuji, dinilai, dilengkapi perlindungan, dan ditambah baik secara berulang supaya menjadi cukup boleh dipercayai dalam penggunaan sebenar. 10
Mengapa beliau mengkritik retorik “kiamat AI”
Ng tidak berkata keselamatan AI patut diabaikan. Namun, beliau berpandangan bahawa amaran tentang risiko kewujudan manusia boleh mengalih perhatian daripada potensi manfaat AI kepada masyarakat. Beliau juga berkata industri teknologi pernah membangkitkan kebimbangan tentang mudarat besar AI pada fasa awal ledakan AI, yang menurutnya boleh berfungsi untuk meraih publisiti dan membentuk pendekatan kawal selia. 8
Kebimbangan tersirat dalam hujah beliau ialah peraturan yang tertumpu hanya pada sistem AI paling maju—sering disebut sebagai model frontier—boleh memberi kelebihan kepada makmal besar yang mempunyai modal dan sumber untuk menanggung kos pematuhan. 8
10
Pada masa yang sama, Ng memberi amaran bahawa memperlahankan pembangunan AI secara menyeluruh juga boleh memperlahankan kemajuan kerja keselamatan itu sendiri. 10
Keutamaan Ng: risiko yang nyata dan boleh diurus
Ng mahu perhatian diberi kepada kegagalan yang lebih konkrit, termasuk keselamatan siber serta bentuk penyalahgunaan atau kerosakan yang boleh dijangka. Pendekatannya menekankan:
- ujian yang ketat sebelum dan semasa penggunaan;
- perlindungan teknikal serta pagar kawalan (guardrails);
- penilaian berterusan terhadap tingkah laku model; dan
- penambahbaikan kejuruteraan secara berperingkat.
10
Ringkasnya, beliau menerima bahawa AI sentiasa mempunyai unsur ketidakpastian, tetapi menegaskan ketidakpastian itu boleh diuruskan ke tahap yang boleh diterima—bukan dijadikan bukti bahawa teknologi tersebut bakal menamatkan manusia. 10
Berbeza dengan kumpulan yang mahu pembangunan diperlahankan
Beberapa tokoh industri dan penyelidik menilai risiko kehilangan kawalan terhadap AI sebagai cukup munasabah untuk mewajarkan kelajuan pembangunan model paling maju diperlahankan.
- Jacob Coxon, bekas penyelidik OpenAI dan Anthropic, meninggalkan Anthropic kerana bimbang kemajuan yang pantas dan tidak cukup terkawal—terutamanya ke arah sistem yang boleh memperbaik dirinya sendiri—boleh membawa kepada malapetaka. Beliau menyeru supaya pembangunan diperlahankan.
2
14
- Dario Amodei, ketua eksekutif Anthropic, mencadangkan kadar peningkatan keupayaan model frontier diperlahankan bagi memberi masa untuk pengurusan risiko. Rancangannya merangkumi penilai bebas dan pemantauan yang lebih kukuh terhadap model canggih.
3
- Sam Altman, ketua eksekutif OpenAI, menyokong asas hujah untuk memperlahankan pembangunan dan memperkukuh perlindungan, ketika kebimbangan meningkat bahawa industri mungkin menghampiri sistem yang manusia tidak dapat kawal.
1
- Geoffrey Hinton pula melihat risiko besar AI terlepas daripada kawalan manusia. Beliau menyokong pembangunan yang lebih perlahan serta langkah seperti ujian sebelum pelancaran.
16
Perbezaan utama Ng dengan kumpulan ini ialah pada anggaran kebarangkalian dan fokus dasar. Coxon, Amodei, Altman dan Hinton menganggap risiko hilang kawalan cukup serius untuk menjustifikasikan langkah memperlahankan keupayaan AI paling maju. Ng pula melihat dakwaan kepupusan sebagai spekulatif, dan mahu risiko dekat serta dapat diperhatikan ditangani melalui amalan keselamatan kejuruteraan. 3
10
16
Sejajar pada isu perlahan, tetapi atas sebab berbeza
Ng sama-sama tidak menyokong kelembapan menyeluruh industri AI, namun hujahnya berbeza daripada tokoh yang mengutamakan persaingan dan inovasi.
- Jensen Huang, ketua eksekutif Nvidia, menolak keperluan undang-undang baharu khusus untuk AI dan membantah idea memperlahankan industri secara meluas.
5
- Mark Zuckerberg, ketua eksekutif Meta, menentang jeda seluruh industri, dengan hujah bahawa insentif pasaran dan persaingan akan mendorong syarikat menjadikan model lebih selamat.
- Presiden Donald Trump menolak seruan supaya AI diperlahankan, menyifatkan dakwaan bahaya AI sebagai “hoax” dan menekankan daya saing Amerika Syarikat, khususnya berbanding China.
- Seorang jurucakap Kementerian Luar China turut menolak seruan untuk memperlahankan AI frontier, menunjukkan tentangan terhadap jeda global yang dikenakan dari luar.
Jadi, pendirian Ng bertemu dengan mereka pada penolakan terhadap kelembapan industri secara menyeluruh, tetapi bukan pada asas yang sama. Ng membawa hujah teknokratik: utamakan kegagalan yang boleh dikenal pasti dan kawalan kejuruteraan. Sebaliknya, Huang, Zuckerberg, Trump dan pihak China lebih menekankan inovasi, persaingan serta keraguan terhadap kekangan tambahan. 5
7
10
11
Maklumat yang tersedia tidak mencukupi untuk menghuraikan secara bertanggungjawab pendirian khusus Aidan Gomez dan Steve Eisman tentang kelembapan seluruh industri, penyelidikan keselamatan, peraturan dan tadbir urus antarabangsa tanpa membuat andaian melangkaui rekod sumber.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng Tolak Kebimbangan AI Menghapuskan Manusia: “Lebih Fiksyen Sains Daripada Sains”"?
Andrew Ng menolak dakwaan bahawa AI berkemungkinan besar menghapuskan manusia, dengan menyifatkannya sebagai “lebih fiksyen sains daripada sains”.
What are the key points to validate first?
Andrew Ng menolak dakwaan bahawa AI berkemungkinan besar menghapuskan manusia, dengan menyifatkannya sebagai “lebih fiksyen sains daripada sains”. Beliau berkata sistem AI tidak akan boleh diramal secara sempurna, tetapi ketidakpastian itu ialah masalah kejuruteraan yang boleh dikurangkan menerusi ujian dan perlindungan.
What should I do next in practice?
Ng memberi amaran bahawa retorik kiamat boleh mengalihkan perhatian daripada manfaat AI, menghasilkan publisiti dan membantu membentuk peraturan yang memihak kepada pemain besar.
Sources