JawabanDipublikasikan22 sumber
Andrew Ng: Ketakutan AI Memusnahkan Manusia Lebih Mirip Fiksi Ilmiah
Andrew Ng menyebut klaim bahwa AI kemungkinan memusnahkan umat manusia sebagai sesuatu yang “jauh lebih mirip fiksi ilmiah daripada sains.” [10] Ia menilai narasi kiamat AI dapat mengalihkan perhatian dari manfaat teknologi, menciptakan publisitas, dan membantu membentuk regulasi yang menguntungkan perusahaan besar....
Diterbitkan olehGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Andrew Ng menyebut klaim bahwa AI kemungkinan memusnahkan umat manusia sebagai sesuatu yang “jauh lebih mirip fiksi ilmiah daripada sains.” [10]
- Ia menilai narasi kiamat AI dapat mengalihkan perhatian dari manfaat teknologi, menciptakan publisitas, dan membantu membentuk regulasi yang menguntungkan perusahaan besar.
- Menurut Ng, keselamatan tetap penting, tetapi harus berfokus pada pengujian, pengaman, dan penanganan kegagalan konkret seperti risiko keamanan siber.
- Posisinya berbeda dari tokoh seperti Dario Amodei dan Geoffrey Hinton, yang mendukung perlambatan pengembangan model AI terdepan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng menolak anggapan bahwa kecerdasan buatan berpeluang besar menyebabkan kepunahan manusia. Dalam wawancara Bloomberg TV pada 17 September, pelopor AI tersebut menyebut kekhawatiran itu “jauh lebih mirip fiksi ilmiah daripada sains.” Menurutnya, ketidakpastian perilaku AI adalah persoalan rekayasa yang perlu dikelola, bukan alasan untuk menghentikan pengembangan teknologi secara luas. 10
Mengapa Ng mengkritik retorika “kiamat AI”
Ng memperingatkan bahwa narasi soal risiko eksistensial AI dapat mengalihkan perhatian publik dari manfaat yang dapat diberikan teknologi ini. Ia juga mengatakan bahwa, seperti pada siklus teknologi sebelumnya, narasi yang menakut-nakuti bisa menciptakan publisitas dan membantu membentuk rezim regulasi. 8
10
Kekhawatiran tersiratnya: aturan yang terutama ditujukan kepada sistem AI paling canggih—sering disebut frontier AI—dapat menguntungkan laboratorium AI mapan dan bermodal besar. Perusahaan semacam itu lebih mampu menanggung biaya kepatuhan dibanding pemain yang lebih kecil.
Bukan berarti Ng meminta aspek keselamatan diabaikan. Ia menekankan pengujian yang ketat, pengaman, dan praktik rekayasa untuk menghadapi kegagalan yang konkret serta dapat diperkirakan, terutama di bidang keamanan siber. AI, menurut Ng, tidak akan pernah sepenuhnya dapat diprediksi. Namun, sistemnya dapat dibuat cukup andal melalui evaluasi, guardrails atau pagar pengaman, serta perbaikan rekayasa secara bertahap. 10
Ia juga memperingatkan bahwa memperlambat pengembangan AI secara luas justru berpotensi memperlambat kemajuan di bidang keselamatan AI itu sendiri. 10
Berbeda dari kubu yang meminta perlambatan
Sejumlah peneliti dan eksekutif memandang risiko hilangnya kendali atas AI cukup masuk akal sehingga kemajuan kemampuan model terdepan perlu diperlambat dengan sengaja.
- Jacob Coxon, mantan peneliti OpenAI dan Anthropic, keluar dari Anthropic dan memperingatkan bahwa kemajuan cepat yang tidak cukup terkendali—khususnya menuju sistem yang mampu meningkatkan dirinya sendiri—dapat menciptakan risiko bencana. Ia menyerukan perlambatan.
2
14
- Dario Amodei, CEO Anthropic, mengusulkan perlambatan peningkatan kemampuan model terdepan agar ada waktu untuk mengelola risiko. Rencananya mencakup tiga langkah, termasuk evaluasi independen yang lebih kuat untuk model canggih.
3
- Sam Altman, CEO OpenAI, mendukung pokok gagasan perlambatan dan pengamanan di tengah kekhawatiran industri mendekati sistem yang tidak dapat dikendalikan manusia.
1
9
- Geoffrey Hinton juga menilai ada risiko signifikan AI lepas dari kendali manusia. Ia mendukung pengembangan yang lebih lambat dan langkah seperti pengujian sebelum peluncuran, sambil menilai pemerintah bergerak terlalu lambat.
16
Perbedaan utamanya terletak pada penilaian probabilitas risiko dan fokus kebijakan. Coxon, Amodei, Altman, dan Hinton menilai risiko kehilangan kendali cukup mungkin untuk membenarkan pembatasan laju pengembangan AI terdepan. Ng menilai klaim kepunahan masih spekulatif dan lebih memilih penanganan risiko yang dekat, nyata, dan teramati lewat praktik keselamatan rekayasa. 3
10
16
Sama-sama menolak perlambatan, tetapi alasannya berbeda
Ng memiliki titik temu dengan pihak-pihak yang menolak jeda atau perlambatan AI secara menyeluruh, walaupun dasar argumennya tidak selalu sama.
- Jensen Huang, CEO Nvidia, menolak kebutuhan akan undang-undang baru yang khusus mengatur AI dan tidak mendukung perlambatan luas.
5
- Mark Zuckerberg, CEO Meta, menolak penghentian pengembangan di seluruh industri. Ia berpendapat insentif pasar dan persaingan akan mendorong perusahaan membuat model yang aman.
- Presiden Donald Trump menolak dorongan perlambatan, menyebut kekhawatiran bahaya AI sebagai “hoaks”, dan menyatakan perangkat hukum AS yang ada sudah memadai untuk mengatur maupun menuntut pelanggaran. Penekanannya adalah daya saing AS, terutama terhadap China.
- Pejabat China juga menolak seruan untuk memperlambat AI terdepan, mencerminkan penolakan terhadap jeda global yang dipaksakan dari luar.
Bagi Ng, argumennya bersifat teknokratis: fokus pada kegagalan yang bisa diukur dan pengendalian lewat rekayasa. Sementara itu, Huang, Zuckerberg, Trump, dan China lebih menonjolkan inovasi, persaingan, serta skeptisisme terhadap pembatasan tambahan. 5
7
10
11
Tidak tersedia bukti yang cukup dalam pemberitaan yang ada untuk menggambarkan secara bertanggung jawab posisi spesifik Aidan Gomez dan Steve Eisman mengenai perlambatan industri secara luas, riset keselamatan, regulasi, dan tata kelola internasional AI.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Andrew Ng: Ketakutan AI Memusnahkan Manusia Lebih Mirip Fiksi Ilmiah"?
Andrew Ng menyebut klaim bahwa AI kemungkinan memusnahkan umat manusia sebagai sesuatu yang “jauh lebih mirip fiksi ilmiah daripada sains.” [10]
Apa poin penting yang harus divalidasi terlebih dahulu?
Andrew Ng menyebut klaim bahwa AI kemungkinan memusnahkan umat manusia sebagai sesuatu yang “jauh lebih mirip fiksi ilmiah daripada sains.” [10] Ia menilai narasi kiamat AI dapat mengalihkan perhatian dari manfaat teknologi, menciptakan publisitas, dan membantu membentuk regulasi yang menguntungkan perusahaan besar.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Menurut Ng, keselamatan tetap penting, tetapi harus berfokus pada pengujian, pengaman, dan penanganan kegagalan konkret seperti risiko keamanan siber.
Sumber