AnswersPublished25 sources
Andrew Ng: AI-domedag är ”mer science fiction än vetenskap”
Andrew Ng kallade farhågor om att AI ska utrota mänskligheten för ”mycket mer science fiction än vetenskap” i en Bloomberg TV intervju den 17 september. Han vill prioritera testning, skyddsräcken och löpande ingenjörsarbete mot konkreta risker, bland annat inom cybersäkerhet.
Publicerad avRedigerad med GPT-5.6 TerraBilder genererade med GPT Image 2
Research answer
Key takeaways
- Andrew Ng kallade farhågor om att AI ska utrota mänskligheten för ”mycket mer science fiction än vetenskap” i en Bloomberg TV intervju den 17 september.
- Han vill prioritera testning, skyddsräcken och löpande ingenjörsarbete mot konkreta risker, bland annat inom cybersäkerhet.
- Dario Amodei, Sam Altman, Jacob Coxon och Geoffrey Hinton vill däremot bromsa utvecklingen av de mest avancerade AI modellerna för att ge säkerhetsarbetet mer tid.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ng menar inte att AI är ofarligt. Hans invändning är att scenarier där AI inom kort utrotar mänskligheten är för spekulativa för att styra hela AI-politiken. I en intervju med Bloomberg TV den 17 september kallade Google Brain-medgrundaren varningarna för ”mycket mer science fiction än vetenskap”. Säkerhet bör i stället behandlas som ingenjörsarbete: testa systemen, bygg in skydd och förbättra dem över tid. 2
Ng: osäkerhet är ett ingenjörsproblem
Enligt Ng kommer AI-system aldrig att vara helt förutsägbara. Men det är, enligt honom, inte i sig ett skäl att stoppa eller kraftigt bromsa utvecklingen. Testning, skyddsräcken och tekniskt säkerhetsarbete kan göra systemen säkrare successivt, säger han. En bred inbromsning riskerar dessutom att bromsa själva säkerhetsutvecklingen. 2
Det placerar honom i motsatt läger till dem som anser att allt mer kapabla system snart kan bli okontrollerbara. Ng vill i första hand rikta säkerhetsarbetet mot observerbara fel och risker som går att angripa praktiskt, snarare än hypotetiska utrotningsscenarier.
Kritik mot domedagsretoriken
Ng säger att fokus på existentiella AI-risker kan motverka samhällets möjlighet att få ut teknikens nytta. Han hävdar också att techbranschen tidigare under AI-boomen förstärkte berättelser om katastrofala AI-skador, till synes för att skapa publicitet och påverka regleringen. 1
Hans argument handlar därmed både om risk och incitament: dramatiska påståenden får uppmärksamhet, och regler kan avgöra vem som får bära kostnaderna för efterlevnad. Ng säger inte att säkerhetsarbetet ska upphöra. Han motsätter sig att utrotningsrisk ska behandlas som fastslagen vetenskap eller som skäl för en generell paus.
Riskerna han vill att branschen prioriterar
Ng:s alternativ är konkret riskminskning. Rapporteringen om intervjun pekar ut cybersäkerhet och andra praktiska skyddsåtgärder som prioriteringar. 5
I praktiken innebär hans synsätt bland annat:
- Noggrann testning före och under utrullning.
- Skyddsräcken och begränsningar för kända feltyper.
- Löpande ingenjörsarbete för att förbättra tillförlitligheten när nya problem upptäcks.
- Fokus på förutsebara skador, däribland cyberrisker, i stället för att låta utrotningsscenarier dominera politiken.
2
5
Det är ingen garanti för full kontroll. Poängen är snarare att användbar teknik kan göras tillräckligt tillförlitlig genom samma cykel av utvärdering och förbättring som används inom andra teknikområden.
Där går skiljelinjen mot förespråkarna för långsammare utveckling
Flera framträdande AI-profiler delar uppfattningen att säkerhetsarbetet behöver stärkas, men drar en betydligt skarpare slutsats om tempot i utvecklingen av de mest avancerade modellerna, ofta kallade frontier-modeller.
Jacob Coxon: betydligt högre bedömning av faran
Den tidigare Anthropic- och OpenAI-forskaren Jacob Coxon lämnade Anthropic och varnade för att snabb utveckling mot självförbättrande system kan bli katastrofal. Han har sagt att tempot behöver sänkas och välkomnade senare Anthropics förslag om att styra utvecklingen i långsammare takt. 33
43
Dario Amodei: vinn tid för skyddsåtgärder
Anthropics vd Dario Amodei uppmanade AI-bolag att sänka takten i förbättringen av modellernas kapacitet. Syftet, enligt honom, är att skapa tid för riskhantering, bland annat genom oberoende granskare. 18
Sam Altman: stöd för att styra tempot i toppen
OpenAI:s vd Sam Altman har ställt sig bakom grundtanken i Amodeis förslag och sagt att OpenAI ska införa en av skyddsåtgärderna: externa utvärderare med meningsfull tillgång för att bedöma säkerhetsarbetet. 19
24
Geoffrey Hinton: risk för att kontrollen går förlorad
Geoffrey Hinton har sagt att det finns en ”betydande risk” att AI kan undkomma mänsklig kontroll. Han stöder en inbromsning och åtgärder som tester före lansering, eftersom han anser att regeringar har agerat för långsamt. 20
Den praktiska oenigheten gäller alltså både sannolikhet och politik. Coxon, Amodei, Altman och Hinton bedömer riskerna för kontrollförlust som tillräckligt plausibla för att motivera ett medvetet lägre tempo för de mest avancerade systemen. Ng anser att utrotningspåståendena saknar tillräcklig grund och vill koncentrera säkerhetsarbetet på konkreta, hanterbara fel. 2
18
20
Samma slutsats om en bred paus – men olika motiv
Ng:s motstånd mot en generell inbromsning betyder inte att han delar alla argument från politiker och företagsledare som också motsätter sig en sådan.
- Jensen Huang: Nvidias vd har sagt att branschen inte behöver nya lagar eller regler.
53
- Mark Zuckerberg: Metas vd har hävdat att en branschgemensam inbromsning inte behövs, eftersom konkurrens och marknadsincitament ska få företagen att göra modellerna säkra.
55
- President Donald Trump: Trump kallade farhågor om skenande AI för en ”bluff” och sade att USA redan har verktyg för att reglera och lagföra AI-företag.
49
50
- Kinesiska företrädare: En talesperson för Kinas utrikesdepartement avvisade uppmaningar om att bromsa utvecklingen av avancerad AI.
Slutsatsen – nej till en bred paus – är likartad, men motiven skiljer sig. Ng:s argument är främst tekniskt: mätbara risker bör prioriteras och kontrollerna förbättras. Huang, Zuckerberg, Trump och kinesiska företrädare har i olika grad betonat motstånd mot nya begränsningar, marknadens drivkrafter eller konkurrens och nationell strategi. 2
50
52
53
55
Cyberrisk: ett område med delvis gemensam grund
Debatten delar inte enkelt upp människor i dem som bryr sig om säkerhet och dem som inte gör det. Cohere-vd:n Aidan Gomez har exempelvis sagt att AI-modeller blivit kraftfulla cybervapen eftersom de kan hitta och utnyttja sårbarheter i stor skala. 62 Den oron ligger nära Ng:s uppmaning att hantera konkreta cybersäkerhetsrisker, även om den tillgängliga rapporteringen inte räcker för att fastställa Gomez fullständiga hållning till en branschgemensam inbromsning eller internationell AI-styrning.
Det finns på samma sätt inte tillräckligt underlag i de tillgängliga källorna för att beskriva investeraren Steve Eismans ståndpunkt i frågor om inbromsning, säkerhetsforskning, reglering och internationell styrning.
Slutsats
Ng vill flytta fokus i AI-säkerhetsdebatten. Frågan är inte om AI ska göras säkrare, utan om spekulativa utrotningsscenarier ska sätta agendan. Hans svar är nej: prioritera testning, skyddsräcken och tekniskt säkerhetsarbete mot aktuella, identifierbara risker – och undvik en generell inbromsning som han anser kan hämma både innovation och framsteg inom säkerhet. 1
2
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng: AI-domedag är ”mer science fiction än vetenskap”"?
Andrew Ng kallade farhågor om att AI ska utrota mänskligheten för ”mycket mer science fiction än vetenskap” i en Bloomberg TV intervju den 17 september.
What are the key points to validate first?
Andrew Ng kallade farhågor om att AI ska utrota mänskligheten för ”mycket mer science fiction än vetenskap” i en Bloomberg TV intervju den 17 september. Han vill prioritera testning, skyddsräcken och löpande ingenjörsarbete mot konkreta risker, bland annat inom cybersäkerhet.
What should I do next in practice?
Dario Amodei, Sam Altman, Jacob Coxon och Geoffrey Hinton vill däremot bromsa utvecklingen av de mest avancerade AI modellerna för att ge säkerhetsarbetet mer tid.