AnswersPublished25 sources
Andrew Ng: AI-frykt for menneskehetens undergang er «mer science fiction enn vitenskap»
Andrew Ng sier advarsler om at AI kan føre til menneskehetens undergang er «mye mer science fiction enn vitenskap». Han avviser ikke AI sikkerhet, men mener arbeidet bør handle om testing, sikkerhetsmekanismer og konkrete risikoer, blant annet cybersikkerhet.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Andrew Ng sier advarsler om at AI kan føre til menneskehetens undergang er «mye mer science fiction enn vitenskap».
- Han avviser ikke AI sikkerhet, men mener arbeidet bør handle om testing, sikkerhetsmekanismer og konkrete risikoer, blant annet cybersikkerhet.
- Dario Amodei, Sam Altman, Jacob Coxon og Geoffrey Hinton vil bremse utviklingen av de mest avanserte modellene, mens Ng mener en bred oppbremsing kan hemme også sikkerhetsarbeidet.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ng avviser ikke at kunstig intelligens kan skape problemer. Poenget hans er at påstander om en nært forestående menneskelig utryddelse er for spekulative til å styre AI-politikken. I et intervju med Bloomberg TV 17. september kalte medgründeren av Google Brain slike advarsler «mye mer science fiction enn vitenskap». Han mener AI-sikkerhet bør behandles som en ingeniøroppgave: Systemene må testes, sikres og forbedres over tid. 2
Ng: Uforutsigbarhet betyr ikke at utviklingen må stanses
Ng sa at AI-systemer aldri vil være helt forutsigbare. Men det er etter hans syn ikke det samme som at samfunnet bør sette en generell brems på utviklingen. Testing, sikkerhetsmekanismer og systematisk ingeniørarbeid kan gradvis gjøre teknologien tryggere, sa han. Han advarte også om at en omfattende oppbremsing kan forsinke framdriften i selve sikkerhetsarbeidet. 2
Dette setter ham opp mot dem som mener stadig mer kapable modeller snart kan bli ukontrollerbare. Ng vil heller starte med feil og misbruk som kan observeres, måles og håndteres nå.
Mener dommedagsretorikken kan tjene andre formål
Ng sa at fortellinger om eksistensiell AI-risiko kan gjøre det vanskeligere å hente ut teknologiens samfunnsnytte. Han hevdet også at teknologibransjen tidligere i AI-boomen har blåst opp frykten for katastrofale skader, tilsynelatende for å få oppmerksomhet og påvirke reguleringen. 1
Det er ikke et argument for å legge bort sikkerhetsarbeidet. Ng protesterer mot å behandle utryddelsesscenarier som etablert vitenskap – eller som grunnlag for en generell pause i utviklingen.
Vil prioritere konkrete risikoer, særlig cybersikkerhet
I stedet argumenterer Ng for praktisk risikoreduksjon. Rapporteringen om intervjuet peker på cybersikkerhet og andre konkrete sikringstiltak som sentrale prioriteringer. 5
Hans tilnærming innebærer blant annet:
- Grundig testing før og under utrulling.
- Sikkerhetsmekanismer og rekkverk som begrenser kjente feilmoder.
- Løpende forbedring når nye svakheter oppdages.
- Fokus på forutsigbare skader, som cyberrisiko, framfor et ensidig søkelys på utryddelsesscenarier.
2
5
Ng lover ikke full kontroll. Han argumenterer for at nyttig teknologi kan gjøres tilstrekkelig pålitelig gjennom den samme prosessen med evaluering og forbedring som brukes i andre ingeniørfag.
Skillet mot dem som vil bremse frontmodeller
Flere sentrale personer i AI-miljøet er enige om at sikkerhet må prioriteres, men trekker en langt sterkere konklusjon enn Ng om hvor raskt de mest avanserte modellene bør utvikles.
Jacob Coxon: Mener faren er langt større
Jacob Coxon, som tidligere arbeidet hos både Anthropic og OpenAI, sluttet i Anthropic og advarte mot rask utvikling mot selvforbedrende systemer. Han har sagt at det trengs en oppbremsing, og ønsket Anthropics forslag om å styre tempoet velkommen. 33
43
Dario Amodei: Vil kjøpe tid til sikkerhetsarbeid
Anthropic-sjef Dario Amodei har bedt selskaper senke farten i forbedringen av AI-modellers evner. Målet er å skaffe tid til å håndtere risiko, blant annet med et rammeverk der uavhengige evaluatorer får en rolle. 18
Sam Altman: Støtter å styre tempoet ved fronten
OpenAI-sjef Sam Altman har sluttet seg til hovedideen i Amodeis forslag. Han har også forpliktet OpenAI til ett av tiltakene: at eksterne evaluatorer får reell tilgang til å vurdere selskapets sikkerhetspraksis. 19
24
Geoffrey Hinton: Bekymret for tapt kontroll
Geoffrey Hinton har sagt at det er en «betydelig risiko» for at AI kan komme ut av menneskelig kontroll. Han støtter lavere tempo og tiltak som testing før lansering, og mener myndighetene har reagert for sakte. 20
Uenigheten handler dermed både om sannsynlighet og politikk. Coxon, Amodei, Altman og Hinton mener risikoen for kontrolltap er stor nok til å rettferdiggjøre at utviklingen av de mest avanserte systemene bevisst styres i lavere tempo. Ng mener derimot at utryddelsespåstandene er for svakt underbygget, og vil konsentrere innsatsen om konkrete problemer som kan løses. 2
18
20
Enighet om å unngå bred pause – men av ulike grunner
Ng deler ikke nødvendigvis begrunnelsene til politikere og teknologiledere som også er imot en generell oppbremsing.
- Jensen Huang: Nvidia-sjefen sier bransjen ikke trenger nye lover eller reguleringer.
53
- Mark Zuckerberg: Meta-sjefen mener en bransjeomfattende oppbremsing er unødvendig, fordi konkurranse og markedsinsentiver vil få selskapene til å gjøre modellene sikre.
55
- President Donald Trump: Trump har kalt frykten for løpsk AI en «bløff» og sagt at USA allerede har virkemidler til å regulere og straffeforfølge AI-selskaper.
49
50
- Kinesiske myndigheter: En talsperson for Kinas utenriksdepartement har avvist oppfordringer om å bremse utviklingen av front-AI.
Konklusjonen deres kan ligne Ngs – nei til en bred pause – men begrunnelsen er annerledes. Ng argumenterer først og fremst teknisk: Målbare skader må reduseres med bedre kontrollmekanismer. Huang, Zuckerberg, Trump og kinesiske myndigheter har i varierende grad lagt vekt på motstand mot nye begrensninger, markedsinsentiver, konkurranse og nasjonal strategi. 2
50
52
53
55
Cybersikkerhet er et punkt med delvis overlapp
Debatten går ikke enkelt mellom dem som bryr seg om sikkerhet og dem som ikke gjør det. Cohere-sjef Aidan Gomez har for eksempel sagt at AI-modeller er blitt svært kraftige cybervåpen fordi de kan finne og utnytte sårbarheter i stor skala. 62 Det ligger nær Ngs ønske om å rette innsatsen mot konkrete cyberrisikoer.
Kildene som foreligger her, er derimot ikke nok til å fastslå Gomez' samlede syn på en bransjeomfattende oppbremsing eller internasjonal AI-styring. De gir heller ikke tilstrekkelig grunnlag til å beskrive investoren Steve Eismans standpunkt til oppbremsing, sikkerhetsforskning, regulering og internasjonal styring.
Hovedpoenget
Ng forsøker å flytte rammene for AI-sikkerhetsdebatten. Spørsmålet er ikke om AI skal gjøres tryggere, men om spekulative scenarier om menneskehetens undergang skal styre agendaen. Hans svar er nei: Prioriter testing, sikkerhetsmekanismer og ingeniørarbeid mot dagens identifiserbare skader – og unngå en generell oppbremsing som han mener kan bremse både innovasjon og sikkerhetsframgang. 1
2
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng: AI-frykt for menneskehetens undergang er «mer science fiction enn vitenskap»"?
Andrew Ng sier advarsler om at AI kan føre til menneskehetens undergang er «mye mer science fiction enn vitenskap».
What are the key points to validate first?
Andrew Ng sier advarsler om at AI kan føre til menneskehetens undergang er «mye mer science fiction enn vitenskap». Han avviser ikke AI sikkerhet, men mener arbeidet bør handle om testing, sikkerhetsmekanismer og konkrete risikoer, blant annet cybersikkerhet.
What should I do next in practice?
Dario Amodei, Sam Altman, Jacob Coxon og Geoffrey Hinton vil bremse utviklingen av de mest avanserte modellene, mens Ng mener en bred oppbremsing kan hemme også sikkerhetsarbeidet.