AnswersPublished22 sources
Andrew Ng avviser dommedagsvarslene om KI: «Mer science fiction enn vitenskap»
Andrew Ng beskrev frykten for at KI skal føre til menneskehetens utryddelse som «mye mer science fiction enn vitenskap». Han mener usikker KI atferd er et ingeniørproblem som må håndteres med evaluering, vernerekkverk og gradvise forbedringer.
Publisert avBilder generert med GPT Image 2
Research answer
Key takeaways
- Andrew Ng beskrev frykten for at KI skal føre til menneskehetens utryddelse som «mye mer science fiction enn vitenskap».
- Han mener usikker KI atferd er et ingeniørproblem som må håndteres med evaluering, vernerekkverk og gradvise forbedringer.
- Ng advarte mot at dommedagsretorikk kan flytte oppmerksomheten bort fra KI nytte og bidra til regulering som favoriserer de største laboratoriene.
- Han skiller seg fra Dario Amodei, Sam Altman og Geoffrey Hinton, som mener risikoen for tap av kontroll tilsier lavere tempo i utviklingen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng avviste påstanden om at kunstig intelligens sannsynligvis vil føre til menneskehetens utryddelse. I Bloomberg TV-intervjuet 17. september kalte han slike advarsler «mye mer science fiction enn vitenskap». At KI-systemer ikke alltid oppfører seg fullstendig forutsigbart, er etter hans syn et ingeniørproblem som må håndteres – ikke et argument for å stanse utviklingen bredt. 10
Hvorfor Ng er skeptisk til dommedagsretorikken
Ng sa at advarsler om eksistensiell risiko kan ta oppmerksomheten bort fra hvordan KI faktisk kan komme samfunnet til gode. Han pekte også på at teknologibransjen tidligere har blåst opp frykt for katastrofale konsekvenser, tilsynelatende for å skape publisitet og påvirke hvordan myndighetene regulerer teknologien. 8
Hans underliggende innvending er at regler som særlig retter seg mot de aller største, såkalte grensemodellene, kan gi etablerte og kapitalsterke KI-selskaper en fordel: De har lettere for å bære kostnadene ved omfattende etterlevelse enn mindre aktører. 8
10
Ng argumenterte likevel ikke for å ignorere sikkerhet. Han vil prioritere grundig testing, sikkerhetsmekanismer og ordinært ingeniørarbeid mot konkrete, observerbare feil – blant annet innen cybersikkerhet og andre forutsigbare skadevirkninger. KI blir neppe helt forutsigbar, men kan ifølge ham gjøres tilstrekkelig pålitelig gjennom evaluering, sikkerhetsrekkverk og iterativ forbedring. 10
Han advarte dessuten om at en bred nedbremsing av KI-utviklingen også kan bremse arbeidet med å gjøre teknologien tryggere. 10
Uenigheten med dem som vil senke tempoet
Forskjellen mellom Ng og den mer forsiktige leiren handler først og fremst om hvor sannsynlig risikoen for å miste kontrollen er – og hvilke politiske tiltak den bør utløse.
- Jacob Coxon, tidligere forsker i OpenAI og Anthropic, har advart om at rask og utilstrekkelig kontrollert utvikling, særlig mot selvforbedrende systemer, kan gi en alvorlig katastroferisiko. Han har tatt til orde for lavere tempo.
2
14
- Dario Amodei, toppsjef i Anthropic, har foreslått å bremse forbedringen av kapasiteten i de mest avanserte modellene. Planen hans omfatter blant annet uavhengige vurderinger, slik at det blir mer tid til risikohåndtering.
3
- Sam Altman, toppsjef i OpenAI, har sluttet seg til hovedideen om lavere tempo og sterkere sikkerhetstiltak, på bakgrunn av frykt for systemer mennesker ikke klarer å kontrollere.
1
9
- Geoffrey Hinton mener også det er en betydelig risiko for at KI kan komme ut av menneskelig kontroll. Han støtter langsommere utvikling og tiltak som testing før lansering.
16
Ng avviser ikke sikkerhetsarbeid, men vurderer utryddelsespåstandene som spekulative. Der Amodei, Altman, Coxon og Hinton mener muligheten for kontrolltap er alvorlig nok til å rettferdiggjøre en bevisst nedbremsing av de mest avanserte modellene, vil Ng rette innsatsen mot målbare feil og konkrete sikkerhetstiltak. 3
10
16
Nærmere dem som avviser en bred brems – men av andre grunner
Ng deler motstanden mot en bransjeomfattende nedbremsing med flere ledere og politikere, men begrunnelsen er ikke nødvendigvis den samme.
- Jensen Huang, Nvidias toppsjef, har motsatt seg nye KI-spesifikke lover og avvist behovet for en bred nedbremsing.
5
- Mark Zuckerberg har motsatt seg en pause for hele bransjen og argumentert for at konkurranse og markedsinsentiver vil få selskapene til å gjøre modellene tryggere.
- President Donald Trump har avvist kravet om lavere tempo, kalt KI-farepåstander en «bløff» og sagt at USA allerede har virkemidler til å regulere eller straffeforfølge misbruk. Han har særlig vektlagt amerikansk konkurransekraft, ikke minst overfor Kina.
- Kinesiske myndigheter har også avvist oppfordringer om å bremse utviklingen av avansert KI, som uttrykk for motstand mot en global pause pålagt utenfra.
For Ng er argumentet i hovedsak teknisk: løs reelle feil med testing, sikkerhetsmekanismer og ingeniørdisiplin. For Huang, Zuckerberg, Trump og kinesiske myndigheter står innovasjon, konkurranse og skepsis til nye begrensninger mer sentralt. 5
7
10
11
Det finnes ikke tilstrekkelig dokumentasjon i materialet til å beskrive Aidan Gomez eller Steve Eisman sine konkrete standpunkter om en bransjeomfattende nedbremsing, sikkerhetsforskning, regulering og internasjonal styring uten å gå lenger enn kildene gir dekning for.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng avviser dommedagsvarslene om KI: «Mer science fiction enn vitenskap»"?
Andrew Ng beskrev frykten for at KI skal føre til menneskehetens utryddelse som «mye mer science fiction enn vitenskap».
What are the key points to validate first?
Andrew Ng beskrev frykten for at KI skal føre til menneskehetens utryddelse som «mye mer science fiction enn vitenskap». Han mener usikker KI atferd er et ingeniørproblem som må håndteres med evaluering, vernerekkverk og gradvise forbedringer.
What should I do next in practice?
Ng advarte mot at dommedagsretorikk kan flytte oppmerksomheten bort fra KI nytte og bidra til regulering som favoriserer de største laboratoriene.
Sources