AnswersPublished20 sources
Andrew Ng: AI-domedag är mer science fiction än vetenskap
Andrew Ng kallade farhågorna om att AI sannolikt kan utrota mänskligheten för ”much more science fiction than science”. Han varnade för att domedagsretorik kan flytta fokus från AI:s samhällsnytta och samtidigt skapa publicitet samt påverka regleringen.
Publicerad avBilder genererade med GPT Image 2
Research answer
Key takeaways
- Andrew Ng kallade farhågorna om att AI sannolikt kan utrota mänskligheten för ”much more science fiction than science”.
- Han varnade för att domedagsretorik kan flytta fokus från AI:s samhällsnytta och samtidigt skapa publicitet samt påverka regleringen.
- Ng förespråkar rigorösa tester, skyddsåtgärder och löpande ingenjörsarbete mot konkreta risker, bland annat cybersäkerhetshot.
- Han skiljer sig därmed från röster som vill bromsa utvecklingen av de mest avancerade AI modellerna för att vinna tid för riskhantering.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng avvisade i en intervju med Bloomberg TV den 17 september påståendet att AI sannolikt skulle kunna leda till mänsklighetens utrotning. Han beskrev sådana farhågor som ”much more science fiction than science” – mer science fiction än vetenskap. Att AI-system inte är helt förutsägbara är enligt honom ett tekniskt och ingenjörsmässigt problem att hantera, inte ett skäl att generellt stoppa utvecklingen. 10
Varför han är kritisk till domedagsretoriken
Ng sade att varningar om en existentiell AI-risk kan vara skadliga eftersom de drar uppmärksamhet från teknikens möjliga samhällsnytta. Han pekade också på att teknikbranschen tidigare har förstärkt berättelser om katastrofala AI-konsekvenser, i vad Bloomberg beskrev som ett försök att skapa publicitet och påverka hur området regleras. 8
Det betyder inte att Ng vill bortse från säkerhet. Hans invändning gäller främst idén om en bred inbromsning av AI-utvecklingen som svar på spekulativa utrotningsscenarier. Han varnade dessutom för att en allmän broms kan sakta ned även arbetet med att göra AI säkrare. 10
Vad Ng vill prioritera i stället
Ng framhöll att AI aldrig kommer att vara fullständigt förutsägbart. Men han anser att systemen kan göras tillräckligt tillförlitliga genom:
- noggranna tester och utvärderingar,
- skyddsräcken och andra säkerhetsåtgärder,
- fortlöpande ingenjörsarbete för att upptäcka och rätta fel,
- fokus på konkreta, förutsebara skador – särskilt inom cybersäkerhet.
10
Hans hållning är alltså att säkerhet ska byggas in och förbättras stegvis, med utgångspunkt i observerbara risker, snarare än att AI behandlas som ett nära förestående utrotningshot.
Tydlig skillnad mot dem som vill sakta ned utvecklingen
Ng står i kontrast till bland andra Anthropic-chefen Dario Amodei och AI-forskaren Geoffrey Hinton. Amodei har uppmanat företag att sakta ned förbättringen av de mest avancerade modellerna – så kallade frontier-modeller – för att ge säkerhetsarbete och styrning tid att komma ikapp. Han har bland annat föreslagit oberoende granskning av avancerade modeller. 3
6
Hinton bedömer att det finns en betydande risk att AI kan hamna utanför mänsklig kontroll och vill se långsammare utveckling samt tester före lansering. 16 Den tidigare Anthropic- och OpenAI-forskaren Jacob Coxon har också varnat för att snabb utveckling mot självförbättrande system kan få katastrofala följder.
2
14
Ng delar inte deras sannolikhetsbedömning. Där Amodei, Hinton och Coxon vill vinna tid genom att medvetet sänka takten för de mest kapabla systemen, vill Ng fokusera på praktiska säkerhetsmetoder för risker som går att identifiera och testa. 3
10
16
Hans position ligger därför närmare motståndet mot en branschomfattande paus, men av ett annat skäl än de röster som främst betonar konkurrens och innovation. Ng:s argument är i första hand tekniskt: AI-risker bör hanteras med bättre ingenjörsarbete, inte med domedagsscenarier. 5
7
10
11
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng: AI-domedag är mer science fiction än vetenskap"?
Andrew Ng kallade farhågorna om att AI sannolikt kan utrota mänskligheten för ”much more science fiction than science”.
What are the key points to validate first?
Andrew Ng kallade farhågorna om att AI sannolikt kan utrota mänskligheten för ”much more science fiction than science”. Han varnade för att domedagsretorik kan flytta fokus från AI:s samhällsnytta och samtidigt skapa publicitet samt påverka regleringen.
What should I do next in practice?
Ng förespråkar rigorösa tester, skyddsåtgärder och löpande ingenjörsarbete mot konkreta risker, bland annat cybersäkerhetshot.
Sources
reuters.comAnthropic CEO urges AI companies to slow model ... - Reuters
bbc.comAnthropic boss Dario Amodei calls for AI development to slow down