AnswersPublished13 sources
Tidigare DeepMind-forskare varnar: AI kan ”döda oss alla”
Bilal Chughtai, som lämnade Google DeepMind i juli 2026, säger att AI kan ”döda oss alla” och att tiden för att undvika ett sådant utfall kan vara på väg att rinna ut. Varningen följer liknande uttalanden från tidigare Anthropic forskaren Jacob Coxon och säkerhetsforskaren Evan Hubinger, vars uppskattning om över 10...
Publicerad avRedigerad med GPT-5.6 TerraBilder genererade med GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai, som lämnade Google DeepMind i juli 2026, säger att AI kan ”döda oss alla” och att tiden för att undvika ett sådant utfall kan vara på väg att rinna ut.
- Varningen följer liknande uttalanden från tidigare Anthropic forskaren Jacob Coxon och säkerhetsforskaren Evan Hubinger, vars uppskattning om över 10 procents risk uttryckligen var en personlig bedömning.
- Kärnan i tvisten gäller tempo och ansvar: förespråkare vill ha tester, oberoende granskning och möjligheten att stoppa riskabla modeller, medan motståndare varnar för att USA kan tappa mark till Kina.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtais uttalande är en skarp varning om existentiell risk – inte en prognos om att AI oundvikligen kommer att utplåna mänskligheten. Efter att ha lämnat Google DeepMind, där han enligt egen uppgift arbetade med säkerhet och så kallad alignment för AGI (artificiell generell intelligens), skrev han att AI kan ha potential att ”döda oss alla” och att tiden för att förhindra det kan vara på väg att rinna ut.
Google hade inte svarat på Reuters begäran om kommentar när rapporteringen publicerades.
Vad är det Chughtai varnar för?
Chughtais oro gäller riktningen i vilken tekniken utvecklas: AI-systemen blir mer kapabla snabbare än människor hinner visa att de går att göra tillförlitligt säkra och styrbara. Hans invändning riktas mot en konkurrensdriven kapplöpning där företag pressas att bygga allt kraftfullare system innan skyddsåtgärder, alignmentforskning och extern tillsyn är tillräckliga.
Med alignment avses här arbetet med att få AI-system att agera i linje med mänskliga mål och begränsningar, även när systemen får större förmåga och mer självständighet.
Hans förslag är inte att ett enskilt företag ensamt ska lägga ned sin AI-utveckling. I stället efterlyser han samordning: utvecklingen bör ske i en takt som samhället kan hantera, så att nya risker kan åtgärdas innan de leder till extrem skada. Företagen måste, som han uttryckte det, koordinera sig i stället för att fortsätta en ”manisk kapplöpning”.
Fler AI-insiders har slagit larm
Chughtais avhopp kommer efter en rad ovanligt direkta uttalanden från forskare och företagsledare inom avancerad AI.
Jacob Coxon, tidigare forskare på Anthropic, sade att han lämnade bolaget eftersom han ansåg att ledande AI-labb agerade oansvarigt i racet mot självförbättrande superintelligens. Enligt Coxon tror personer som bygger AI på allvar att tekniken kan förstöra mänskligheten före decenniets slut.
Evan Hubinger, säkerhets- och alignmentforskare på Anthropic, instämde i grundoron. Han skrev att hans personliga uppskattning av risken för att AI orsakar mänsklighetens utrotning inom tio år är större än 10 procent. Samtidigt betonade han att dagens modeller innebär låg risk.
Detta är bedömningar från enskilda forskare, inte empiriskt fastställda sannolikheter eller ett vetenskapligt konsensus. Den mer avgränsade poängen är att personer nära utvecklingen av de mest avancerade modellerna bedömer att de möjliga konsekvenserna är så allvarliga att försiktighetsåtgärder bör skärpas innan förmågorna går längre.
Förslaget: bromsa AI-fronten, inte förbjuda AI
Chughtais krav ligger nära Anthropic-vd:n Dario Amodeis linje: att hålla tillbaka tempot för de mest avancerade AI-systemen medan säkerhetsarbetet och den externa tillsynen förbättras. Enligt rapportering har OpenAI-chefen Sam Altman och Elon Musk uttryckt stöd för en samordnad inbromsning i branschen.
Det handlar alltså inte nödvändigtvis om ett permanent AI-förbud. Anthropics ramverk för avancerad AI föreslår bland annat krav på utvecklare av de mest kapabla modellerna:
- att testa modeller för katastrofala risker;
- att anlita oberoende externa utvärderare;
- att löpande redovisa utvärderingar, risker och säkerhetsincidenter; och
- att kunna hållas ansvariga inför myndigheter, med möjlighet för staten att avskräcka från eller stoppa farliga lanseringar.
1
Anthropic har också en så kallad Responsible Scaling Policy med en villkorsstyrd modell: om ett system uppvisar angivna farliga förmågor ska företaget inte lansera det, eller träna ännu kraftfullare modeller, förrän relevanta skydd finns på plats. 8
Motargumentet: USA får inte förlora AI-racet
Oenigheten är lika mycket geopolitisk som teknisk. Kritiker av en nedväxling menar att hårda begränsningar kan ge fördelar åt konkurrerande stater eller företag som är mindre försiktiga.
USA:s president Donald Trump har medgett att AI kan behöva vissa skyddsräcken, men tonat ned de mest alarmerande scenarierna. Han har i stället lyft risken att USA förlorar sitt teknologiska försprång till Kina.
Det fångar konfliktens kärna: Är en långsammare AI-front nödvändig riskhantering – eller en strategisk eftergift som USA inte har råd med?
Vad debatten om ”AI-doomerism” egentligen gäller
Begreppet ”AI-doomerism” används ofta om uppfattningen att avancerad AI kan innebära en risk på utrotningsnivå. Etiketten kan skymma den konkreta policyfrågan: Vilka tecken på farliga AI-förmågor ska utlösa mer testning, begränsningar av lanseringar eller myndighetsingripanden?
Chughtai visar inte att en AI-katastrof är nära förestående. Hans argument är att följderna av att misslyckas med säkerheten kan vara oåterkalleliga – och att affärsmässiga konkurrensincitament inte säkert skapar den försiktighet som krävs. Svaret han förespråkar är därför samordnad styrning: lägre lanseringstakt där det behövs, starkare utvärderingar och tydligare ansvar innan systemen blir svårare att kontrollera. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tidigare DeepMind-forskare varnar: AI kan ”döda oss alla”"?
Bilal Chughtai, som lämnade Google DeepMind i juli 2026, säger att AI kan ”döda oss alla” och att tiden för att undvika ett sådant utfall kan vara på väg att rinna ut.
What are the key points to validate first?
Bilal Chughtai, som lämnade Google DeepMind i juli 2026, säger att AI kan ”döda oss alla” och att tiden för att undvika ett sådant utfall kan vara på väg att rinna ut. Varningen följer liknande uttalanden från tidigare Anthropic forskaren Jacob Coxon och säkerhetsforskaren Evan Hubinger, vars uppskattning om över 10 procents risk uttryckligen var en personlig bedömning.
What should I do next in practice?
Kärnan i tvisten gäller tempo och ansvar: förespråkare vill ha tester, oberoende granskning och möjligheten att stoppa riskabla modeller, medan motståndare varnar för att USA kan tappa mark till Kina.