AnswersPublished13 sources
Tidligere DeepMind-forsker advarer: AI kan »dræbe os alle«
Bilal Chughtai, der forlod Google DeepMind i juli 2026, siger, at AI kan have potentiale til at »dræbe os alle«, og at tiden til at undgå det kan være ved at løbe ud. Hans advarsel ligger i forlængelse af bekymringer fra tidligere Anthropic forsker Jacob Coxon og alignment forskeren Evan Hubinger, hvis vurdering på...
Udgivet afRedigeret med GPT-5.6 TerraBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai, der forlod Google DeepMind i juli 2026, siger, at AI kan have potentiale til at »dræbe os alle«, og at tiden til at undgå det kan være ved at løbe ud.
- Hans advarsel ligger i forlængelse af bekymringer fra tidligere Anthropic forsker Jacob Coxon og alignment forskeren Evan Hubinger, hvis vurdering på over 10 % udtrykkeligt er personlig.
- Striden drejer sig om tempo og styring: Tilhængere vil have test, uafhængig kontrol og mulighed for indgreb før farlige lanceringer, mens kritikere fremhæver omkostningen ved at bremse USA i konkurrencen med Kina.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtais udtalelse er en skarp advarsel om eksistentiel risiko – ikke en forudsigelse om, at AI uundgåeligt vil udslette menneskeheden. Efter at have forladt Google DeepMind, hvor han oplyser, at han arbejdede med sikkerhed og alignment for AGI, skrev Chughtai, at AI har potentiale til at »dræbe os alle«, og at tiden til at undgå det måske er ved at løbe ud.
Hvad er det konkret, Chughtai advarer imod?
Hans bekymring er, at AI-systemer kan blive stadig mere kapable hurtigere, end mennesker kan gøre dem pålideligt sikre og kontrollerbare. Han peger især på teknologiens nuværende kurs: et konkurrencepræget kapløb om at udvikle kraftigere systemer, før der findes tilstrækkelige sikkerhedsforanstaltninger, forskning i alignment og offentlig kontrol.
Alignment dækker her over arbejdet med at sikre, at et AI-systems mål og handlinger faktisk følger menneskelige hensigter og begrænsninger.
Chughtais foreslåede løsning er fælles handling frem for, at ét selskab bremser alene. Han opfordrer til, at AI-udviklingen foregår i et tempo, samfundet kan håndtere, så nye risici kan tackles, før de fører til ekstrem skade. Virksomhederne bør koordinere i stedet for at fortsætte et »manisk kapløb«, som han formulerede det.
Flere AI-forskere har rejst samme type bekymring
Chughtais afgang kom efter en række usædvanligt direkte udtalelser fra AI-forskere og ledere om katastrofale risici ved meget avancerede systemer.
Den tidligere Anthropic-forsker Jacob Coxon sagde, at han sagde op, fordi han mente, at førende laboratorier uforsvarligt jagtede selvforbedrende superintelligens. Coxon sagde, at mennesker, som bygger AI, oprigtigt tror, at teknologien kan ødelægge menneskeheden inden udgangen af dette årti.
Evan Hubinger, der arbejder med alignment hos Anthropic, tilsluttede sig den grundlæggende bekymring. Han angav sin personlige vurdering af sandsynligheden for, at AI medfører menneskelig udryddelse inden for det næste årti, til mere end 10 %. Samtidig skelnede han mellem den langsigtede risiko og nutidens modeller, som han beskrev som lavrisiko.
Det er afgørende at holde fast i, hvad disse udsagn er: individuelle faglige vurderinger – ikke et empirisk sandsynlighedsestimat eller videnskabelig konsensus. Pointen er mere afgrænset: Nogle personer tæt på udviklingen af de mest avancerede AI-modeller vurderer, at konsekvenserne kan være så alvorlige, at der bør indføres stærkere forholdsregler, før kapabiliteterne tager yderligere fart.
Derfor handler debatten om at sætte tempoet ned
Chughtais forslag overlapper med Anthropic-chef Dario Amodeis synspunkt: De mest avancerede AI-systemer bør udvikles i et langsommere tempo, mens sikkerhedsforanstaltninger og ekstern kontrol forbedres. Ifølge omtalen støttede OpenAI-chef Sam Altman og Elon Musk en branchedækkende opbremsning.
Det er ikke nødvendigvis et krav om et permanent forbud mod AI. Anthropics Advanced AI Framework foreslår i stedet krav til udviklere af de mest kapable modeller, herunder:
- test af systemer for katastrofale risici;
- brug af uafhængige, eksterne evaluatorer;
- løbende offentliggørelse af evalueringer, risici og sikkerhedshændelser; og
- ansvar over for myndigheder, herunder mulighed for at afskrække fra eller blokere farlige udrulninger.
1
Anthropic har også formuleret sin Responsible Scaling Policy som en hvis-så-model: Hvis modeller udviser bestemte farlige kapabiliteter, bør udviklere hverken udrulle dem eller træne mere kraftfulde systemer, før relevante sikkerhedsforanstaltninger er på plads. 8
Modargumentet: Regulering kan svække USA i AI-konkurrencen
Uenigheden er ikke kun teknisk, men også geopolitisk. Kritikere af en opbremsning mener, at stramme begrænsninger kan give rivaliserende stater eller mindre forsigtige virksomheder en fordel.
USA's præsident Donald Trump har anerkendt, at AI muligvis kræver visse værn, men han har nedtonet de mest alarmerende påstande og sagt, at han frygter, at USA mister sit forspring til Kina. Det indrammer konfliktens kerne: Er det at bremse frontlinjen i AI-udviklingen nødvendig risikostyring – eller en strategisk indrømmelse, USA ikke har råd til?
Hvad betegnelsen »AI-doomerisme« både rammer og overser
»AI-doomerisme« bruges ofte om forestillingen om, at avanceret AI kan skabe risiko på udryddelsesniveau. Men etiketten kan skygge for et mere konkret politisk spørgsmål: Hvilke tegn på farlige kapabiliteter bør udløse yderligere test, begrænsninger af udrulning eller myndighedsindgreb?
Chughtais argument dokumenterer ikke, at en AI-katastrofe er nært forestående. Hans pointe er, at konsekvenserne af at fejle med sikkerheden kan være uoprettelige, og at konkurrencepresset måske ikke i sig selv skaber den nødvendige forsigtighed. Hans foreslåede svar er koordineret styring: langsommere udrulning, når det er nødvendigt, stærkere evalueringer og klarere ansvar, før systemerne bliver sværere at kontrollere. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tidligere DeepMind-forsker advarer: AI kan »dræbe os alle«"?
Bilal Chughtai, der forlod Google DeepMind i juli 2026, siger, at AI kan have potentiale til at »dræbe os alle«, og at tiden til at undgå det kan være ved at løbe ud.
What are the key points to validate first?
Bilal Chughtai, der forlod Google DeepMind i juli 2026, siger, at AI kan have potentiale til at »dræbe os alle«, og at tiden til at undgå det kan være ved at løbe ud. Hans advarsel ligger i forlængelse af bekymringer fra tidligere Anthropic forsker Jacob Coxon og alignment forskeren Evan Hubinger, hvis vurdering på over 10 % udtrykkeligt er personlig.
What should I do next in practice?
Striden drejer sig om tempo og styring: Tilhængere vil have test, uafhængig kontrol og mulighed for indgreb før farlige lanceringer, mens kritikere fremhæver omkostningen ved at bremse USA i konkurrencen med Kina.