AnswersPublished13 sources
Bilal Chughtai advarer om KI-risiko: – Tiden kan være i ferd med å renne ut
Bilal Chughtai, som tidligere jobbet med AGI sikkerhet og såkalt alignment i Google DeepMind, sier KI kan ha potensial til å «drepe oss alle». Advarselen kommer etter lignende utspill fra tidligere Anthropic forsker Jacob Coxon og Anthropic forskeren Evan Hubinger.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai, som tidligere jobbet med AGI sikkerhet og såkalt alignment i Google DeepMind, sier KI kan ha potensial til å «drepe oss alle».
- Advarselen kommer etter lignende utspill fra tidligere Anthropic forsker Jacob Coxon og Anthropic forskeren Evan Hubinger.
- Forslaget er ikke nødvendigvis et permanent forbud, men strengere testing, uavhengig kontroll og et mer koordinert tempo i utviklingen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai beskriver ikke en uunngåelig KI-katastrofe, men en eksistensiell risikoadvarsel: Han mener utviklingen kan gå så raskt at samfunnet mister muligheten til å gjøre systemene trygge og kontrollerbare.
Chughtai skrev etter at han sluttet i Google DeepMind, der han opplyste at han arbeidet med sikkerhet og alignment for AGI – generell kunstig intelligens. Med alignment menes arbeidet med å få KI-systemer til å handle i tråd med menneskelige mål og begrensninger. Han sa at KI har potensial til å «drepe oss alle», og at tiden for å forhindre dette kan være i ferd med å renne ut.
Bekymringen: Et kappløp uten nok sikkerhetsmarginer
Kjernen i Chughtais argument er det han kaller teknologiens «standardkurs»: Selskaper konkurrerer om å bygge stadig kraftigere modeller, mens sikkerhetsforskning, kontrollmekanismer og offentlig tilsyn ikke nødvendigvis holder samme tempo.
Løsningen han skisserte, er koordinering snarere enn at enkeltaktører bremser alene. KI-utviklingen bør holdes i et tempo samfunnet kan håndtere, slik at nye risikoer kan håndteres før de får svært alvorlige følger. Han oppfordret selskapene til å samordne seg fremfor å fortsette et «manisk kappløp».
Flere KI-forskere har kommet med lignende advarsler
Chughtais uttalelser føyer seg inn i en rekke uvanlig direkte advarsler fra folk som selv har arbeidet tett på de mest avanserte KI-modellene.
Tidligere Anthropic-forsker Jacob Coxon sa at han sluttet fordi han mente ledende laboratorier jaget selvforbedrende superintelligens på en uansvarlig måte. Coxon sa at folk som utvikler KI, oppriktig tror den kan ødelegge menneskeheten før tiåret er omme.
Evan Hubinger, som arbeider med alignment-forskning i Anthropic, støttet den underliggende bekymringen. Han oppga at hans personlige anslag for at KI kan føre til menneskelig utryddelse i løpet av de neste ti årene, er over 10 prosent. Samtidig sa han at dagens modeller innebærer lav risiko.
Dette er vurderinger fra enkeltforskere – ikke et vitenskapelig konsensus eller et empirisk sannsynlighetsestimat. Poenget deres er mer avgrenset: Enkelte med innsikt i utviklingen mener mulige skadevirkninger er så alvorlige at det trengs sterkere forholdsregler før kapasiteten øker ytterligere.
Hva betyr det å «bremse KI»?
Chughtais syn overlapper med oppfordringen fra Anthropics toppsjef Dario Amodei om å styre tempoet i utviklingen av de mest avanserte systemene, mens sikkerhetstiltak og eksternt tilsyn styrkes. Også OpenAI-sjef Sam Altman og Elon Musk er omtalt som støttespillere for en koordinert nedbremsing.
Det innebærer ikke nødvendigvis et varig forbud mot KI. Anthropics rammeverk for avansert KI foreslår blant annet at utviklere av de kraftigste modellene må:
- teste modellene for katastrofale risikoer;
- bruke uavhengige eksterne evaluatorer;
- løpende offentliggjøre evalueringer, risikoer og sikkerhetshendelser; og
- stå til ansvar overfor myndighetene, som må kunne stanse eller avskrekke farlige lanseringer.
1
Anthropics Responsible Scaling Policy bygger på en «hvis–så»-modell: Hvis en modell viser nærmere definerte farlige evner, skal selskapet ikke ta den i bruk eller trene enda kraftigere modeller før nødvendige sikkerhetstiltak er på plass. 8
Motargumentet: En brems kan svekke USAs konkurransekraft
Uenigheten handler ikke bare om teknologi, men også om geopolitikk. Kritikere av en nedbremsing frykter at strenge begrensninger kan gi rivaliserende stater eller mindre forsiktige selskaper et forsprang.
USAs president Donald Trump har sagt at KI kan trenge enkelte sikkerhetsrekkverk, men har tonet ned de mest alarmerende scenariene. Han uttrykte samtidig bekymring for at USA kan miste sitt teknologiske forsprang til Kina.
Det er den sentrale konfliktlinjen: Er det å redusere tempoet på KI-fronten nødvendig risikostyring – eller en strategisk kostnad USA ikke har råd til?
«KI-dommedagstenkning» – og det faktiske spørsmålet
Begrepet «AI doomerism», ofte gjengitt som KI-dommedagstenkning, brukes gjerne om troen på at avansert KI kan skape en risiko på utryddelsesnivå. Men merkelappen kan skygge for det konkrete politiske spørsmålet: Hvilke tegn på farlige evner bør utløse strengere tester, begrensninger på utrulling eller myndighetsinngripen?
Chughtais uttalelser beviser ikke at en katastrofe er nært forestående. De uttrykker derimot en frykt for at konsekvensene av å mislykkes med sikkerhet kan være irreversible, og at konkurransepress alene ikke gir nok forsiktighet. Hans foreslåtte svar er samordnet styring: lavere tempo der det er nødvendig, bedre evalueringer og tydeligere ansvar før systemene blir vanskeligere å kontrollere. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bilal Chughtai advarer om KI-risiko: – Tiden kan være i ferd med å renne ut"?
Bilal Chughtai, som tidligere jobbet med AGI sikkerhet og såkalt alignment i Google DeepMind, sier KI kan ha potensial til å «drepe oss alle».
What are the key points to validate first?
Bilal Chughtai, som tidligere jobbet med AGI sikkerhet og såkalt alignment i Google DeepMind, sier KI kan ha potensial til å «drepe oss alle». Advarselen kommer etter lignende utspill fra tidligere Anthropic forsker Jacob Coxon og Anthropic forskeren Evan Hubinger.
What should I do next in practice?
Forslaget er ikke nødvendigvis et permanent forbud, men strengere testing, uavhengig kontroll og et mer koordinert tempo i utviklingen.