AnswersPublished22 sources
AI og udryddelse: Advarsler fra branchen møder krav om beviser
Evan Hubingers vurdering af en risiko på over 10 % inden for ti år er en personlig vurdering – ikke en videnskabeligt målt sandsynlighed eller en faglig konsensus. Jacob Coxons fratræden og Bilal Chughtais advarsel har skærpet alarmen, mens skeptikere peger på, at digitale AI evner ikke automatisk giver fysisk handl...
Udgivet afRedigeret med GPT-5.6 TerraBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Evan Hubingers vurdering af en risiko på over 10 % inden for ti år er en personlig vurdering – ikke en videnskabeligt målt sandsynlighed eller en faglig konsensus.
- Jacob Coxons fratræden og Bilal Chughtais advarsel har skærpet alarmen, mens skeptikere peger på, at digitale AI evner ikke automatisk giver fysisk handlekraft.
- Et muligt kompromis er at sænke tempoet i kapabilitetsløbet, lade uafhængige eksperter kontrollere sikkerhedsarbejdet og håndtere nutidige misbrugsrisici samtidig.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Debatten om, hvorvidt AI kan føre til menneskehedens udryddelse, er ikke bare en konflikt mellem dem, der anser AI for sikker, og dem, der ser den som farlig. Den handler om hvor hurtigt kapabiliteterne kan udvikle sig, hvilke led der skal være på plads, før en model kan forårsage uoprettelig skade, og hvor stærk dokumentation samfundet bør kræve, før der indføres hårdere begrænsninger.
Advarsler fra forskere med erfaring fra de førende AI-laboratorier har gjort spørgsmålet mere presserende. Men selv markante kritikere af udryddelsesretorikken støtter ofte test og sikkerhedsarbejde. Det praktiske hovedspørgsmål er derfor i stigende grad, om udviklerne kan dokumentere kontrol og forsvarlig udrulning, efterhånden som systemerne bliver stærkere.
Advarslen indefra: Et kapløb mod systemer, der kan blive ukontrollerbare
Jacob Coxon, en tidligere Anthropic-forsker, som oplyste også at have arbejdet hos OpenAI, forlod Anthropic i september 2026. Han hævdede, at de to selskaber prioriterede konkurrence højere end ansvarlig udvikling, og at de var på vej mod "selvforbedrende superintelligens". 49
Udmeldingen fik offentlig opbakning fra Evan Hubinger, der leder Anthropics forskning i alignment – altså arbejdet med at få AI-systemer til at handle i tråd med menneskelige mål og begrænsninger. Hubinger skrev, at han personligt vurderede sandsynligheden for, at AI kan dræbe alle mennesker inden for det næste årti, til over 10 %. Samtidig skrev han, at Anthropic endnu ikke har en plan for at løse alignment for superintelligens. 16 Hans tal er dog en personlig vurdering, ikke videnskabelig konsensus eller en empirisk beregnet udryddelsessandsynlighed.
12
Den tidligere Google DeepMind-forsker Bilal Chughtai har fremsat en lignende advarsel. Han skrev, at AI efter hans opfattelse har potentiale til at dræbe alle, og at tiden til at undgå det kan være ved at løbe ud. 2
Advarslerne er typisk betingede. De handler ikke om, at nutidens chatbots pludselig bliver farlige af sig selv. Det frygtede forløb er, at fremtidige systemer kan accelerere AI-forskning væsentligt, operere mere selvstændigt, unddrage sig effektivt menneskeligt opsyn eller forstærke adgang til cyber-, bio- og institutionelle kapabiliteter hurtigere, end sikkerhedsmetoderne forbedres. Om det forløb er sandsynligt – og hvor hurtigt det i givet fald kan ske – er debattens centrale stridspunkt.
Hvorfor 10 % ikke er en fastslået prognose
Hubingers tal har vakt opsigt, fordi det er markant og kommer fra en ledende alignment-forsker. Men det bør læses rigtigt: Det er et individuelt skøn under stor usikkerhed, ikke en sandsynlighed bekræftet af historiske data eller en model, der kan måle udryddelsesrisiko. 12
Vurderingen afhænger blandt andet af flere uafklarede antagelser:
- AI-systemer skal blive langt mere kapable end nutidens modeller.
- De kapabiliteter skal omsættes til vedvarende strategisk autonomi eller skadelig magt i den fysiske verden.
- Tekniske kontrolmekanismer, operatører, institutioner og modforanstaltninger skal alle svigte.
- Sikkerheds- og alignmentforskningen skal sakke efter udviklingen i kapabiliteter.
Hvert led kan diskuteres for sig. Det gør ikke bekymringen uvæsentlig, men det betyder, at et opsigtsvækkende procenttal ikke bør forveksles med en påvist forudsigelse.
Skeptikernes indvending: Digital intelligens er ikke det samme som fysisk handlekraft
Skeptikere udfordrer springet fra høj præstation i software- og sprogopgaver til evnen til at skabe fysisk skade i udryddelsesskala. Biologi er et ofte nævnt eksempel. Eric Xing har argumenteret for, at det at få en sprogmodel til at generere et hypotetisk virusgenom er grundlæggende noget andet end at skabe en levedygtig virus. Materialer, fremstilling, biologisk levedygtighed, laboratoriearbejde og test er hver deres barriere. 46
Det er en væsentlig skelnen. En model kan levere information eller designforslag, men at omsætte dem til virkelig skade kan kræve specialiserede laboratorier, tavs ekspertviden, forsyningskæder, gentagne forsøg og adgang til kontrollerede materialer. Det betyder ikke, at biosikkerhedsrisikoen er nul. Men det udfordrer antagelsen om, at digital kapabilitet alene straks giver afgørende fysisk kapabilitet.
Nvidias topchef Jensen Huang har været blandt de tydeligste kritikere af udryddelsespåstandene og har kaldt idéen om, at AI vil udslette menneskeheden, for "fuldstændigt nonsens". 33 Mark Cuban har på sin side argumenteret for, at menneskers reaktion på alarmerende påstande kan være farligere end AI-agenters sværme.
43
Det skeptiske synspunkt er derfor ikke nødvendigvis, at avanceret AI ikke kræver sikkerhedsforanstaltninger. Pointen er, at ekstraordinære påstande om nært forestående udryddelse kræver stærkere belæg end fremskrivninger af nutidige modellers præstationer og spekulative fremtidsscenarier.
Den mulige mellemvej: Sænk tempoet og efterprøv sikkerheden
En mere operationel tilgang kommer fra ledere, der hverken betragter udryddelse som sikker eller afviser risikoen blankt. Anthropics topchef Dario Amodei har opfordret til langsommere forbedringer af AI-modellernes kapabiliteter, så der bliver tid til sikkerhedsarbejde. Hans forslag omfatter uafhængige evaluatorer med adgang på niveau med ansatte samt koordinering mellem virksomhederne bag de mest avancerede AI-modeller. 18
Reuters har rapporteret, at OpenAI-chef Sam Altman er blandt de ledere, der søger en koordineret opbremsning, selv om branchen fortsat er splittet om, hvor meget man skal overlade til markedsdrevne sikkerhedsforanstaltninger. 19 Ifølge rapportering støtter Altman også eksterne evaluatorer som led i tilgangen.
20
Det flytter diskussionen fra abstrakte forudsigelser til praksisser, der kan kontrolleres:
- Uafhængig evaluering: Kvalificerede eksterne kontrollører skal have reel adgang til at vurdere sikkerhedspåstande frem for, at offentligheden alene skal stole på selskabernes egne erklæringer.
18
- Tærskler baseret på kapabilitet: Tilsyn og eventuelle begrænsninger bør skærpes, når modeller viser væsentlige fremskridt på farlige områder, eksempelvis cyberoperationer eller selvstændig agentadfærd.
- Koordinering mellem laboratorier: Konkurrencen bør ikke få virksomheder til at skære sikkerhedsmargener væk af frygt for at sakke bagud.
- Internationalt samarbejde: Standarder bør koordineres mellem regeringer og store AI-udviklere, herunder ordninger, der mindsker presset for at lancere uden tilstrækkelige værn.
27
- Sikkerhed skal følge med kapabiliteterne: Dokumenteret kontrol, overvågning og evne til at reagere på hændelser bør udvikles i takt med stærkere systemer.
Risikerer dommedagsscenarier at skygge for aktuelle skader?
En anden kritik handler om prioritering. Selv hvis katastroferisiko fortjener forskning og beredskabsplaner, kan et ensidigt fokus på usikre udryddelsesscenarier skygge for skader, der allerede er knyttet til avancerede AI-systemer og deres anvendelse.
Den mere umiddelbare dagsorden omfatter AI-understøttet cybermisbrug, svindel, overvågning, desinformation, diskriminerende automatiske afgørelser, ændringer på arbejdsmarkedet og koncentration af magt. Amodei har selv nævnt misbrug til våbenudvikling, cyberangreb og overvågning som grunde til at sænke udviklingstempoet. 29
Det behøver ikke være et valg mellem nutidige skader og langsigtet katastroferisiko. Flere af de samme værn kan ramme begge dele: bedre adgangskontrol, grundigere evalueringer, forsigtig udrulning, uafhængigt tilsyn, rapportering af hændelser og tydeligt ansvar.
Det, debatten reelt ændrer
Den mest holdbare konklusion er hverken, at udryddelse er bevist, eller at den kan afvises, fordi et komplet katastrofeforløb ikke er demonstreret. Debatten peger i stedet mod en praktisk standard: Påstande om sikkerhed for stadig mere kapable systemer skal kunne testes, granskes uafhængigt og stå mål med omfanget af den mulige skade.
Coxon, Hubinger og Chughtai argumenterer for forsigtighed under usikkerhed. Skeptikere som Huang og Xing sætter spørgsmålstegn ved, om det nuværende belæg kan retfærdiggøre nært forestående dommedagskonklusioner. Amodei og Altman peger på en politisk og praktisk respons, der ikke kræver, at alle filosofiske uenigheder afgøres først: Sænk tempoet i fronten, mål farlige kapabiliteter, inviter troværdig ekstern kontrol og koordiner, før konkurrencepresset gør udokumenterede sikkerhedspåstande til standardgrundlaget for udrulning. 49
16
33
18
19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI og udryddelse: Advarsler fra branchen møder krav om beviser"?
Evan Hubingers vurdering af en risiko på over 10 % inden for ti år er en personlig vurdering – ikke en videnskabeligt målt sandsynlighed eller en faglig konsensus.
What are the key points to validate first?
Evan Hubingers vurdering af en risiko på over 10 % inden for ti år er en personlig vurdering – ikke en videnskabeligt målt sandsynlighed eller en faglig konsensus. Jacob Coxons fratræden og Bilal Chughtais advarsel har skærpet alarmen, mens skeptikere peger på, at digitale AI evner ikke automatisk giver fysisk handlekraft.
What should I do next in practice?
Et muligt kompromis er at sænke tempoet i kapabilitetsløbet, lade uafhængige eksperter kontrollere sikkerhedsarbejdet og håndtere nutidige misbrugsrisici samtidig.
Sources
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns