Fire AI-topchefer, fire vidt forskellige mål for AGI

AGI – kunstig generel intelligens – bruges ofte, som om alle taler om den samme teknologiske milepæl. Det gør de ikke.

For én leder er AGI en selvstændig digital medarbejder, der kan skabe økonomisk værdi. For en anden er det en digital forsker på Nobelpris-niveau. For en tredje skal systemet rumme hele bredden af menneskelig tænkning. Og for en fjerde er det i praksis nok, at AI slår mennesker i stort set alle tests.

Det er derfor, meget skråsikre forudsigelser om AGI kan eksistere side om side. De handler ikke bare om forskellige datoer, men om forskellige destinationer.

Fire ledere, fire tærskler

Sam Altman: AGI som værdifuldt, selvstændigt arbejde

OpenAI har længe beskrevet AGI som "højt autonome systemer, der overgår mennesker i det meste økonomisk værdifulde arbejde". Her er grænsen først og fremmest praktisk og økonomisk: Kan systemet udføre nyttigt arbejde i stor skala?

OpenAI lægger i sin nyere kommunikation vægt på menneskelig handlekraft. Målet er systemer, der hjælper mennesker med at forfølge deres egne mål, ikke systemer, som erstatter menneskelig dømmekraft. Virksomheden skriver også direkte, at total automatisering hverken ville være meningsfuld eller sikker. 23

Det betyder samtidig, at grænsen mellem gode værktøjer, autonome agenter og AGI bliver flydende. En økonomisk definition kan sige noget om reel samfundseffekt, men den er ikke en offentlig, videnskabelig beståelsesprøve.

Dario Amodei: "Kraftfuld AI" som en ekstraordinær pakke af evner

Anthropic-chefen Dario Amodei foretrækker som regel udtrykket kraftfuld AI frem for AGI. I Anthropics politiske indspil beskrives det som et markant spring ud over nutidens modeller: Intellektuelle evner på niveau med eller over Nobelprismodtagere i de fleste fagområder, evnen til at bruge de digitale grænseflader, et menneske bruger i sit arbejde, og kapaciteten til at løse komplekst arbejde autonomt. 3

Anthropic forventer sådanne systemer sent i 2026 eller tidligt i 2027. Amodei har kaldt perspektivet et "land af genier i et datacenter" – et billede på, hvor meget økonomisk, sikkerhedspolitisk og geopolitisk magt der kan samles i få systemer. 6 7

Definitionen er mere konkret end et løst AGI-begreb, men den samler stadig flere svære krav i én prognose: bred ekspertise, værktøjsbrug, autonomi og stabil præstation over længere tid. En model kan opfylde nogle af kravene længe før alle.

Demis Hassabis: AGI som hele spektret af menneskelig tænkning

Google DeepMind-chefen Demis Hassabis holder fast i en højere tærskel. For ham er AGI et system med alle de kognitive evner, mennesker har. Han har sagt, at AI på menneskeligt niveau kan komme i løbet af dette årti, men samtidig understreget, at dagens systemer er "langt fra" menneskelig AGI. 33 38

Det gør AGI til en videnskabelig tærskel snarere end en produktlancering. Stærke eksamensresultater eller imponerende præstationer i enkelte fag er ikke nok; systemet skal fungere robust på tværs af hele den menneskelige kognitive bredde.

Jensen Huang: AGI som overmenneskelig testpræstation

Nvidias topchef Jensen Huang har brugt en mere benchmark-orienteret målestok. I 2024 sagde han, at AGI kunne komme inden for fem år, hvis man definerede det som AI, der kan overgå mennesker i praktisk talt enhver test. I 2026 blev hans syn beskrevet som, at AGI allerede var nået efter en langt mere pragmatisk standard. 34

Fordelen er enkel: Tests giver point og ranglister. Begrænsningen er mindst lige så enkel: At bestå mange tests dokumenterer ikke i sig selv sikker dømmekraft, pålidelighed over lange forløb eller evnen til at navigere i uforudsigelige, virkelige situationer.

Samme ord, forskellige forudsigelser

De fire ledere estimerer altså ikke blot forskellige datoer for den samme begivenhed:

• Altman/OpenAI: Autonom præstation i det meste økonomisk værdifulde arbejde.
• Amodei/Anthropic: Bred intellektuel kapacitet på Nobelpris-niveau kombineret med langvarig, autonom digital udførelse.
• Hassabis/DeepMind: Hele spektret af menneskelige kognitive evner.
• Huang/Nvidia: Præstationer, der slår mennesker på brede testområder.

En AI kan toppe mange benchmarks uden at kunne gennemføre ugers selvstændigt forskningsarbejde. Den kan automatisere en stor del af digitalt arbejde uden at have et menneskes fulde repertoire af tænkning og vurdering. Derfor bør datoerne ikke læses som én fælles nedtælling til AGI.

Hvorfor AGI kan virke umåleligt

Kritikken er ikke, at AI-evner ikke kan måles. Det kan de. Problemet er, at AGI mangler en fælles, uafhængigt styret ja-eller-nej-test.

Et akademisk forslag kalder AGI et kontroversielt begreb og operationaliserer det som mindst menneskeligt niveau i de fleste opgaver. Det viser både ønsket om en målbar definition og de uafklarede valg bag den: Hvilke opgaver? Hvilke mennesker sammenlignes der med? Hvor høj skal pålideligheden være? Og under hvilke betingelser? 50

En troværdig offentlig test ville som minimum kræve:

1. En klart afgrænset fordeling af opgaver – ikke en skiftende række demonstrationer.
2. Tærskler for både præstation og pålidelighed, herunder hvor ofte systemet fejler.
3. Test af langvarig autonomi og værktøjsbrug, ikke kun enkeltstående svar.
4. Værn mod, at udviklere træner direkte til selve evalueringen.
5. Uafhængig adgang, der gør resultaterne mulige at efterprøve eller revidere.

Uden den infrastruktur kan AGI blive en statuspåstand fra de virksomheder, der har størst interesse i selv at placere målstregen. AI Now Institute har kritiseret eksisterende målepunkter for ofte at være snævre, vage og selvbetjenende. 62

Tillidsproblemet bag AGI-debatten

Striden om ordet AGI handler også om troværdighed. Virksomheder kan varsle gennemgribende teknologiske spring, mens brugere og ansatte møder systemer, der fortsat er ujævne, fejlbehæftede eller svære at bruge stabilt i praksis.

Det beviser ikke, at langsigtede prognoser er forkerte. Men jo større påstanden er, desto stærkere bør det observerbare og ansvarligt kontrollerede bevis være.

Arbejdsmarkedet viser spændingen. OpenAI skriver, at AI vil ændre arbejdet, at nogle job vil forsvinde, men at den hidtidige evidens peger på AI som mere et hjælpemiddel end en erstatning. 17 OpenAI fremhæver også, at automatisering af opgaver ikke automatisk betyder, at en hel profession forsvinder: Mennesker kan stadig være afgørende for levering, tilsyn og ansvar. 25

Det kan godt være foreneligt med betydelige forandringer. Automatisering af opgaver, ændring af jobindhold og egentlig jobnedlæggelse er tre forskellige ting. Men tilliden bliver svækket, når løfter om omfattende omvæltning ikke følges af gennemsigtige mål for de faktiske virkninger på arbejdsmarkedet.

Fra AGI-mærkater til konkret tilsyn

En stærkere reguleringsmodel bør fokusere mindre på, om et system har "opnået AGI", og mere på de konkrete evner og risici, det har.

Anthropics AI Safety Levels-model er bygget som en tydelig hvis-så-regel: Hvis en model udviser en specificeret farlig evne, skal bestemte sikkerhedsforanstaltninger være på plads, før den kan udrulles eller opskaleres yderligere. 5 Virksomhedens senere politiske ramme peger desuden på gennemsigtighed, uafhængig evaluering og statslig myndighed til at standse eller afskrække farlige udrulninger. 10

Altman har også argumenteret for ekstern validering og uafhængige risikovurderinger af kraftfulde modeller, herunder test før udgivelse og offentliggørelse af evalueringsresultater. 49

Hassabis har foreslået et amerikansk ledet organ for standarder for frontier-AI, modelleret efter FINRA – den branchefinansierede organisation under offentligt tilsyn, som overvåger dele af den amerikanske værdipapirbranche. Organet skulle uafhængigt vurdere de mest avancerede modeller før lancering. 52 Flere ledere i frontlinjen ser ifølge rapportering ud til at være enige om hovedidéen: Tredjeparter bør teste avancerede systemer og bidrage til standarder, der kan bruges i politik og regulering. 51

Der er dog fortsat stor afstand mellem forslag og bindende praksis. Future of Life Institutes AI Safety Index for 2026 konkluderede, at der ikke fandtes bindende nationale regler eller standarder, som udtrykkeligt håndterer risici ved frontier-AI og fastlægger tilsvarende vurderingsprocesser. 59

Det spørgsmål, der faktisk betyder noget

Det nyttige offentlige spørgsmål er ikke: "Er AGI kommet?"

Det er: Hvad kan modellen gøre, hvor pålideligt kan den gøre det, hvad kan gå galt, og hvem har uafhængigt efterprøvet svarene?

Det peger mod konkrete krav for konkrete evner:

• offentlige evalueringsprotokoller for højrisikoevner inden for cyber, biologi og vildledning;
• uafhængig test og red-teaming før udrulning;
• rapportering om pålidelighed, hændelser og væsentlige ændringer i brugen;
• sikkerhedsforanstaltninger og adgangsbegrænsninger, der udløses af påviste risikotærskler; og
• juridiske konsekvenser ved manglende efterlevelse frem for frivillige erklæringer alene.

AGI kan fortsat være en stærk ambition, et markedsføringsord og et filosofisk spørgsmål. Men det er en svag regulatorisk udløser, hvis en erklæring om AGI ikke er understøttet af offentligt efterprøvelig dokumentation. Tillid opstår først, når udviklere ikke selv kan flytte målstregen, erklære sejr og derefter godkende deres egen sikkerhed.