Trump afviser opbremsning af AI – Amodei kræver sikkerhedsregler for de stærkeste modeller

Donald Trump ser først og fremmest de mest avancerede AI-systemer som et spørgsmål om stormagtskonkurrence med Kina. Han har sagt, at USA skal bevare sin førerposition, fordi "den, der vinder AI, vinder". Senere afviste han påstanden om, at AI kan overtage verden eller udslette menneskeheden, som en "HOAX" og kaldte modstand mod AI og datacentre for en "SICK conspiracy", der gavner Kina. 1719

Derfor gik Trump efter Dario Amodei

Udmeldingerne kom efter, at Anthropics topchef Dario Amodei havde opfordret branchen til bevidst at sænke tempoet i forbedringen af de mest kapable AI-modeller. Hvor Trump prioriterer amerikansk teknologisk førerskab, mener Amodei, at modellernes kapabiliteter kan udvikle sig hurtigere, end sikkerhedsarbejde, test og tilsyn kan følge med. 17

Trump fremhævede også, at myndighederne allerede har betydelige strafferetlige og regulatoriske beføjelser over for virksomhederne, og han fremstillede en stærk præsident som den nødvendige sikkerhedsforanstaltning. Hans angreb på Amodei kombinerede dermed skepsis over for advarsler om eksistentiel risiko med en frygt for, at nye formelle regler vil svække amerikanske virksomheder i forhold til kinesiske rivaler. 1921

Amodeis plan: Tempo på frontlinjen

I essayet We Must Pace the Frontier foreslår Amodei ikke et stop for AI-forskning. Han vil i stedet dæmpe de ukontrollerede spring i kapabiliteter, så sikkerhedsarbejde, test og styring får tid til at indhente udviklingen.

Planen består af tre dele:

1. Faste, uafhængige evaluatorer i frontlinje-laboratorier. Anthropic vil give eksterne evaluatorer permanent adgang til systemerne på niveau med ansatte. De skal blandt andet kontrollere, om sikkerhedsprocedurer bliver fulgt, indberette hændelser og vurdere modellernes alignment – altså om de under træningen fortsat handler i tråd med de tilsigtede mål. 16
2. Koordinering mellem virksomhederne med de stærkeste modeller. De førende laboratorier skal etablere fælles sikkerhedsstandarder og grænser for ukontrolleret udvikling i stedet for udelukkende at konkurrere om hurtigst muligt at løfte kapabiliteterne.
3. Internationalt samarbejde. De alvorligste AI-risici kan ifølge Amodei i sidste ende ikke håndteres af ét land eller én blok alene.

Det første punkt er ikke kun en opfordring til regeringer og konkurrenter: Anthropic præsenterede det som en konkret, ensidig forpligtelse for virksomheden selv. 16

Opbakning fra Altman og Musk – men Nadella kræver bredt tilsyn

OpenAI-chef Sam Altman erklærede sig enig i, at udviklingen ved frontlinjen bør foregå i et mere kontrolleret tempo, og sagde, at OpenAI også vil give eksterne evaluatorer adgang. Elon Musk, der står bag xAI, tilsluttede sig ligeledes Amodeis synspunkt.

Microsofts topchef Satya Nadella støttede idéen om bevidst tempo og indlejrede evaluatorer, men pegede på et afgørende spørgsmål: Tilsynet må ikke styres af blot en lille kreds af selskaber. Han sagde, at jagten på superintelligens kun er værd at forfølge, hvis teknologien gavner menneskeheden og forbliver under menneskelig kontrol.

Udmeldingerne er ikke det samme som et færdigt, fælles regelsæt. Men de viser, at flere ledere i AI-branchen bakker op om mere systematisk og løbende kontrol med de mest avancerede systemer.

Det svære punkt: Kina og risikoen ved at bremse alene

Den tidligere Anthropic- og OpenAI-forsker Jacob Coxon sagde, at folk, der bygger systemerne, er "oprigtigt bange" for menneskehedens fremtid. Han hilste en opbremsning velkommen, men understregede, at den ville kræve koordinering med Kina. 1

Det rammer kernen i striden. Hvis ét selskab eller ét land sænker tempoet alene, kan det frygte at miste terræn til konkurrenter, som fortsætter uden tilsvarende begrænsninger. Kinas udenrigsministerium afviste Amodeis opfordring til begrænsninger, der berører Kinas AI-kapaciteter, og opfattede den som et amerikansk forsøg på at inddæmme Kina frem for neutral sikkerhedspolitik. 4

Dermed opstår et grundlæggende tillidsproblem: Tilhængere ser gensidige regler som en vej til lavere risiko, mens modstandere kan se de samme regler som et redskab til at fastholde modpartens teknologiske forspring.

Kritikken: Kan AI-sikkerhed blive et værn for de etablerede?

Investoren Michael Burry kaldte kampagnen for langsommere udvikling "self-serving" – altså egennyttig. Hans pointe er, at langsommere udvikling og tungere krav til efterlevelse kan gavne de allerede dominerende AI-selskaber, fordi mindre udfordrere får sværere ved at konkurrere. Han afviser også, at nutidens store sprogmodeller nødvendigvis er på vej mod kunstig generel intelligens, AGI.

Kritikken modbeviser ikke i sig selv bekymringerne om AI-sikkerhed. Men den peger på en praktisk politisk risiko: Regler, der skal gøre udviklingen af de stærkeste modeller mere forsvarlig, kan samtidig koncentrere magt hos de virksomheder, der bedst kan betale for at overholde dem. Et troværdigt regelsæt skal derfor håndtere både sikkerhed og koncentrationen af indflydelse.

Hvorfor Trump-Xi-mødet den 24. september var centralt

Trump og Kinas leder Xi Jinping ventedes at drøfte AI-styring ved et planlagt møde den 24. september. 4 Det var væsentligt, fordi den vanskeligste del af en sikkerhedsstrategi for frontlinje-AI ikke er at skrive en regel for ét laboratorium. Det er at skabe aftaler, som rivaliserende stormagter opfatter som gensidige og håndhævelige.

Trumps Kina-fokuserede retorik og Beijings modstand mod begrænsninger af landets AI-udvikling viste, hvor politisk vanskeligt det bliver. Debatten er derfor større end et enkelt valg mellem acceleration og pause: Den handler om, hvorvidt AI-kapløbet kan styres uden, at sikkerhedspolitik bliver endnu en front i den geopolitiske konflikt. 174