Yakovenkos stikpille om AI-profit: Derfor handler debatten også om magt

Anatoly Yakovenkos korte svar – “Profitability at $1 trillion mcap” – var en skeptisk stikpille til incitamenterne bag opfordringerne til at sænke tempoet i den mest avancerede AI-udvikling. Solana-medstifteren syntes at antyde, at en sikkerhedsbegrundet opbremsning også kan passe godt til forretningsinteresserne hos meget højt værdisatte AI-selskaber, som skal gøre de store udgifter til modeludvikling rentable.

Det er dog en fortolkning af hans bemærkning, ikke bevis for, at Anthropic, OpenAI eller et andet selskab handlede af den grund. Yakovenko nævnte ingen virksomhed, fremlagde ingen finansielle data og knyttede heller ikke Solana eller SOL til striden. 3541

Hvad kritikken gik på

Mcap er en forkortelse for market capitalization – på dansk markedsværdi. I denne sammenhæng peger kommentaren på en velkendt spænding i forslag om fælles begrænsninger: En regel, der sænker tempoet for alle, kan være lettere at håndtere for veletablerede, kapitalstærke frontløberlaboratorier end for mindre udfordrere.

Yakovenkos efterfølgende kritik blev opfattet som en hån mod idéen om, at en lille kreds af AI-topfolk i praksis kan være med til at bestemme, hvor hurtigt hele feltet skal udvikle sig. Indvendingen er, at sikkerhedsregler kan ligne koordinering til fordel for de etablerede – eller reguleringsmæssig særbeskyttelse – hvis de virksomheder, der vinder på begrænsningerne, også er med til at udforme dem.

Det må ikke forveksles med et dokumenteret billede af Dario Amodeis motiver. Det tilgængelige materiale viser, at Yakovenko satte spørgsmålstegn ved forslaget, men ikke at rentabilitet, værdiansættelse, udgifter til infrastruktur eller planer om børsnotering drev Anthropics udspil. 3543

Hvad “at sætte tempo på frontlinjen” faktisk betyder

I essayet We Must Pace the Frontier fra 12. september argumenterede Anthropics direktør Dario Amodei for at sænke hastigheden, hvormed AI-modeller bliver mere kapable, så sikkerhedsarbejde, alignment-forskning og ekstern evaluering kan følge med. Han understregede, at det ikke betyder et stop for teknisk fremskridt eller modeltræning. 7

Planen består af tre trin:

1. Indlejrede eksterne evaluatorer. Frontlinjelaboratorier skal give uafhængige evaluatorer løbende adgang på et niveau, der minder om medarbejderes, så de kan undersøge sikkerhedsforanstaltninger, vurdere alignment under træning og rapportere hændelser. Anthropic sagde, at selskabet ville gøre dette ensidigt. 716
2. Koordinering mellem demokratiske lande. AI-laboratorier og regeringer i demokratiske stater skal arbejde mod fælles sikkerhedsstandarder og rammer for tempoet. 7
3. Begrænsede internationale aftaler. Regeringer skal søge mere afgrænsede aftaler med andre stater – eventuelt også Kina og autoritære regeringer – på områder, hvor kontrol og gensidig tilbageholdenhed kan verificeres. 78

Skellet er væsentligt: Første trin er en konkret forpligtelse fra Anthropic. De to næste afhænger af koordinering mellem virksomheder og regeringer og er derfor forslag, ikke regler, der allerede er indført. 9

Hvorfor planen fik kritik for at ligne et kartel

Striden handler ikke kun om, hvorvidt virksomheder bør teste AI-modeller mere grundigt. Den handler om, hvem der fastlægger tempoet, hvad der skal udløse en forsinkelse, og om fælles standarder begrænser konkurrenter.

David Sacks argumenterede for, at Anthropic og OpenAI ikke behøver tilladelse for selv at sætte farten ned, hvis de mener, at deres systemer udgør alvorlige risici. Hans indvending var, at sikkerhedshensyn ikke bør bruges til at skabe en bredere regulerings- eller konkurrenceretlig ramme, der binder rivaler. Sacks advarede om, at et etableret “duopol” kunne bruge reglerne til at beskytte sin position. 5052

Det er den stærkeste version af bekymringen bag Yakovenkos kommentar: Frivillige sikkerhedstiltag er én ting; samordnede begrænsninger på tværs af en branche kan ændre konkurrencen lige så meget som sikkerhedspraksis.

Altman og Musks støtte

Sam Altman skrev, at OpenAI var enig i behovet for at sætte tempo på frontlinjen. Han kaldte uafhængige evaluatorer med medarbejderlignende adgang for “a great idea” og sagde, at OpenAI ville gøre det samme. Elon Musk nøjedes med: “Dario is right.” 1821

Udtalelserne afgjorde imidlertid ikke de sværere spørgsmål om international koordinering, håndhævelige grænser for udviklingstempoet eller en fælles brancheramme. Den tydeligste støtte gjaldt idéen om indlejrede evaluatorer. 1820

De afgørende detaljer mangler stadig

Ekstern kontrol bliver først reel, når spillereglerne er klare. I det tilgængelige materiale står flere centrale spørgsmål åbne:

• Uafhængighed: Hvem udpeger og finansierer evaluatorerne, og hvad gør dem uafhængige af laboratoriet?
• Adgang: Hvilke systemer, træningsforløb, hændelsesrapporter, modelvægte, data og interne værktøjer må de undersøge?
• Offentliggørelse: Kan evaluatorer offentliggøre kritiske fund uden selskabets godkendelse?
• Tærskler for indgreb: Hvilke testresultater eller risikoniveauer skal føre til udsat træning, udrulning eller lancering?
• Håndhævelse: Hvem sikrer, at et selskab følger evaluatorernes konklusioner?
• Konkurrence og sikkerhed: Hvordan kan virksomheder koordinere sikkerhedsstandarder uden at udveksle kommercielt følsomme oplysninger eller skabe konkurrenceretlige problemer?
• International kontrol: Hvad skulle gøre en aftale med Kina eller andre regeringer troværdig og kontrollerbar?

De huller forklarer, hvorfor kritikere ser risikoen for uklare regler styret af de største aktører, mens tilhængere ser et nødvendigt forsøg på at gøre sikkerhedsløfter til løbende ekstern kontrol. 1053

En langsommere kurs – eller en egentlig pause?

Uenigheden afdækker også forskellige opfattelser af, hvor hårdt der skal gribes ind. Senator Bernie Sanders læste opbakningen fra Amodei, Altman og Musk som argument for en stærkere indsats: en AI-pause og et forbud mod superintelligens. 48

Amodeis forslag var snævrere end et direkte forbud. Han argumenterede for et afbalanceret tempo, der giver plads til alignment og kontrol. 7 Sacks mente omvendt, at virksomheder, der er bekymrede for risikoen, selv bør sænke farten i stedet for at søge en fælles ramme, der også gælder andre. 52

Afvejningen er enkel at formulere, men svær at løse: En opbremsning i amerikanske AI-laboratorier kan give bekymringer om konkurrenceevnen, særligt i forhold til Kina. Omvendt kan et ukontrolleret kapløb betyde, at sikkerhedstest og tilsyn sakker bagud i forhold til modellernes evner. Amodeis ramme forsøger at håndtere begge hensyn gennem gradvist skærpet tilsyn og senere international koordinering, men dens mest vidtrækkende dele mangler fortsat en aftalt mekanisme for håndhævelse. 74

Bundlinjen

Yakovenkos linje var ikke en finansiel analyse, men en provokation om incitamenter. Han fremstillede ønsket om langsommere AI-udvikling som noget, der potentielt også kan passe de magtfulde laboratoriers kommercielle interesser: at forsvare meget høje værdiansættelser og på sigt dokumentere rentabilitet.

Det fremlagte materiale underbygger ikke den påstand og fastslår heller ikke, at eventuelle børsnoteringsambitioner var årsag til forslaget. Det konkrete er mere begrænset: Anthropic har forpligtet sig til indlejrede tredjepartsevaluatorer, OpenAI har offentligt støttet den idé, og den bredere plan om koordinerede sikkerhedsgrænser er fortsat omstridt. Det centrale spørgsmål er derfor ikke, om frontlinje-AI bør vurderes mere grundigt, men om virksomhederne tættest på frontlinjen også skal være med til at sætte reglerne for, hvem der kan konkurrere der. 71850