Lescure: Å bremse kunstig intelligens kan låse fast USAs teknologiledelse

For Frankrikes finansminister Roland Lescure handler striden om tempoet i AI-utviklingen ikke bare om sikkerhet, men også om makt. I uttalelser 16. september sa han at krav om å bremse utviklingen kommer fra selskaper som allerede er «best i klassen». Å få alle som ligger bak til å senke farten, vil etter hans syn tjene ledernes egeninteresse. 2

Kapasitet som forutsetning for å håndtere risiko

Lescure avviser ikke at kunstig intelligens innebærer risiko. Poenget hans er snarere at Frankrike og Europa må ta teknologien raskere i bruk og bygge egen kompetanse og kapasitet for å kunne bli ledende aktører som faktisk kan styre risikoen. Avhengighet av utenlandske leverandører av de mest avanserte modellene gir Europa mindre reell innflytelse over hvordan teknologien tas i bruk og reguleres. 2

Dette samsvarer med hans tidligere advarsel om at europeisk AI-suverenitet ikke kan bygges rundt ett enkelt selskap. Han har etterlyst et bredere økosystem, fremfor å satse hele Europas AI-ambisjon på én nasjonal mester. 17

Kollisjon med kravet om lavere tempo

Anthropic-sjef Dario Amodei har foreslått å redusere tempoet i forbedringen av kapasiteten til såkalte frontmodeller – de mest avanserte AI-modellene. Målet er å skaffe mer tid til sikkerhetsarbeid og styring etter hvert som modellene blir kraftigere. Forslaget omfatter uavhengige evaluatorer med løpende tilgang til systemene, slik at de kan kontrollere sikkerhetsforpliktelser og hendelser. 15

Reuters meldte at OpenAI-sjef Sam Altman var blant teknologilederne som ønsket en samordnet oppbremsing. Det plasserer ham nærmere Amodeis umiddelbare anbefaling enn Lescures syn om å prioritere rask oppskalering. 4

Uenigheten er dermed ikke bare et spørsmål om fart mot sikkerhet. Amodeis leir mener at framgangen i modellkapasitet bør begrenses slik at sikkerhetstiltakene kan ta igjen utviklingen. Lescure mener på sin side at Europa må utvikle og ta i bruk AI raskt for å få reell evne til å styre konsekvensene. 12

Hva kildene dokumenterer – og ikke dokumenterer

Den foreliggende dekningen underbygger at Amodei har advart om at avanserte AI-agenter kan bli vanskelige å kontrollere. Han har blant annet vist til et scenario der en sverm av agenter kan overta store deler av internett i løpet av seks til tolv måneder. 39 Kildene underbygger også at han foreslår å styre tempoet i utviklingen av frontmodeller, ikke å stanse alt AI-arbeid. 18

Kildene dokumenterer derimot ikke flere mer konkrete påstander som tidvis kobles til denne ordvekslingen. De bekrefter ikke at Anthropic-forskere har sagt at rask AI-utvikling vil føre til menneskehetens utryddelse. De bekrefter heller ikke at Lescure pekte på bestemte AI-risikoer innen cybersikkerhet eller utdanning, eller at han sa at sikre prognoser om eksistensiell risiko kunne gjøre det mulig for samfunnet å fraskrive seg et kollektivt ansvar.

Europas praktiske veivalg

Lescures utspill synliggjør et politisk dilemma for land utenfor de ledende AI-maktene: En lavere utviklingstakt kan gi mer tid til sikkerhetskontroller, men en samordnet oppbremsing kan også bevare forspranget til selskapene som allerede har de sterkeste modellene, mest datakraft og størst rekkevidde i markedet. 12

Hans svar er å bygge europeisk kapasitet samtidig som risikoen må kunne håndteres. Rapporteringen dokumenterer denne strategiske uenigheten, men ikke de ytterligere påstandene om cybersikkerhet, utdanning eller menneskelig utryddelse. 24