Lescure: een AI-rem kan Amerikaanse koplopers verder op voorsprong zetten

Voor de Franse minister van Financiën Roland Lescure gaat het debat over het tempo van kunstmatige intelligentie niet alleen over veiligheid, maar ook over machtsverhoudingen. Op 16 september stelde hij dat oproepen om AI-ontwikkeling te vertragen juist afkomstig zijn van bedrijven die al aan de top staan. Als iedereen achter hen moet afremmen, helpt dat die koplopers volgens hem hun voorsprong te behouden. 2

Europese slagkracht als voorwaarde voor grip

Lescure ontkent niet dat AI risico’s meebrengt. Zijn punt is dat Frankrijk en Europa juist meer AI moeten gebruiken en eigen technologische capaciteit moeten opbouwen om die risico’s werkelijk te kunnen beheersen. Wie afhankelijk blijft van buitenlandse aanbieders van de meest geavanceerde modellen, heeft in de praktijk minder invloed op de inzet en het bestuur van die technologie. 2

Dat sluit aan bij zijn eerdere waarschuwing dat Europese AI-soevereiniteit niet op één bedrijf kan rusten. Lescure pleitte voor een breder ecosysteem, in plaats van alle Europese ambities bij één nationale kampioen neer te leggen. 17

Botsing met de oproep om geavanceerde AI te temporiseren

Anthropic-CEO Dario Amodei wil juist dat AI-bedrijven minder snel nieuwe vermogens aan hun meest geavanceerde modellen toevoegen. Zijn doel is tijd winnen voor veiligheidswerk en toezicht naarmate de modellen krachtiger worden. Zijn voorstel omvat onder meer onafhankelijke beoordelaars die blijvend toegang krijgen tot systemen om veiligheidsbeloften en incidenten te beoordelen. 15

Reuters meldde dat OpenAI-topman Sam Altman behoort tot de leiders in de sector die een gecoördineerde vertraging nastreven. Daarmee staat hij, voor de korte termijn, dichter bij Amodei dan bij Lescure. 4

De tegenstelling is dus niet simpelweg snelheid versus veiligheid. Amodei en medestanders vinden dat de toename van AI-capaciteiten moet worden afgeremd zodat waarborgen kunnen volgen. Lescure redeneert dat Europa AI snel moet ontwikkelen én toepassen om überhaupt voldoende positie te hebben om de gevolgen ervan te sturen. 12

Wat de berichtgeving wel en niet onderbouwt

De beschikbare berichtgeving ondersteunt dat Amodei waarschuwde voor geavanceerde AI-agenten die moeilijk te controleren kunnen worden. Hij schetste onder meer een scenario waarin een zwerm agenten binnen zes tot twaalf maanden in staat zou kunnen zijn een groot deel van het internet over te nemen. 39

Ook blijkt uit de bronnen dat zijn voorstel draait om het temporiseren van de ontwikkeling van frontier-AI — de meest geavanceerde modellen — en niet om een volledige stop op AI-onderzoek of -ontwikkeling. 18

De aangeleverde bronnen onderbouwen echter niet enkele specifiekere beweringen die soms aan dit debat worden gekoppeld. Zo bevestigen zij niet dat onderzoekers van Anthropic hebben gezegd dat snelle AI-vooruitgang tot het uitsterven van de mensheid zou leiden. Evenmin bevestigen zij dat Lescure concrete AI-risico’s voor cyberveiligheid of onderwijs noemde, of dat hij stelde dat stellige voorspellingen over existentiële risico’s de samenleving zouden kunnen laten wegduiken voor collectieve verantwoordelijkheid.

De beleidskeuze voor Europa

Lescures interventie legt een spanning bloot voor overheden buiten de leidende AI-machten. Een vertraging van de ontwikkeling van de krachtigste modellen kan tijd creëren voor veiligheidscontroles. Maar een gecoördineerde vertraging kan ook het voordeel bestendigen van bedrijven die de beste modellen, de meeste rekenkracht en het grootste bereik voor uitrol al in handen hebben. 12

Zijn antwoord is: Europese capaciteit opbouwen, zonder risicobeheersing los te laten. De berichtgeving maakt dat strategische meningsverschil duidelijk, maar levert geen onderbouwing voor de aanvullende beweringen over cyberveiligheid, onderwijs of uitsterven. 24