AI-risico of marktmacht? De inzet van Arthur Menschs kritiek

In een interview met Le Monde van 24 september stelt Arthur Mensch, topman van het Franse Mistral AI, dat Amerikaanse AI-reuzen de angst voor kunstmatige intelligentie uitbuiten. Zijn tegenwerping: ‘AI is software. Het kan worden beheerst.’ Dat is een belangrijke uitdaging aan de bedrijven die om meer terughoudendheid vragen, maar geen bewijs dat hun waarschuwingen ongegrond zijn. Een risico kan reëel zijn én de marktpositie dienen van het bedrijf dat ervoor waarschuwt.29

Wie bepaalt wat veilig genoeg is?

Mensch stelt in feite een vraag over wie het tempo van AI-ontwikkeling mag bepalen. Als de grootste ontwikkelaars veiligheidsregels helpen vormgeven waaraan zij makkelijker kunnen voldoen dan kleinere spelers, kunnen die regels de concurrentie beperken. Dat is een reden om de regels kritisch te toetsen, niet om de risico’s bij voorbaat af te doen als verzinsels.29

Mistral zegt zelf ook niet dat het inzetten van AI zonder gevaar is. Het bedrijf waarschuwde dat modellen krachtige actoren worden zodra ze zelfstandig taken kunnen uitvoeren en toegang krijgen tot hulpmiddelen. Menschs uitspraak over beheersbaarheid is dus een pleidooi om risico’s te managen, geen garantie dat elk toekomstig systeem onder controle blijft.72

Waarom de waarschuwingen serieus blijven

Jacob Coxon, voormalig onderzoeker bij Anthropic en eerder werkzaam bij OpenAI, waarschuwde begin september dat AI ‘ons allemaal tegen het einde van het decennium zou kunnen doden’. Kort daarna riep Anthropic-topman Dario Amodei op tot een vrijwillige vertraging bij de ontwikkeling van de meest geavanceerde modellen. Volgens Le Monde kreeg zijn oproep van 12 september steun van grote Amerikaanse concurrenten.18

Dat zijn ingrijpende waarschuwingen en voorstellen, maar geen vaststaande voorspellingen. Coxon beschreef een mogelijkheid, geen bewezen tijdlijn. Evenmin volgt uit steun voor een vertraging dat die meer veiligheid oplevert dan gerichte voorzorgsmaatregelen.18

De meningsverschillen lopen bovendien niet simpelweg langs een Europese en een Amerikaanse lijn. Geoffrey Hinton dringt aan op snellere veiligheidsmaatregelen; Andrew Ng betwist de onderbouwing van doemscenario’s en verzet zich tegen algemene oproepen om de ontwikkeling te pauzeren. Hun verschil van inzicht brengt de praktische vraag scherp in beeld: welke gevaren zijn aangetoond, en welke maatregelen helpen daartegen?

Een rechtszaak is nog geen bewijs van samenspanning

Abonnees van AI-diensten beschuldigen Anthropic, OpenAI, SpaceXAI en Google er in een Amerikaanse rechtszaak van dat zij na de oproep van 12 september afspraken zouden hebben gemaakt om concurrerende ontwikkeling af te remmen. Dat is een beschuldiging, geen rechterlijke vaststelling. Dat bestuurders vergelijkbare veiligheidszorgen uiten, bewijst op zichzelf niet dat zij onderling afspraken hebben gemaakt.

Menschs kritiek en de rechtszaak raken elkaar, maar stellen verschillende vragen. Hij vraagt of veiligheidsretoriek gevestigde partijen kan bevoordelen. De eisers stellen dat concurrenten daadwerkelijk een afspraak hebben gemaakt. Wie die vragen wil beantwoorden, kan niet elke waarschuwing wegzetten als marketing — of elke oproep tot voorzichtigheid zien als bewijs van een kartel.

De beste toets is daarom tweeledig: beoordeel veiligheidsvoorstellen op onafhankelijk controleerbaar bewijs en onderzoek wie de kosten ervan draagt. Die kritische blik hoort ook te gelden voor Mistrals pleidooi om door te ontwikkelen. Een commercieel belang is een reden om een argument te toetsen, niet om het automatisch af te wijzen.789