Arthur Mensch face aux alertes sur l’IA : risques réels ou bataille de marché ?

Dans un entretien publié le 24 septembre par Le Monde, Arthur Mensch, directeur général de Mistral AI, reproche aux géants américains du secteur d’instrumentaliser les craintes liées à l’intelligence artificielle. Il défend l’idée que l’IA, en tant que logiciel, peut être contrôlée. Sa critique pose une question légitime, mais ne tranche pas celle de la sécurité : une alerte peut signaler un danger réel tout en servant les intérêts de l’entreprise qui la formule.29

Qui fixe les règles du jeu ?

Si les entreprises les mieux dotées contribuent à définir des exigences de sécurité qu’elles sont seules capables de satisfaire facilement, ces exigences risquent de pénaliser leurs concurrents. C’est le cœur de l’argument de Mensch. Ce possible effet sur la concurrence ne prouve toutefois pas que les risques invoqués sont fictifs.29

Mistral ne présente d’ailleurs pas le déploiement de l’IA comme étant sans danger. L’entreprise a averti que les modèles deviennent des acteurs puissants lorsqu’on leur donne de l’autonomie et l’accès à des outils, et qu’un déploiement sûr exige de la vigilance. Affirmer que l’IA peut être contrôlée revient donc à défendre une manière de gérer les risques, non à démontrer que tous les systèmes futurs seront maîtrisables.72

Des alertes sérieuses, pas des échéances établies

Début septembre, Jacob Coxon, ancien chercheur d’Anthropic passé auparavant par OpenAI, a averti que l’IA « pourrait tous nous tuer d’ici à la fin de la décennie ». Le 12 septembre, Dario Amodei, dirigeant d’Anthropic, a appelé à ralentir volontairement le développement des modèles les plus avancés ; selon Le Monde, ses principaux concurrents américains ont soutenu cet appel.158

Ces prises de position expriment des inquiétudes et proposent une réponse. Elles n’établissent ni une date certaine pour une catastrophe, ni qu’un ralentissement général serait plus efficace que des protections ciblées. Le désaccord entre Geoffrey Hinton, qui appelle à agir plus vite sur les garde-fous, et Andrew Ng, qui conteste les discours catastrophistes et les appels généraux à la pause, montre que le débat ne se réduit pas à une opposition entre l’Europe et les États-Unis.

Une plainte distincte du débat scientifique

Des abonnés à des services d’IA ont engagé une action en justice aux États-Unis. Ils accusent Anthropic, OpenAI, SpaceXAI et Google de s’être entendus pour freiner leurs développements concurrents après l’appel du 12 septembre. Il s’agit d’une accusation, pas d’une entente établie. Le fait que plusieurs dirigeants défendent publiquement un ralentissement ne suffit pas, à lui seul, à prouver une coordination illégale.

Deux questions doivent donc rester distinctes : les mesures proposées répondent-elles à des risques étayés par des éléments examinables indépendamment ? Et leurs coûts pèsent-ils de façon disproportionnée sur les concurrents moins puissants ? Cette exigence de preuve vaut aussi bien pour les appels au ralentissement que pour le plaidoyer de Mistral en faveur de la poursuite du développement.789