arXiv sévit contre les articles scientifiques générés par IA sans vérification

La plateforme de prépublications scientifiques arXiv — largement utilisée par les chercheurs en physique, informatique, mathématiques ou encore IA pour diffuser rapidement leurs travaux — a précisé ses règles concernant les articles contenant du contenu généré par intelligence artificielle.

Désormais, si une soumission présente des preuves incontestables que les auteurs n’ont pas vérifié le contenu produit par un grand modèle de langage (LLM), tous les auteurs listés peuvent être bannis de la plateforme pendant un an.

Cette clarification vise à répondre à une hausse d’articles contenant des erreurs typiques des outils d’IA générative.

Pourquoi arXiv renforce ses règles

Avec la généralisation des assistants d’écriture basés sur l’IA, les modérateurs d’arXiv ont commencé à voir apparaître des manuscrits comportant des traces évidentes d’utilisation non contrôlée de ces outils.

Par exemple : des références inexistantes ou des commentaires destinés à un chatbot restés dans le texte final. Ces indices fragilisent la confiance dans les prépublications, car ils laissent penser que le reste du travail pourrait également contenir des erreurs non détectées.

Pour répondre à ce problème, arXiv a précisé comment son Code de conduite s’applique aux contenus générés par IA.

Ce que signifie une « preuve incontestable » d’utilisation non vérifiée d’un LLM

Les modérateurs se concentrent sur des signaux clairs montrant que le texte généré par un modèle n’a pas été relu sérieusement. Parmi les exemples cités :

• Références bibliographiques inventées ou inexistantes
• Fragments de conversation avec un chatbot laissés dans le manuscrit
• Commentaires ou instructions générés par l’IA, comme « Voici un résumé de 200 mots » ou « Remplissez ici les vraies données de l’expérience ».

Ces éléments indiquent fortement que les auteurs n’ont pas vérifié le contenu avant de soumettre leur article.

Les sanctions possibles pour les auteurs

Lorsqu’un article contient ce type de preuves, plusieurs conséquences peuvent s’appliquer :

• Refus immédiat de la soumission
• Interdiction de publier sur arXiv pendant un an pour tous les auteurs listés
• Après la suspension, obligation de faire accepter les futurs articles par une revue à comité de lecture reconnue avant de les déposer sur arXiv.

La sanction concerne l’ensemble des auteurs, car arXiv considère que tous partagent la responsabilité du contenu qu’ils signent.

L’IA n’est pas interdite

Important : arXiv n’interdit pas l’utilisation d’outils d’IA générative dans la rédaction scientifique.

La règle rappelle simplement un principe central de la publication académique : les auteurs sont responsables de chaque phrase, citation et résultat figurant dans leur article, quelle que soit la manière dont il a été produit.

Autrement dit, l’IA peut servir d’assistance — mais le contrôle final doit rester humain.

Possibilité de recours

Les décisions de modération sur arXiv peuvent être contestées. Les chercheurs peuvent faire appel via la procédure officielle de recours de la plateforme s’ils estiment qu’une décision est incorrecte.

Dans certains cas, arXiv peut demander qu’un article soit accepté par une revue scientifique traditionnelle avant d’examiner l’appel lié à une soumission refusée.

Pourquoi cette décision compte

arXiv joue un rôle central dans la communication scientifique rapide. Les chercheurs y publient souvent leurs travaux avant la revue par les pairs, afin de partager rapidement des résultats avec la communauté.

La montée de l’IA générative change la manière dont les articles peuvent être rédigés — mais elle augmente aussi le risque d’erreurs comme des citations halluciné​​es ou des affirmations incorrectes.

La position d’arXiv est donc claire : l’assistance par IA est acceptable, mais pas le contenu généré et soumis sans vérification humaine.