arXiv sévit contre les articles scientifiques générés par IA sans vérification

Pour répondre à ce problème, arXiv a précisé comment son Code de conduite s’applique aux contenus générés par IA.

Ce que signifie une « preuve incontestable » d’utilisation non vérifiée d’un LLM

Les modérateurs se concentrent sur des signaux clairs montrant que le texte généré par un modèle n’a pas été relu sérieusement. Parmi les exemples cités :

• Références bibliographiques inventées ou inexistantes
• Fragments de conversation avec un chatbot laissés dans le manuscrit
• Commentaires ou instructions générés par l’IA, comme « Voici un résumé de 200 mots » ou « Remplissez ici les vraies données de l’expérience ».

Ces éléments indiquent fortement que les auteurs n’ont pas vérifié le contenu avant de soumettre leur article.

Les sanctions possibles pour les auteurs

Lorsqu’un article contient ce type de preuves, plusieurs conséquences peuvent s’appliquer :

• Refus immédiat de la soumission
• Interdiction de publier sur arXiv pendant un an pour tous les auteurs listés
• Après la suspension, obligation de faire accepter les futurs articles par une revue à comité de lecture reconnue avant de les déposer sur arXiv.

La sanction concerne l’ensemble des auteurs, car arXiv considère que tous partagent la responsabilité du contenu qu’ils signent.

L’IA n’est pas interdite

Important : arXiv n’interdit pas l’utilisation d’outils d’IA générative dans la rédaction scientifique.

La règle rappelle simplement un principe central de la publication académique : les auteurs sont responsables de chaque phrase, citation et résultat figurant dans leur article, quelle que soit la manière dont il a été produit.

Autrement dit, l’IA peut servir d’assistance — mais le contrôle final doit rester humain.

Possibilité de recours

Les décisions de modération sur arXiv peuvent être contestées. Les chercheurs peuvent faire appel via la procédure officielle de recours de la plateforme s’ils estiment qu’une décision est incorrecte.

Dans certains cas, arXiv peut demander qu’un article soit accepté par une revue scientifique traditionnelle avant d’examiner l’appel lié à une soumission refusée.

Pourquoi cette décision compte

arXiv joue un rôle central dans la communication scientifique rapide. Les chercheurs y publient souvent leurs travaux avant la revue par les pairs, afin de partager rapidement des résultats avec la communauté.

La montée de l’IA générative change la manière dont les articles peuvent être rédigés — mais elle augmente aussi le risque d’erreurs comme des citations halluciné​​es ou des affirmations incorrectes.

La position d’arXiv est donc claire : l’assistance par IA est acceptable, mais pas le contenu généré et soumis sans vérification humaine.