arXiv geht gegen nachlässige KI‑generierte Forschungspapiere vor

Das wissenschaftliche Preprint‑Archiv arXiv verschärft seine Moderationspraxis für eingereichte Arbeiten. Wenn ein Paper klare Hinweise darauf enthält, dass Ausgaben eines großen Sprachmodells (LLM) ungeprüft übernommen wurden, kann das für alle aufgeführten Autorinnen und Autoren eine einjährige Sperre von arXiv bedeuten.

Die Plattform verbietet den Einsatz von KI‑Werkzeugen jedoch nicht grundsätzlich. Stattdessen bekräftigt sie einen zentralen Grundsatz wissenschaftlicher Veröffentlichung: Alle Autorinnen und Autoren tragen die volle Verantwortung für den Inhalt ihres Papers – unabhängig davon, wie dieser entstanden ist.

Warum arXiv die Regeln präzisiert hat

Mit der zunehmenden Nutzung generativer KI beim Schreiben wissenschaftlicher Texte tauchen häufiger Manuskripte auf, die typische Spuren automatischer Textgenerierung enthalten. Dazu zählen etwa erfundene Literaturangaben oder Kommentare, die eigentlich nur für einen Chatbot gedacht waren.

Solche Fehler untergraben das Vertrauen in Preprints, weil Leserinnen, Leser und Gutachter schwer beurteilen können, ob andere Teile der Arbeit ebenfalls unzuverlässig sind. Deshalb haben arXiv‑Moderatoren klargestellt, wie bestehende Verhaltensregeln auf KI‑generierte Inhalte angewendet werden.

Was als eindeutiger Beweis für ungeprüfte LLM‑Inhalte gilt

Die Moderation richtet sich vor allem gegen offensichtliche Anzeichen, dass KI‑Text ohne Prüfung in ein Manuskript übernommen wurde. Beispiele dafür sind:

• Halluzinierte oder nicht existierende Literaturangaben im Quellenverzeichnis
• Reste einer Chatbot‑Konversation, etwa Prompts oder Antworten im Text
• Meta‑Kommentare des Modells, zum Beispiel Formulierungen wie „Hier ist eine 200‑Wörter‑Zusammenfassung“ oder Platzhalter wie „Fügen Sie hier die realen Versuchsdaten ein“.

Solche Artefakte deuten darauf hin, dass der generierte Inhalt nicht sorgfältig überprüft wurde. Treffen Moderatoren auf solche Hinweise, kann dies Zweifel an der Verlässlichkeit der gesamten Arbeit wecken.

Mögliche Konsequenzen für Autorinnen und Autoren

Wenn Moderatoren zu dem Schluss kommen, dass ein Paper eindeutige Hinweise auf ungeprüfte LLM‑Ausgaben enthält, drohen mehrere Folgen:

• Das Manuskript wird abgelehnt.
• Alle aufgeführten Autorinnen und Autoren können für ein Jahr von arXiv gesperrt werden.
• Nach Ablauf der Sperre dürfen neue Einreichungen erst erscheinen, wenn sie zuvor von einer anerkannten peer‑reviewten Publikation akzeptiert wurden.

Die Regel gilt für das gesamte Autorenteam, weil nach arXiv‑Richtlinien alle Unterzeichnenden gemeinsam Verantwortung für den Inhalt tragen.

KI‑Werkzeuge bleiben erlaubt

Wichtig: arXiv hat keinen generellen Bann gegen generative KI ausgesprochen. Forschende dürfen solche Tools weiterhin nutzen – etwa zur Unterstützung beim Schreiben oder Strukturieren.

Entscheidend ist jedoch, dass die Autorinnen und Autoren jede Aussage, Quelle und Schlussfolgerung sorgfältig überprüfen und letztlich selbst dafür einstehen.

Überprüfung und Einspruchsmöglichkeiten

Moderationsentscheidungen sind nicht endgültig ohne weiteres Verfahren. Wer eine Entscheidung für falsch hält, kann sie über den offiziellen arXiv‑Einspruchsprozess anfechten.

In bestimmten Fällen verlangt arXiv dabei, dass ein Paper zunächst von einem klassischen Fachjournal akzeptiert wird, bevor über einen Einspruch gegen eine Ablehnung entschieden wird.

Warum das für die Forschung wichtig ist

arXiv ist eine zentrale Infrastruktur der modernen Wissenschaft. Viele Disziplinen – von Physik bis Informatik – nutzen das Archiv, um Forschungsergebnisse frühzeitig öffentlich zu machen.

Die neuen Durchsetzungsregeln spiegeln eine wachsende Sorge in der akademischen Welt wider: Generative KI kann das Schreiben beschleunigen, erhöht aber auch das Risiko von erfundenen Zitaten oder schwer erkennbaren Fehlern.

Die Botschaft von arXiv ist deshalb klar: KI‑Unterstützung ist erlaubt – aber ungeprüfte KI‑Ausgaben haben in wissenschaftlichen Arbeiten keinen Platz.