arXiv加強管控AI生成內容：未核查LLM輸出，作者可能被禁投稿一年

因此，arXiv決定更清楚地說明其行為準則（Code of Conduct）在AI生成內容上的適用方式。

什麼情況會被視為「無可辯駁的證據」

arXiv的政策重點在於那些明顯顯示作者 沒有審核AI輸出 的情況。審稿人舉出的例子包括：

• 虛構或不存在的參考文獻
• 聊天機器人對話殘留（例如提示詞或模型回覆被直接留在文稿中）
• 模型的元註解或指令，例如「這是一段200字摘要」或「請填入實驗的真實數據」等占位內容。

若論文中出現這類跡象，審核者可能判定作者沒有檢查AI輸出，進而認為整篇論文的可信度受到質疑。

作者可能面臨的處分

一旦arXiv的管理員認定投稿含有未經核查的AI生成內容，可能產生以下後果：

• 論文直接被拒絕發表
• 所有列名作者可能被禁止在arXiv投稿一年
• 禁止期結束後，作者 未來的論文必須先被可信的同行評審期刊接收，才能再次發佈到arXiv。

這項規定適用於所有作者，而不只是主要作者。原因在於arXiv的原則是：只要在論文上署名，就代表對內容共同負責。

arXiv並未禁止AI工具

值得注意的是，arXiv 並沒有禁止使用生成式AI。平台的立場是：AI可以作為輔助工具，但作者必須完整檢查與驗證生成的內容。

這與學術界長期的規範一致：研究人員可以使用各種工具協助寫作或分析，但最終 對數據、引用與結論負責的仍然是作者本人。

審核與申訴機制

如果作者認為審核決定不公平，arXiv提供正式的 申訴（appeal）流程。研究人員可以要求重新審查論文或分類決定。

在某些情況下，平台甚至可能要求論文 先被傳統期刊接受，才會重新考慮與投稿拒絕相關的申訴。

為什麼這項政策重要

arXiv是全球最重要的科研預印本平台之一，尤其在物理、數學與人工智慧領域具有巨大影響力。這次的政策強化反映了學術界正在面對的新挑戰：

生成式AI能大幅加快寫作，但同時也可能帶來 虛構引用、事實錯誤或未經驗證的內容。

arXiv選擇的策略並非全面禁止AI，而是向研究社群傳達一個明確訊號：

AI可以使用，但未經檢查的AI輸出不可接受。責任仍然在作者身上。