AI聊天机器人常编造引用——一项调查发现,主流聊天机器人生成的参考文献中约40%是错误或完全编造的,仅26%完全准确[2]。 手动核查仍是最可靠的方法:将准确标题加引号在Google Scholar中搜索、在doi.org上验证DOI、检查期刊元数据。

Create a landscape editorial hero image for this Studio Global article: Searching with cited sources for How do I know if an AI-generated citation is real or a hallucination?. Article summary: AI-generated citations are frequently fabricated — studies show that across major chatbots, roughly **40% of references are either erroneous or entirely made up**, with only about 26% being fully accurate [2]. The good n. Topic tags: general, academic, education, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, click
AI生成的参考文献看起来非常逼真——但它们常常是完全虚构的。研究发现,在主流聊天机器人中,大约40%的参考文献要么有误,要么完全是编造的,只有约26%完全准确。另一项针对AI生成引用的调查显示,33.8%部分正确,39.8%错误或完全虚构
。幻觉率最高的聊天机器人是Copilot、Perplexity和Claude
。
这对依赖AI写作工具的研究人员、学生和专业人士来说是一个严重问题。好消息是,采用系统方法几乎可以识别所有编造的引用。
问题规模令人震惊。一份大学图书馆指南指出,约40%的AI引用在存在性检查中消失——它们在数据库中根本不存在。问题如此普遍,以至于学术出版商现在正在主动筛查投稿中的虚构参考文献,一些出版商已开始使用iThenticate等剽窃检测软件来标记可疑引用
。
在求助于自动化工具之前,了解如何手动验证引用非常重要。以下步骤适用于任何参考文献,无论它是由ChatGPT、Claude、Gemini还是其他AI助手生成的。
将准确的论文标题用引号括起来,在搜索引擎中搜索。在多个数据库中检索:Google Scholar、PubMed(用于生物医学主题)、你所在大学的图书馆目录、CrossRef和OpenAlex。如果精确标题在以上任何一个数据库中都没有出现,那么该引用几乎可以确定是幻觉
。需要注意的是:有些编造的引用已经进入了Google Scholar本身,因此最好至少在两个数据库中确认
。
过去20年发表的每篇合法学术论文都应有一个数字对象标识符(DOI)。将引用中的DOI复制并粘贴到doi.org。如果出现404错误或被重定向到不相关的论文,则该引用是伪造的。
留意编造引用的提示性迹象:
一种常见的幻觉技巧是将真实的论文标题与错误的作者组合,或将真实的作者与编造的论文组合。如果标题和作者在真实数据库中不对应,那就是幻觉。
即使引用是真实的,AI也可能歪曲了源文献的发现。一份图书馆员指南建议进行三层检查:存在性、内容(源文献是否确实支持AI所声称的内容?)和上下文(源文献是否被适当使用?)。
手动检查包含50个参考文献的列表中的每一条引用非常繁琐。现在有多种自动化工具可以加快这一过程。
大多数这些工具的工作方式相同:你粘贴参考文献列表,它们将每条条目与权威数据库进行比较。被编造的引用将在几秒内被标记出来。
最佳方法是将两者结合。对于少量引用的快速检查,手动验证完全足够。对于大型参考文献列表或时间紧迫时,AiCitationChecker或GPTZero等自动化工具可以快速捕捉明显的伪造品。
然而,即使是最好的自动化工具也并非完美。有些可能会错过细微的幻觉,比如真实的论文配上了编造的内容声明。对于高风险的投稿——期刊论文、学位论文或基金申请——手动验证每个来源仍然是黄金标准。如果经过彻底搜索,一篇论文在Google Scholar或CrossRef中都没有出现,那么它几乎肯定不存在
。
AI引用幻觉普遍存在,且没有消失的迹象。问题严重到出版商现在正在主动筛查。为了保护你的学术诚信:
现在花在验证引用上的努力,将为你节省未来因撤回论文而导致的更大痛苦。
Studio Global AI
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
AI聊天机器人常编造引用——一项调查发现,主流聊天机器人生成的参考文献中约40%是错误或完全编造的,仅26%完全准确[2]。
AI聊天机器人常编造引用——一项调查发现,主流聊天机器人生成的参考文献中约40%是错误或完全编造的,仅26%完全准确[2]。 手动核查仍是最可靠的方法:将准确标题加引号在Google Scholar中搜索、在doi.org上验证DOI、检查期刊元数据。
目前已有多种自动化工具可用,包括AiCitationChecker、GPTZero的幻觉检测器和开源工具CheckIfExist,它们将引用与CrossRef和OpenAlex等数据库进行交叉比对。