核心原则很简单:相信可核查来源,不要相信 AI 的自信语气。
AI 很适合用来整理问题、列出可能资料、提醒你哪些细节需要核对。但只要内容涉及事实、数据、政策、医疗、法律、投资或新闻事件,判断标准就不是它写得是否自然,而是下面四件事:
如果一个关键说法只能追溯到 AI 自己,而找不到公开文件、原文、数据或当事机构,就应当先标为未证实。
不要把一整段回答直接判断为对或错。先拆开:数字归数字,日期归日期,结论归结论,引用归引用。
可以直接这样问 AI:
请把以上回答拆成逐条可核查主张。每条列出原始来源、发布机构或作者、日期、URL 和原文引句;如果没有来源,标记为未证实。
拆开之后,你通常会很快发现:哪些内容有明确出处,哪些只是 AI 顺着上下文补出来的。
有来源名称,不等于已经核实。你需要亲自打开链接或搜索原文,检查:
如果来源找不到、日期对不上,或原文意思和 AI 总结不一致,这条主张就要降级为未证实或有问题。
优先核对最接近事件或数据本身的材料,例如:
媒体报道、博客和社交平台帖子可以帮助理解背景,但如果你要引用、转发、写报告或据此做决定,最好继续追到原始文件。若许多文章互相引用,却没有一篇能链接到原文,就要视为高风险。
一个来源存在,不代表整个结论就安全。更稳妥的做法是做两层核查:
如果两边说法不一致,不要急着选边。先标记为有争议或暂不能确认,再看分歧来自时间不同、定义不同、地区不同,还是有人引用错误。
事实核查不一定马上得出真或假。更实用的做法,是给每条主张分级:
| 状态 | 如何判断 | 应该怎么做 |
|---|---|---|
| 已证实 | 可追到原始来源,且原文支持该主张 | 可以引用,但保留来源 |
| 未证实 | 有说法,但找不到足够来源 | 不要当事实转述 |
| 推测 | AI 或作者根据资料推论 | 明确标注为推测 |
| 有争议 | 多个来源说法不同 | 说明分歧,避免下定论 |
这一步可以防止 AI 把可能、估计、有人认为包装成已经确定的事实。
数字:百分比、金额、排名、增长率、样本量都要查。特别注意年份、地区、分母和数据来源。
时间:政策、价格、法规、产品功能和公司状况都可能过时。除了发布日期,也要看是否有更新日期。
地区:同一个词在不同国家和地区可能对应完全不同的制度。法律、税务、医疗、移民、隐私和投资内容尤其要小心。
定义:AI、用户、收入、风险、合规、有效等词,在不同行业可能有不同定义。核查时要看原文怎么界定。
引用句:看到引号不代表真实。要搜索原文,确认句子是否存在、是否完整、上下文是否支持 AI 的解读。
来源质量:来源存在,不等于可靠。要区分它是官方文件、学术研究、新闻报道、公司内容、个人博客,还是单纯转载。
以下主题一旦出错,代价可能很高,应使用更严格的标准:
法律领域已有现实风险:OECD.AI 记录过一起生成式 AI 幻觉影响法律程序的事件,并把其伤害描述为错误信息影响法律程序 。这类内容可以让 AI 帮你整理问题清单,但不应让 AI 取代官方文件、专业人士意见或正式程序。
NIST 已将生成叙事的可信度,以及可信但具误导性的内容纳入文字评测脉络 。换句话说:越像真的,越不能跳过查证。
请只列出可公开核查的原始来源,不要自行推测。
请在每一个关键主张后面加上来源链接、发布机构、日期和原文引句。
如果你不确定,请直接写未知或未能确认,不要补完。
请把内容分成三栏:已证实、未证实、推测。
请指出以上回答最可能出错的地方,包括数字、日期、地区、定义和引用。
能追到原始来源,可以继续看;只能追到 AI 自己,不能当事实。
AI 最适合做检索起点、问题整理器和待核查清单生成器。真正决定一段内容是否可信的,仍然是公开、可核查、上下文完整的来源。