7 个经证实有效的方法，阻止 ChatGPT 胡编乱造（幻觉消除指南）

ChatGPT 有时会以极其自信的口吻，给出完全错误的回答——这种现象被称为“幻觉”。虽然无法彻底根除这一行为（它是大型语言模型的固有特性），但你可以通过以下方法大幅降低其影响 。以下技巧按效果大致排序，为你提供一个获取更可靠答案的实用工具箱。

1. 让 ChatGPT 访问你的自有文档（检索增强生成，RAG）

最有效的单一缓解措施就是 RAG——让模型基于你提供的实际文档进行回答 。上传文件或使用 ChatGPT 的“数据分析”（Data Analysis）模式，这样模型就能从你给定的内容中寻找答案，而不是依赖其内部的训练数据。当你限制了模型只能基于提供的文本来回答时，就能大幅减少无依据的生成内容 。

2. 强制要求“不确定时拒绝回答”

在每次提出事实性问题时，加上一条规则：“如果你无法从提供的信息中核实这一点，请说‘我不确定’或‘未指定’。”当证据不足时，强制模型拒绝回答，这是一个被广泛推荐的策略 。你可以在 ChatGPT 的个性化设置中添加一个“现实过滤器”自定义指令，禁止将推断或推测的内容作为事实呈现，这样这条规则将适用于所有对话 。

3. 要求提供引用和可追溯性

让 ChatGPT 为每个说法引用具体来源，包括网址或参考文档 。请注意，AI 自己编造的引用也很常见，所以你应该把引用本身也视为待核实的说法，而非证据 。尽管如此，要求可追溯性会促使回答朝着更结构化、基于来源的格式发展 。

4. 将复杂问题拆解为多个直接的小问题

不要只提一个宽泛的问题，而是问一系列狭窄的子问题 。缩小任务范围可以减少模型的自由度，从而降低它生成无依据内容的可能性 。例如，将“气候变化有什么影响？”替换为三个关于温度、海平面和农业的具体问题。

5. 使用角色设定和明确的约束条件

定义一个清晰的角色，并禁止使用模糊的词汇 。例如：“你是一名研究助理。只使用我提供的文档中的信息。如果答案不在文档中，请说‘未指定’。”严格的行为约束能让模型始终立足于给定的上下文 。

6. 要求进行多步骤验证

添加一个元提示：“在回复之前，请对照提供的来源验证每一条事实性陈述，并标记任何你无法验证的内容。”这会促使模型在输出文本前进行自我检查 。让模型展示其推理过程或来源，可以帮助你审查它的说法，但这不能替代你自己的验证 。

7. 始终亲自核实关键信息

将所有具体的事实性输出——日期、统计数据、人名、法律条款、医疗或财务细节——都视为需要核实的假设，而不是可以信赖的结论 。在根据这些信息采取行动之前，务必使用独立的来源进行确认。换一种方式或在不同的时间重新提出同一个问题；如果答案前后不一致，这就是一个强烈的幻觉信号 。

哪些方法不可靠

• 仅仅问一句“你确定吗？”，其效果远不如要求提供来源、证据、强制拒绝回答或明确的验证步骤 。
• 依赖 AI 提供的引用而不去核验是危险的——引用本身也应该被视为待核实的说法 。

关键提醒

幻觉无法被完全阻止；我们的目标是减少损害，而非彻底消除 。结合多种技巧——基于文档、强制拒绝回答、要求引用以及手动验证——比依赖任何一种单一方法都能为你提供更强的防御 。