AI回答のファクトチェック術：ハルシネーションと偽引用を避ける5ステップ

AIの回答で本当に危ないのは、文章が不自然なことではありません。むしろ、なめらかで、自信満々で、いかにも正しそうに見える誤りです。

米国NIST（国立標準技術研究所）の「GenAI text-2026」は、生成された文章が人間の文章とどれほど見分けにくいか、生成された物語がどれほど信じやすいかを評価対象にし、「信じやすいが誤解を招くナラティブ」を検出器の訓練に使うと説明しています 。また、AIハルシネーションを「新たな不正確さの発生源」として研究する概念枠組みも提案されています 。ニュージーランド政府の生成AIガイダンスも、ハルシネーションを誤情報・偽情報に関連するが、それらとは区別される問題として扱っています 。

結論はシンプルです。

AIの自信ある口調ではなく、検証できる情報源を信じる。

AIは「出発点」であって「証拠」ではない

AIは、調べたい論点を整理したり、確認すべき項目を洗い出したり、候補となる資料を探すきっかけを作ったりするには便利です。

ただし、次のような内容では、そのまま信じるのは危険です。

• 事実関係
• 数字や統計
• 法律、制度、政策
• 医療や薬
• 投資や保険
• ニュース、事件、告発
• 引用文や出典情報

AIの回答を読むときは、「文章が自然か」ではなく、次の4点を確認します。

• その主張は、元の資料までたどれるか
• 元の資料は、本当にAIの要約を支えているか
• 日付、地域、定義、前後の文脈は合っているか
• 別の独立した信頼できる情報源でも確認できるか

もし、ある主張の根拠がAI自身の回答にしか存在しないなら、それは事実ではなく「未確認情報」として扱うべきです。

AI回答をファクトチェックする5ステップ

1. まず主張を1つずつ分解する

AIの長い回答を一気に「正しい／間違い」と判断しようとすると、見落としが増えます。まず、検証できる単位に分けましょう。

たとえば、次のように分解します。

• 数字の主張
• 日付の主張
• 人名・組織名の主張
• 法律や制度の説明
• 因果関係の説明
• 引用文
• 結論や評価

使えるプロンプト例です。

上の回答を、公開情報で検証できる主張ごとに分解してください。各主張について、一次情報源、発表機関または著者、日付、URL、原文の該当箇所を示してください。根拠が見つからないものは「未確認」と明記してください。

この作業をするだけで、「出典がある主張」と「AIがもっともらしく補っただけの主張」が分かれやすくなります。

2. 出典を実際に開き、存在を確認する

出典名やURLが書かれていても、それだけでは検証済みとは言えません。AIは、存在しない論文、実在するが内容が違う資料、古いページ、関係の薄い記事を根拠のように出すことがあります。

出典を開いたら、少なくとも次を確認します。

• URLは実際に開けるか
• タイトル、著者・機関名、公開日はAIの説明と一致するか
• 原文は本当にAIの要約を支持しているか
• 引用文は実在するか、途中で切り取られていないか
• 推測、意見、背景説明が「確定事実」のように書き換えられていないか

出典が見つからない、日付が違う、原文の意味とAIの説明がずれている。このいずれかがあれば、その主張は「未確認」または「問題あり」に下げて扱います。

3. 二次情報で止まらず、一次情報までたどる

ファクトチェックで最も重視したいのは、できるだけ出来事やデータに近い資料です。

優先して確認したい一次情報の例は次の通りです。

• 政府発表、法令、規制当局の文書
• 裁判所の文書、判決、公式記録
• 企業の開示資料、年次報告書、公式発表
• 学術論文、研究報告、データセット
• 当事者、研究チーム、関係機関の公式声明

ニュース記事、ブログ、SNS投稿は背景理解には役立ちます。しかし、レポートに引用する、仕事で判断する、人に転送する、といった場面では、できる限り一次情報までさかのぼるべきです。

複数の記事が同じ内容を書いていても、全てが別の記事の引用で、どれも原文にリンクしていない場合は要注意です。情報が「回覧」されているだけで、検証されていない可能性があります。

4. 独立した情報源でクロスチェックする

一次情報が見つかっても、それだけで結論全体が安全とは限りません。実務的には、次の2段階で確認すると安定します。

1. 一次情報を確認する
   公式文書、論文、法令、裁判資料、企業発表、データセットなどを確認する。

2. 独立した信頼できる情報源で照合する
   報道機関、大学・研究機関、規制当局、専門団体など、別の立場の情報源で確認する。

もし複数の情報源で説明が食い違う場合、すぐにどちらか一方を「正しい」と決めつけない方が安全です。

まずは、食い違いの理由を確認します。

• 更新時期が違うのか
• 対象地域が違うのか
• 定義が違うのか
• 数字の分母や集計方法が違うのか
• どこかの情報源が誤引用しているのか

結論を急がず、「未確認」「見解が分かれている」「追加確認が必要」と明記することも、ファクトチェックの大事な結果です。

5. 「真偽」だけでなく、検証状態を分ける

ファクトチェックは、必ずしも即座に「本当／嘘」と判定する作業ではありません。むしろ、検証状態を分けた方が実用的です。

状態	判断の目安	扱い方
確認済み	一次情報までたどれ、原文が主張を支えている	出典付きで引用できる
未確認	主張はあるが、十分な根拠が見つからない	事実として扱わない
推測	AIまたは書き手が資料から推論している	推測であると明記する
争点あり	複数の情報源で説明が異なる	対立点を示し、断定を避ける

この分け方をすると、AIが「可能性」「見込み」「一部の見解」を、あたかも確定事実のように見せているケースに気づきやすくなります。

特に間違いやすい6つの確認ポイント

数字

割合、金額、順位、成長率、サンプル数は必ず確認します。数字は正しそうに見えやすい一方で、年、地域、分母、調査対象が少し違うだけで意味が変わります。

時間

制度、価格、法令、製品機能、企業の状況は変わります。公開日だけでなく、更新日や「いつ時点の情報か」も確認しましょう。

地域・管轄

同じ言葉でも、国や地域によって制度が違います。法律、税務、医療、移民、プライバシー、投資に関する内容では特に注意が必要です。

定義

「AI」「ユーザー」「売上」「リスク」「有効」「準拠」といった言葉は、業界や文書によって定義が変わります。元の資料でどう定義されているかを見てください。

引用文

引用符が付いているからといって、本当にその発言や文章が存在するとは限りません。原文検索を行い、文が存在するか、全文の意味を損なっていないか、前後の文脈がAIの解釈を支えているかを確認します。

情報源の質

情報源が存在することと、信頼できることは別です。公式文書、査読付き研究、報道記事、企業の宣伝資料、個人ブログ、単なる転載では、重みが違います。

高リスク分野ではAIだけに頼らない

次のような分野では、誤りのコストが高くなります。

• 医療診断、薬、治療法
• 法律相談、契約、訴訟、移民、税務
• 投資、保険、資産運用
• 人身安全、サイバーセキュリティ、緊急対応
• 速報ニュース、告発、政治的主張

法的リスクは現実に起きています。OECD.AIは、生成AIのハルシネーションが法的手続きに影響した事例を記録し、その害を「法的手続きに影響する誤情報」と説明しています 。

こうした分野では、AIは質問整理や確認リスト作成には使えます。しかし、公式文書、専門家の助言、正式な手続きを置き換えるものではありません。

こう見えたら高リスクのサイン

次のような回答は、特に慎重に扱いましょう。

• 断定的なのに出典がない
• 「研究によると」「専門家は指摘する」と書くが、研究名、著者、機関、日付がない
• 細かい固有名詞や数字が多いのに、原文が見つからない
• 数字が妙に正確なのに、データソースがない
• 自分の考えにぴったり合い、すぐ信じたくなる
• 出典同士が互いに引用し合っているだけで、一次情報にたどれない
• 最新情報のように書かれているのに、更新日時が分からない

NISTは、生成された物語の「信じやすさ」や、信じやすいが誤解を招く内容を、生成テキスト評価の文脈で扱っています 。つまり、もっともらしく見えるほど、出典確認が必要です。

そのまま使える確認プロンプト

AIに再確認させるときは、曖昧な依頼ではなく、検証条件を明確に指定します。

公開情報で確認できる一次情報源だけを挙げてください。推測で補わないでください。

重要な主張ごとに、出典リンク、発表機関、公開日、原文の該当箇所を付けてください。

確信がない場合は「不明」または「確認できない」と書き、もっともらしく補完しないでください。

内容を「確認済み」「未確認」「推測」の3列に分けてください。

上の回答で最も誤りが起きやすい箇所を、数字、日付、地域、定義、引用の観点から指摘してください。

最後に覚えておきたい基準

覚えるべき基準は1つです。

一次情報までたどれるなら、検討できる。AI自身にしかたどれないなら、事実として扱わない。

AIは、検索の出発点、論点整理の道具、確認リストの作成には有用です。しかし、内容が信頼できるかどうかを決めるのは、AIの文章力ではありません。公開され、検証でき、文脈まで確認できる情報源です。