AI回答のファクトチェック術：ハルシネーションと偽引用を避ける5ステップ

2. 出典を実際に開き、存在を確認する

出典名やURLが書かれていても、それだけでは検証済みとは言えません。AIは、存在しない論文、実在するが内容が違う資料、古いページ、関係の薄い記事を根拠のように出すことがあります。

出典を開いたら、少なくとも次を確認します。

• URLは実際に開けるか
• タイトル、著者・機関名、公開日はAIの説明と一致するか
• 原文は本当にAIの要約を支持しているか
• 引用文は実在するか、途中で切り取られていないか
• 推測、意見、背景説明が「確定事実」のように書き換えられていないか

出典が見つからない、日付が違う、原文の意味とAIの説明がずれている。このいずれかがあれば、その主張は「未確認」または「問題あり」に下げて扱います。

3. 二次情報で止まらず、一次情報までたどる

ファクトチェックで最も重視したいのは、できるだけ出来事やデータに近い資料です。

優先して確認したい一次情報の例は次の通りです。

• 政府発表、法令、規制当局の文書
• 裁判所の文書、判決、公式記録
• 企業の開示資料、年次報告書、公式発表
• 学術論文、研究報告、データセット
• 当事者、研究チーム、関係機関の公式声明

ニュース記事、ブログ、SNS投稿は背景理解には役立ちます。しかし、レポートに引用する、仕事で判断する、人に転送する、といった場面では、できる限り一次情報までさかのぼるべきです。

複数の記事が同じ内容を書いていても、全てが別の記事の引用で、どれも原文にリンクしていない場合は要注意です。情報が「回覧」されているだけで、検証されていない可能性があります。

4. 独立した情報源でクロスチェックする

一次情報が見つかっても、それだけで結論全体が安全とは限りません。実務的には、次の2段階で確認すると安定します。

1. 一次情報を確認する
   公式文書、論文、法令、裁判資料、企業発表、データセットなどを確認する。

2. 独立した信頼できる情報源で照合する
   報道機関、大学・研究機関、規制当局、専門団体など、別の立場の情報源で確認する。

もし複数の情報源で説明が食い違う場合、すぐにどちらか一方を「正しい」と決めつけない方が安全です。

まずは、食い違いの理由を確認します。

• 更新時期が違うのか
• 対象地域が違うのか
• 定義が違うのか
• 数字の分母や集計方法が違うのか
• どこかの情報源が誤引用しているのか

結論を急がず、「未確認」「見解が分かれている」「追加確認が必要」と明記することも、ファクトチェックの大事な結果です。

5. 「真偽」だけでなく、検証状態を分ける

ファクトチェックは、必ずしも即座に「本当／嘘」と判定する作業ではありません。むしろ、検証状態を分けた方が実用的です。

この分け方をすると、AIが「可能性」「見込み」「一部の見解」を、あたかも確定事実のように見せているケースに気づきやすくなります。

特に間違いやすい6つの確認ポイント

数字

割合、金額、順位、成長率、サンプル数は必ず確認します。数字は正しそうに見えやすい一方で、年、地域、分母、調査対象が少し違うだけで意味が変わります。

時間

制度、価格、法令、製品機能、企業の状況は変わります。公開日だけでなく、更新日や「いつ時点の情報か」も確認しましょう。

地域・管轄

同じ言葉でも、国や地域によって制度が違います。法律、税務、医療、移民、プライバシー、投資に関する内容では特に注意が必要です。

定義

「AI」「ユーザー」「売上」「リスク」「有効」「準拠」といった言葉は、業界や文書によって定義が変わります。元の資料でどう定義されているかを見てください。

引用文

引用符が付いているからといって、本当にその発言や文章が存在するとは限りません。原文検索を行い、文が存在するか、全文の意味を損なっていないか、前後の文脈がAIの解釈を支えているかを確認します。

情報源の質

情報源が存在することと、信頼できることは別です。公式文書、査読付き研究、報道記事、企業の宣伝資料、個人ブログ、単なる転載では、重みが違います。

高リスク分野ではAIだけに頼らない

次のような分野では、誤りのコストが高くなります。

• 医療診断、薬、治療法
• 法律相談、契約、訴訟、移民、税務
• 投資、保険、資産運用
• 人身安全、サイバーセキュリティ、緊急対応
• 速報ニュース、告発、政治的主張

法的リスクは現実に起きています。OECD.AIは、生成AIのハルシネーションが法的手続きに影響した事例を記録し、その害を「法的手続きに影響する誤情報」と説明しています 。

こうした分野では、AIは質問整理や確認リスト作成には使えます。しかし、公式文書、専門家の助言、正式な手続きを置き換えるものではありません。

こう見えたら高リスクのサイン

次のような回答は、特に慎重に扱いましょう。

• 断定的なのに出典がない
• 「研究によると」「専門家は指摘する」と書くが、研究名、著者、機関、日付がない
• 細かい固有名詞や数字が多いのに、原文が見つからない
• 数字が妙に正確なのに、データソースがない
• 自分の考えにぴったり合い、すぐ信じたくなる
• 出典同士が互いに引用し合っているだけで、一次情報にたどれない
• 最新情報のように書かれているのに、更新日時が分からない

NISTは、生成された物語の「信じやすさ」や、信じやすいが誤解を招く内容を、生成テキスト評価の文脈で扱っています 。つまり、もっともらしく見えるほど、出典確認が必要です。

そのまま使える確認プロンプト

AIに再確認させるときは、曖昧な依頼ではなく、検証条件を明確に指定します。

公開情報で確認できる一次情報源だけを挙げてください。推測で補わないでください。

重要な主張ごとに、出典リンク、発表機関、公開日、原文の該当箇所を付けてください。

確信がない場合は「不明」または「確認できない」と書き、もっともらしく補完しないでください。

内容を「確認済み」「未確認」「推測」の3列に分けてください。

上の回答で最も誤りが起きやすい箇所を、数字、日付、地域、定義、引用の観点から指摘してください。

最後に覚えておきたい基準

覚えるべき基準は1つです。

一次情報までたどれるなら、検討できる。AI自身にしかたどれないなら、事実として扱わない。

AIは、検索の出発点、論点整理の道具、確認リストの作成には有用です。しかし、内容が信頼できるかどうかを決めるのは、AIの文章力ではありません。公開され、検証でき、文脈まで確認できる情報源です。