KPMG、AI生成レポートを公開後に撤回—引用文献の89%が「幻覚」（ハルシネーション）であることが判明

捏造の規模：引用文献の89%に問題

GPTZeroによる45の引用文献のスキャンでは、検証プロセスの組織的な失敗が明らかになりました。

• 正確に実在する適切な情報源を指していた引用はわずか5件でした。
• 28件の引用は、タイトルが言い換えられたり改変されており、実在する出版物に偽の構成要素が付け加えられていました。
• 12件の引用は曖昧すぎるか一貫性がなく、既存の情報源に辿り着くことができませんでした。
• これらの引用に依存するレポートの実質的な主張の約半数が、偽物であるか誤って帰属されているように見えました。

全体として、参考文献の89%に問題があるとフラグが立てられました。GPTZeroのAI検出スキャンはさらに厄介な層を追加し、文書を**56%「混合」**と評価しました。これは、意味のある人間によるレビューを経ずにAIが生成または大幅に支援したコンテンツである可能性が高いことを示唆しています。

偽って引用された組織と、レポートの主張内容

調査により、4つの著名な組織が「エージェンティックAI」導入に関する捏造された事例研究とともに引用されていることが特定されました。

• UBS：レポートは同行がパーソナライズされたウェルスマネジメントインサイトのためにエージェンティックAIを導入していると主張しましたが、検証可能な情報源は存在しませんでした。
• NHSグレーター・マンチェスター：NHSトラストがAI主導の患者ジャーニーオーケストレーションを利用していると断言しましたが、実際の文書による裏付けはありませんでした。
• ロンドン交通局（TfL）：TfLがAIを活用したリアルタイムの顧客体験最適化の事例として挙げられましたが、その主張は裏付けが取れませんでした。
• スイス連邦鉄道（SBB）：レポートはSBBが統合された顧客タッチポイントにエージェンティックAIを利用している事例研究を提示しましたが、引用された資料からそのような取り組みは確認できませんでした。

それぞれのケースで、引用は存在しない報告書、無関係な実在出版物の言い換えられたタイトル、または実質的に無価値なほど曖昧な参照を指し示していました。

根本原因：検証なしに暴走するAIツール

GPTZeroの分析は、これらの誤りは**「エージェンティックAI」の実例を見つけるよう求めるプロンプトに過剰に従ったAIリサーチツール**の結果である可能性が高いと結論付けました。ツールはもっともらしく聞こえるが完全に架空の事例研究と引用を生成し、それがKPMGのレビュープロセスを訂正されないまま通過したのです。

この事件は、AIが生成したリサーチが厳格な人間による検証なしに公開された場合、自信に満ちた権威あるように聞こえるナンセンスを生み出し、組織の信用を損なう可能性があるという重大な脆弱性を浮き彫りにしています。

専門サービス業界におけるAIハルシネーションの拡大パターン

KPMGの撤回されたレポートは決して孤立した事件ではありません。これは、主要なコンサルティング会社や法律事務所におけるAI関連の引用ミスの拡大パターンに当てはまります。

• デロイト・オーストラリアは、架空の学術参考文献や連邦裁判所判決の捏造された引用が含まれていることが判明した後、44万豪ドル（約4400万円）相当の政府向け報告書を再発行せざるを得ませんでした。同社は部分的な返金を行い、「引用エラーが散りばめられた」報告書として公の批判に直面しました。
• アーンスト・アンド・ヤング（EY） がロイヤルティ詐欺に関する報告書を作成した際、GPTZeroの調査により、URLのほぼすべてがリンク切れか偽物であり、タイトルの過半数が実在する情報源に対応していないことが判明しました。
• 同様の問題は、サリバン＆クロムウェルなどの主要法律事務所が関与する法廷提出書類でも表面化しています。

これらの繰り返される失敗は、体系的なリスクを浮き彫りにしています。厳格な人間の監督なしには、AIリサーチツールは信頼できるように見えながらも精査の下で崩壊する証拠を生み出しているのです。信頼と専門知識を売り物にする業界にとって、間違いを犯す代償は金銭、評判、そして規制当局の監視という形で計られます。KPMGのケースは、AI支援ワークフローにおける「チェック」は、現実的で、徹底的で、人間によるものでなければならないという明確な警告となっています。