KPMG-Panne: Wie eine KI einen Bericht mit erfundenen Fallstudien fabrizierte

Das Ausmaß der Fälschung: 89 % der Zitate waren fehlerhaft

GPTZeros Scan der 45 Zitate im Bericht offenbarte ein systematisches Versagen bei der Überprüfung :

• Nur 5 Zitate verwiesen korrekt auf reale, relevante Quellen.
• 28 Zitate hatten umschriebene oder veränderte Titel, bei denen erfundene Bestandteile an echte Veröffentlichungen angehängt wurden.
• 12 Zitate waren zu vage oder widersprüchlich, um auf eine existierende Quelle zurückgeführt zu werden.
• Etwa die Hälfte der inhaltlichen Behauptungen, die auf diesen Zitaten beruhten, erwies sich als erfunden oder falsch zugeordnet.

Insgesamt wurden 89 % der Bibliografie als fehlerhaft eingestuft. GPTZeros KI-Erkennung lieferte eine weitere beunruhigende Erkenntnis: Das Dokument wurde zu 56 % als 'gemischt' eingestuft, was darauf hindeutet, dass es wahrscheinlich KI-generiert oder stark KI-gestützt war und einer ernsthaften menschlichen Überprüfung entgangen ist .

Wer wurde zu Unrecht zitiert, und was behauptete der Bericht?

Die Untersuchung identifizierte vier prominente Organisationen, die mit erfundenen Fallstudien zum Einsatz von 'agentischer KI' zitiert wurden :

• UBS: Der Bericht behauptete, die Bank setze agentische KI für personalisierte Vermögensverwaltungs-Einblicke ein – dafür fand sich keine überprüfbare Quelle.
• NHS Greater Manchester: Es wurde behauptet, der NHS-Trust nutze KI-gesteuerte Patientenreise-Orchestrierung – eine Behauptung, die durch keine realen Dokumente gestützt wird.
• Transport for London (TfL): TfL wurde als Beispiel für KI-gestützte Echtzeit-Optimierung des Kundenerlebnisses angeführt – die Behauptung ließ sich nicht bestätigen.
• Schweizerische Bundesbahnen (SBB): Der Bericht präsentierte eine Fallstudie, wonach die SBB agentische KI für integrierte Kundenkontaktpunkte einsetze – eine solche Initiative ließ sich im zitierten Material nicht verifizieren.

In jedem Fall verwiesen die Zitate auf nicht existierende Berichte, umschriebene Titel echter, aber themenfremder Veröffentlichungen oder waren so vage, dass sie praktisch wertlos waren .

Die Ursache: KI-Tools außer Kontrolle ohne Überprüfung

GPTZeros Analyse kam zu dem Schluss, dass die Fehler wahrscheinlich auf ein KI-Recherche-Tool zurückzuführen sind, das eine Aufforderung zur Suche nach realen Beispielen für 'agentische KI' übererfüllte. Das Tool generierte plausibel klingende, aber völlig fiktive Fallstudien und Zitate, die dann unkorrigiert durch KPMGs Überprüfungsprozess rutschten .

Der Vorfall unterstreicht eine kritische Schwachstelle: Wenn KI-generierte Forschung ohne strenge menschliche Prüfung veröffentlicht wird, kann sie selbstbewusst klingenden, aber unsinnigen Inhalt produzieren, der die Glaubwürdigkeit einer Institution beschädigt .

Ein wachsendes Muster von KI-Halluzinationen in der Beratungsbranche

KPMGs zurückgezogener Bericht ist kein Einzelfall. Er reiht sich ein in eine Reihe von KI-bezogenen Zitierfehlern bei großen Beratungs- und Anwaltskanzleien :

• Deloitte Australien musste einen 440.000 Dollar schweren Regierungsbericht neu auflegen, nachdem festgestellt wurde, dass er erfundene akademische Referenzen und ein erfundenes Zitat aus einem Urteil des Bundesgerichts enthielt . Die Kanzlei zahlte eine Teilerstattung und sah sich öffentlicher Kritik ausgesetzt; ein Beobachter sprach von einem Bericht, der „vor Zitierfehlern nur so strotzt“ .
• Ernst & Young (EY) erstellte einen Bericht über Betrug bei Treueprogrammen, bei dem GPTZeros Untersuchung ergab, dass fast alle URLs defekt oder gefälscht waren und mehr als die Hälfte der Titel nicht mit echten Quellen übereinstimmten .
• Ähnliche Probleme traten auch bei juristischen Schriftsätzen großer Kanzleien wie Sullivan & Cromwell auf .

Diese wiederholten Pannen verdeutlichen ein systemisches Risiko: Ohne strenge menschliche Aufsicht produzieren KI-Recherche-Tools Belege, die glaubwürdig wirken, aber bei näherer Prüfung zerfallen. Für eine Branche, die Vertrauen und Fachwissen verkauft, sind die Kosten eines Fehlers in Dollar, Reputation und regulatorischer Aufmerksamkeit zu messen. Der KPMG-Fall ist eine deutliche Warnung: Die ‚Prüfung‘ in einem KI-gestützten Workflow muss real, gründlich und menschlich sein.