KPMG trak AI-rapport tilbage efter omfattende falske kildehenvisninger

89 procent af henvisningerne var fejlbehæftede

GPTZero gennemgik rapportens 45 kildehenvisninger og fandt et systematisk problem med kildekontrollen :

• Kun 5 henvisninger pegede korrekt på virkelige og relevante kilder.
• 28 henvisninger havde omskrevne eller ændrede titler, hvor falske dele var føjet til rigtige publikationer.
• 12 henvisninger var så uklare eller inkonsistente, at de ikke kunne knyttes til en eksisterende kilde.
• Omkring halvdelen af rapportens væsentlige påstande, som byggede på disse henvisninger, så ud til at være opdigtede eller fejltilskrevet.

Samlet blev 89 procent af bibliografien markeret som fejlbehæftet. GPTZeros analyse af teksten gav desuden dokumentet vurderingen 56 procent »blandet«, hvilket ifølge værktøjet tyder på, at indholdet sandsynligvis var AI-genereret eller kraftigt AI-assisteret uden tilstrækkelig menneskelig gennemgang .

Fire organisationer blev brugt som ikke-dokumenterede eksempler

Rapporten henviste blandt andet til fire velkendte organisationer i case-studier om brugen af agentisk AI . Påstandene kunne ikke verificeres i de angivne kilder:

• UBS: Rapporten hævdede, at banken brugte agentisk AI til at skabe personlige indsigter i formueforvaltning. Der blev ikke fundet en verificerbar kilde til dette eksempel.
• NHS Greater Manchester: Organisationen blev beskrevet som bruger af AI til at koordinere patientforløb. Påstanden var ikke understøttet af reel dokumentation.
• Transport for London (TfL): Trafikselskabet blev fremstillet som et eksempel på AI-baseret optimering af kundeoplevelsen i realtid, men påstanden kunne ikke bekræftes.
• Swiss Federal Railways (SBB): Rapporten beskrev, hvordan det schweiziske jernbaneselskab skulle bruge agentisk AI til at forbinde forskellige kundekontaktpunkter. Initiativet kunne ikke verificeres i det citerede materiale.

I disse tilfælde pegede henvisningerne enten på rapporter, der ikke eksisterede, på omskrevne titler fra irrelevante virkelige publikationer eller på referencer, der var for upræcise til at kunne kontrolleres .

Sandsynlig forklaring: Et AI-værktøj fik lov til at udfylde hullerne

GPTZero vurderede, at fejlene sandsynligvis opstod, fordi et AI-baseret researchværktøj overopfyldte en opgave om at finde virkelige eksempler på »agentisk AI« . Resultatet blev overbevisende formulerede, men opdigtede case-studier og kildehenvisninger, som efterfølgende ikke blev fanget i KPMG's kontrolproces.

Sagen illustrerer en central svaghed ved AI-assisteret research: Et sprogmodelbaseret værktøj kan fremstille falske oplysninger i en sikker og professionel tone. Uden kontrol af de oprindelige dokumenter kan fejlene derfor nå helt frem til en offentlig rapport og skade afsenderens troværdighed .

KPMG-sagen er ikke et enkeltstående tilfælde

Hændelsen føjer sig til et bredere mønster af AI-relaterede kildefejl i konsulent- og advokatbranchen .

• Deloitte Australia måtte udgive en ny version af en rapport til den australske regering, efter dokumentet viste sig at indeholde opdigtede akademiske referencer og et falsk citat fra en dom ved en føderal domstol. Virksomheden gav delvist pengene tilbage. Rapporten er i forskellige omtaler blevet opgjort til henholdsvis 290.000 og 440.000 australske dollars .
• Ernst & Young (EY) udarbejdede en rapport om loyalitetssvindel, hvor GPTZeros undersøgelse fandt, at næsten alle URL'er var ødelagte eller falske, og at mere end halvdelen af titlerne ikke svarede til virkelige kilder .
• Lignende problemer er også dukket op i juridiske indlæg fra store advokatfirmaer, blandt andre Sullivan & Cromwell .

De gentagne episoder peger på en systemisk risiko. AI-værktøjer kan hurtigt producere dokumenter, der ser veldokumenterede ud, men som ikke kan holde til et nærmere eftersyn. For en branche, der sælger ekspertise og tillid, kan prisen være høj: tabte honorarer, omdømmeskade og øget opmærksomhed fra myndigheder.

KPMG-rapporten er derfor ikke nødvendigvis et argument imod at bruge AI i research. Den er snarere en påmindelse om, at det afgørende trin i en AI-assisteret arbejdsgang stadig er det menneskelige tjek — og at det skal være grundigt nok til faktisk at opdage, når en kilde ikke findes.