89 procent av hänvisningarna var bristfälliga

GPTZero gick igenom rapportens 45 hänvisningar och beskrev ett systematiskt kontrollmisslyckande :

• Endast 5 hänvisningar pekade korrekt på verkliga och relevanta källor.
• 28 hänvisningar innehöll omskrivna eller förändrade titlar, där påhittade delar hade lagts till verkliga publikationer.
• 12 hänvisningar var så vaga eller motsägelsefulla att de inte gick att spåra till någon befintlig källa.
• Ungefär hälften av rapportens mer centrala påståenden som byggde på dessa källor verkade vara falska eller felaktigt tillskrivna.

Sammantaget markerades 89 procent av källförteckningen som bristfällig. GPTZeros AI-analys klassade dessutom dokumentet som 56 procent ”blandat”, vilket enligt verktyget tyder på att texten sannolikt var AI-genererad eller kraftigt AI-assisterad utan tillräcklig mänsklig granskning .

Fyra organisationer fick påstådda AI-fallstudier

Granskningen identifierade fyra välkända organisationer som i rapporten användes som exempel på införande av agentisk AI, trots att uppgifterna inte kunde verifieras .

• UBS: Rapporten hävdade att banken använde agentisk AI för personligt anpassade insikter inom förmögenhetsförvaltning. Någon verifierbar källa för detta användningsområde hittades inte.
• NHS Greater Manchester: Rapporten påstod att organisationen använde AI för att samordna patientresor genom vården. Påståendet stöddes inte av verklig dokumentation.
• Transport for London (TfL): Trafikmyndigheten beskrevs som ett exempel på AI-baserad optimering av kundupplevelsen i realtid, men uppgiften kunde inte bekräftas.
• Swiss Federal Railways (SBB): Rapporten presenterade en fallstudie där SBB sades använda agentisk AI för att knyta samman olika kontaktpunkter mot kunder. Något sådant initiativ kunde inte verifieras i det citerade materialet.

I fallen pekade hänvisningarna antingen på rapporter som inte existerade, på omskrivna titlar till verkliga men orelaterade publikationer eller på så vaga referenser att de i praktiken var oanvändbara .

Trolig förklaring: ett AI-verktyg utan tillräcklig kontroll

GPTZero bedömde att felen sannolikt uppstod när ett AI-baserat researchverktyg överanpassade sig till en uppmaning att hitta verkliga exempel på ”agentisk AI”. Verktyget genererade fallstudier och källhänvisningar som lät trovärdiga men var påhittade. Därefter passerade materialet KPMG:s granskningsprocess utan att felaktigheterna rättades .

Händelsen visar en central risk med AI-assisterad research: språkmodeller kan formulera säkra och auktoritativa påståenden även när underlaget inte finns. Om ingen människa kontrollerar varje viktig uppgift mot originalkällan kan resultatet bli övertygande nonsens – med skadat förtroende som följd .

KPMG är inte ensamt

Den indragna KPMG-rapporten ingår i ett bredare mönster av AI-relaterade källhaverier inom konsult- och juristbranschen .

• Deloitte Australia tvingades göra om en regeringsrapport värd 440 000 dollar efter att den visat sig innehålla påhittade akademiska hänvisningar och ett fabricerat citat från en federal domstols dom . Företaget gav delvis pengarna tillbaka och mötte offentlig kritik mot en rapport som beskrevs som ”full av källfel” .
• Ernst & Young (EY) tog fram en rapport om lojalitetsbedrägerier där GPTZeros granskning fann att nästan alla webbadresser var trasiga eller falska och att mer än hälften av titlarna inte motsvarade verkliga källor .
• Liknande problem har också uppmärksammats i juridiska inlagor från stora firmor, däribland Sullivan & Cromwell .

För konsultföretag som säljer expertis och förtroende är detta mer än ett tekniskt misstag. Kostnaden kan räknas i pengar, anseende och ökad granskning från myndigheter och kunder.

KPMG-fallet understryker därför en enkel men avgörande princip: kontrollsteget i ett AI-assisterat arbetsflöde måste vara verkligt, grundligt och utfört av människor.

89 procent av hänvisningarna var bristfälliga

GPTZero gick igenom rapportens 45 hänvisningar och beskrev ett systematiskt kontrollmisslyckande :

• Endast 5 hänvisningar pekade korrekt på verkliga och relevanta källor.
• 28 hänvisningar innehöll omskrivna eller förändrade titlar, där påhittade delar hade lagts till verkliga publikationer.
• 12 hänvisningar var så vaga eller motsägelsefulla att de inte gick att spåra till någon befintlig källa.
• Ungefär hälften av rapportens mer centrala påståenden som byggde på dessa källor verkade vara falska eller felaktigt tillskrivna.

Sammantaget markerades 89 procent av källförteckningen som bristfällig. GPTZeros AI-analys klassade dessutom dokumentet som 56 procent ”blandat”, vilket enligt verktyget tyder på att texten sannolikt var AI-genererad eller kraftigt AI-assisterad utan tillräcklig mänsklig granskning .

Fyra organisationer fick påstådda AI-fallstudier

Granskningen identifierade fyra välkända organisationer som i rapporten användes som exempel på införande av agentisk AI, trots att uppgifterna inte kunde verifieras .

• UBS: Rapporten hävdade att banken använde agentisk AI för personligt anpassade insikter inom förmögenhetsförvaltning. Någon verifierbar källa för detta användningsområde hittades inte.
• NHS Greater Manchester: Rapporten påstod att organisationen använde AI för att samordna patientresor genom vården. Påståendet stöddes inte av verklig dokumentation.
• Transport for London (TfL): Trafikmyndigheten beskrevs som ett exempel på AI-baserad optimering av kundupplevelsen i realtid, men uppgiften kunde inte bekräftas.
• Swiss Federal Railways (SBB): Rapporten presenterade en fallstudie där SBB sades använda agentisk AI för att knyta samman olika kontaktpunkter mot kunder. Något sådant initiativ kunde inte verifieras i det citerade materialet.

I fallen pekade hänvisningarna antingen på rapporter som inte existerade, på omskrivna titlar till verkliga men orelaterade publikationer eller på så vaga referenser att de i praktiken var oanvändbara .

Trolig förklaring: ett AI-verktyg utan tillräcklig kontroll

GPTZero bedömde att felen sannolikt uppstod när ett AI-baserat researchverktyg överanpassade sig till en uppmaning att hitta verkliga exempel på ”agentisk AI”. Verktyget genererade fallstudier och källhänvisningar som lät trovärdiga men var påhittade. Därefter passerade materialet KPMG:s granskningsprocess utan att felaktigheterna rättades .

Händelsen visar en central risk med AI-assisterad research: språkmodeller kan formulera säkra och auktoritativa påståenden även när underlaget inte finns. Om ingen människa kontrollerar varje viktig uppgift mot originalkällan kan resultatet bli övertygande nonsens – med skadat förtroende som följd .

KPMG är inte ensamt

Den indragna KPMG-rapporten ingår i ett bredare mönster av AI-relaterade källhaverier inom konsult- och juristbranschen .

• Deloitte Australia tvingades göra om en regeringsrapport värd 440 000 dollar efter att den visat sig innehålla påhittade akademiska hänvisningar och ett fabricerat citat från en federal domstols dom . Företaget gav delvis pengarna tillbaka och mötte offentlig kritik mot en rapport som beskrevs som ”full av källfel” .
• Ernst & Young (EY) tog fram en rapport om lojalitetsbedrägerier där GPTZeros granskning fann att nästan alla webbadresser var trasiga eller falska och att mer än hälften av titlarna inte motsvarade verkliga källor .
• Liknande problem har också uppmärksammats i juridiska inlagor från stora firmor, däribland Sullivan & Cromwell .

För konsultföretag som säljer expertis och förtroende är detta mer än ett tekniskt misstag. Kostnaden kan räknas i pengar, anseende och ökad granskning från myndigheter och kunder.

KPMG-fallet understryker därför en enkel men avgörande princip: kontrollsteget i ett AI-assisterat arbetsflöde måste vara verkligt, grundligt och utfört av människor.