KPMG:n tekoälyraportti kaatui keksittyihin lähteisiin ja tapaustutkimuksiin

• vain viisi osoitti täsmällisesti oikeaan ja aiheeseen liittyvään lähteeseen
• 28 viitteessä lähteen nimeä oli muotoiltu uudelleen tai siihen oli liitetty keksittyjä osia
• 12 viitettä oli niin epämääräisiä tai ristiriitaisia, ettei niiden alkuperää voitu jäljittää luotettavasti
• näihin viitteisiin perustuneista keskeisistä väitteistä noin puolet vaikutti keksityiltä tai väärin kohdistetuilta

Kaikkiaan GPTZero luokitteli 89 prosenttia lähdeluettelosta virheelliseksi. Sen erillinen tekoälytunnistus antoi asiakirjalle tuloksen 56 prosenttia ”mixed”, mikä viittasi todennäköisesti tekoälyn tuottamaan tai vahvasti avustamaan sisältöön . Tulos ei yksin todista tekstin alkuperää, mutta yhdessä lähdevirheiden kanssa se herätti kysymyksiä raportin laadunvarmistuksesta.

Organisaatiot, joihin liitettiin vahvistamattomia väitteitä

GPTZeron tutkinta nosti esiin neljä tunnettua organisaatiota, joita raportissa käytettiin esimerkkeinä agentic AI:n käyttöönotosta .

• UBS: Raportin mukaan pankki hyödynsi agentic AI:ta henkilökohtaisten varainhoidon näkemysten tuottamiseen. Väitteelle ei kuitenkaan löytynyt varmennettavaa lähdettä.
• NHS Greater Manchester: Raportissa väitettiin, että terveyspalvelu käytti tekoälyä potilaiden hoitopolkujen koordinointiin. GPTZeron mukaan väitettä tukevaa todellista dokumentaatiota ei löytynyt.
• Transport for London (TfL): Lontoon liikennelaitos esitettiin esimerkkinä tekoälypohjaisesta reaaliaikaisesta asiakaskokemuksen optimoinnista, mutta väitettä ei pystytty vahvistamaan.
• Swiss Federal Railways (SBB): Raportissa kuvattiin SBB:n käyttävän agentic AI:ta asiakkaan eri kohtaamispisteiden yhdistämiseen. Myöskään tästä aloitteesta ei löytynyt vahvistusta viitatuista materiaaleista.

GPTZeron mukaan viitteet johtivat joissakin tapauksissa olemattomiin raportteihin, joissakin tapauksissa todellisten mutta asiaan liittymättömien julkaisujen muunneltuihin otsikoihin. Osa viitteistä oli yksinkertaisesti liian epämääräisiä tarkistettaviksi .

Miten virheet saattoivat syntyä?

GPTZeron johtopäätös oli, että virheet olivat todennäköisesti seurausta tekoälypohjaisesta tutkimustyökalusta, joka pyrki liian tunnollisesti löytämään tosielämän esimerkkejä agentic AI:n käytöstä . Työkalu tuotti uskottavalta kuulostavia mutta kuvitteellisia tapaustutkimuksia ja lähdeviitteitä, jotka päätyivät raporttiin ilman riittävää ihmisen tekemää tarkistusta.

Tapaus havainnollistaa tekoälyavusteisen tutkimuksen keskeistä heikkoutta: järjestelmä voi kirjoittaa vakuuttavasti myös silloin, kun sen esittämää näyttöä ei ole olemassa. Jos jokainen väite ja lähde ei käy läpi alkuperäisiin asiakirjoihin perustuvaa tarkistusta, lopputulos voi näyttää asiantuntijatyöltä mutta hajota heti lähempää tarkasteltaessa .

KPMG ei ole ainoa tapaus

KPMG:n raportti sopii laajempaan sarjaan tapauksia, joissa tekoäly on tuottanut virheellisiä tai olemattomia lähdeviitteitä konsultointi- ja lakipalveluissa .

• Deloitte Australian valtiolle tekemä raportti jouduttiin julkaisemaan uudelleen, kun siitä löytyi olemattomia akateemisia lähteitä ja liittovaltion tuomioistuimen tuomiolle annettu keksitty sitaatti. Raportista maksetuksi hinnaksi on eri raporteissa ilmoitettu noin 290 000–440 000 dollaria, ja Deloitte palautti osan palkkiosta .
• Ernst & Youngin (EY) kanta-asiakaspetoksia käsitelleessä raportissa GPTZeron tutkinta löysi lähes yksinomaan rikkinäisiä tai väärennettyjä verkko-osoitteita. Yli puolet otsikoista ei vastannut todellisia lähteitä .
• Vastaavia ongelmia on noussut esiin myös suurten lakitoimistojen, kuten Sullivan & Cromwellin, oikeudellisissa asiakirjoissa .

Toistuvat tapaukset viittaavat järjestelmätason riskiin. Tekoäly voi nopeuttaa tiedonhakua ja tekstin tuottamista, mutta se ei korvaa lähteiden todentamista. Asiantuntijapalveluissa virheiden hinta ei rajoitu kirjoitusvirheisiin: seurauksena voi olla taloudellisia menetyksiä, mainehaittaa ja viranomaisten lisääntynyttä kiinnostusta.

KPMG:n tapaus kiteyttää olennaisen opetuksen: tekoälyavusteisessa työnkulussa viimeisen tarkistuksen täytyy olla todellinen, perusteellinen ja ihmisen tekemä.