La magnitud de la falsificación: el 89% de las citas eran defectuosas

El análisis de GPTZero sobre las 45 citas del informe reveló un fallo sistemático de verificación :

• Solo 5 citas apuntaban con precisión a fuentes reales y relevantes.
• 28 citas tenían títulos parafraseados o alterados, con componentes falsos injertados en publicaciones reales.
• 12 citas eran demasiado vagas o inconsistentes para rastrear hasta una fuente existente.
• Aproximadamente la mitad de las afirmaciones sustanciales del informe que se basaban en estas citas parecían ser falsas o estar mal atribuidas.

En total, el 89% de la bibliografía fue señalada como defectuosa. El análisis de detección de IA de GPTZero añadió otra capa preocupante, calificando el documento como 56% "mixto" , lo que sugiere que probablemente era contenido generado o muy asistido por IA que eludió una revisión humana significativa .

¿A quién se citó falsamente y qué afirmaba el informe?

La investigación identificó cuatro organizaciones prominentes citadas con casos de estudio inventados sobre la implementación de "IA agente" :

• UBS: El informe afirmaba que el banco estaba implementando IA agente para obtener información personalizada sobre gestión patrimonial, pero no existía ninguna fuente verificable.
• NHS Greater Manchester: Sostenía que el servicio de salud británico estaba utilizando orquestación de viajes de pacientes impulsada por IA, una afirmación no respaldada por documentación real.
• Transport for London (TfL): TfL fue citado como ejemplo de optimización de la experiencia del cliente en tiempo real impulsada por IA, pero la afirmación no pudo ser corroborada.
• Ferrocarriles Federales Suizos (SBB): El informe presentaba un caso de estudio de SBB utilizando IA agente para puntos de contacto integrados con el cliente, aunque no se pudo verificar ninguna iniciativa de este tipo en el material citado.

En cada caso, las citas apuntaban a informes inexistentes, títulos parafraseados de publicaciones reales no relacionadas o referencias tan vagas que eran funcionalmente inútiles .

La causa raíz: herramientas de IA descontroladas sin verificación

El análisis de GPTZero concluyó que los errores probablemente fueron el resultado de una herramienta de investigación de IA que cumplió en exceso con la instrucción de encontrar ejemplos del mundo real de "IA agente" . La herramienta generó casos de estudio y citas que sonaban plausibles pero eran completamente ficticios, que luego escaparon sin corrección del proceso de revisión de KPMG .

El incidente subraya una vulnerabilidad crítica: cuando la investigación generada por IA se publica sin una verificación humana rigurosa, puede producir contenido sin sentido que suena autoritario y que daña la credibilidad institucional .

Un patrón creciente de alucinaciones de IA en servicios profesionales

El informe retirado de KPMG no es un caso aislado. Se inscribe en un patrón creciente de fallos de citas relacionados con la IA en las principales firmas de consultoría y jurídicas :

• Deloitte Australia tuvo que reeditar un informe gubernamental de 440.000 dólares después de que se descubriera que contenía referencias académicas ficticias y una cita fabricada de una sentencia judicial federal . La firma emitió un reembolso parcial y se enfrentó al escrutinio público por lo que un observador calificó como un informe "plagado de errores de citación" .
• Ernst & Young (EY) produjo un informe sobre fraude de lealtad donde la investigación de GPTZero encontró que casi todas las URL estaban rotas o eran falsas, y más de la mitad de los títulos no se correspondían con fuentes reales .
• Problemas similares han surgido en presentaciones legales que involucran a firmas importantes como Sullivan & Cromwell .

Estos fallos repetidos ponen de relieve un riesgo sistémico: sin una supervisión humana rigurosa, las herramientas de investigación de IA están produciendo evidencia que parece creíble pero se desvanece bajo escrutinio. Para una industria que vende confianza y experiencia, el costo de equivocarse se mide en dólares, reputación y atención regulatoria. El caso de KPMG sirve como una advertencia clara de que la "verificación" en un flujo de trabajo asistido por IA debe ser real, exhaustiva y humana.

La magnitud de la falsificación: el 89% de las citas eran defectuosas

El análisis de GPTZero sobre las 45 citas del informe reveló un fallo sistemático de verificación :

• Solo 5 citas apuntaban con precisión a fuentes reales y relevantes.
• 28 citas tenían títulos parafraseados o alterados, con componentes falsos injertados en publicaciones reales.
• 12 citas eran demasiado vagas o inconsistentes para rastrear hasta una fuente existente.
• Aproximadamente la mitad de las afirmaciones sustanciales del informe que se basaban en estas citas parecían ser falsas o estar mal atribuidas.

En total, el 89% de la bibliografía fue señalada como defectuosa. El análisis de detección de IA de GPTZero añadió otra capa preocupante, calificando el documento como 56% "mixto" , lo que sugiere que probablemente era contenido generado o muy asistido por IA que eludió una revisión humana significativa .

¿A quién se citó falsamente y qué afirmaba el informe?

La investigación identificó cuatro organizaciones prominentes citadas con casos de estudio inventados sobre la implementación de "IA agente" :

• UBS: El informe afirmaba que el banco estaba implementando IA agente para obtener información personalizada sobre gestión patrimonial, pero no existía ninguna fuente verificable.
• NHS Greater Manchester: Sostenía que el servicio de salud británico estaba utilizando orquestación de viajes de pacientes impulsada por IA, una afirmación no respaldada por documentación real.
• Transport for London (TfL): TfL fue citado como ejemplo de optimización de la experiencia del cliente en tiempo real impulsada por IA, pero la afirmación no pudo ser corroborada.
• Ferrocarriles Federales Suizos (SBB): El informe presentaba un caso de estudio de SBB utilizando IA agente para puntos de contacto integrados con el cliente, aunque no se pudo verificar ninguna iniciativa de este tipo en el material citado.

En cada caso, las citas apuntaban a informes inexistentes, títulos parafraseados de publicaciones reales no relacionadas o referencias tan vagas que eran funcionalmente inútiles .

La causa raíz: herramientas de IA descontroladas sin verificación

El análisis de GPTZero concluyó que los errores probablemente fueron el resultado de una herramienta de investigación de IA que cumplió en exceso con la instrucción de encontrar ejemplos del mundo real de "IA agente" . La herramienta generó casos de estudio y citas que sonaban plausibles pero eran completamente ficticios, que luego escaparon sin corrección del proceso de revisión de KPMG .

El incidente subraya una vulnerabilidad crítica: cuando la investigación generada por IA se publica sin una verificación humana rigurosa, puede producir contenido sin sentido que suena autoritario y que daña la credibilidad institucional .

Un patrón creciente de alucinaciones de IA en servicios profesionales

El informe retirado de KPMG no es un caso aislado. Se inscribe en un patrón creciente de fallos de citas relacionados con la IA en las principales firmas de consultoría y jurídicas :

• Deloitte Australia tuvo que reeditar un informe gubernamental de 440.000 dólares después de que se descubriera que contenía referencias académicas ficticias y una cita fabricada de una sentencia judicial federal . La firma emitió un reembolso parcial y se enfrentó al escrutinio público por lo que un observador calificó como un informe "plagado de errores de citación" .
• Ernst & Young (EY) produjo un informe sobre fraude de lealtad donde la investigación de GPTZero encontró que casi todas las URL estaban rotas o eran falsas, y más de la mitad de los títulos no se correspondían con fuentes reales .
• Problemas similares han surgido en presentaciones legales que involucran a firmas importantes como Sullivan & Cromwell .

Estos fallos repetidos ponen de relieve un riesgo sistémico: sin una supervisión humana rigurosa, las herramientas de investigación de IA están produciendo evidencia que parece creíble pero se desvanece bajo escrutinio. Para una industria que vende confianza y experiencia, el costo de equivocarse se mide en dólares, reputación y atención regulatoria. El caso de KPMG sirve como una advertencia clara de que la "verificación" en un flujo de trabajo asistido por IA debe ser real, exhaustiva y humana.