AI가 쓴 AI 성공 사례: KPMG 보고서 철회가 남긴 교훈

문제는 AI 탐지 전문 연구 기업인 GPTZero가 보고서에 포함된 45개의 인용문을 분석하면서 시작되었다. 그 결과는 충격적이었다 :

• 정확한 인용문은 단 5건(약 11%) 뿐으로, 의도된 원본 출처를 제대로 가리키고 있었다.
• 28건의 인용문은 완전히 조작된 내용이거나 실제 존재하지 않는 출처를 변형한 제목을 포함하고 있었다.
• 12건의 인용문은 너무 모호하거나 결함이 있어 GPTZero가 출처의 존재 여부조차 판단할 수 없었다.
• 45개 인용문이 뒷받침하는 사실적 주장 중 약 절반이 거짓이거나 잘못 표기된 것으로 밝혀졌다.

가장 눈에 띄는 사례는 동일본 여객철도(JR 동일본)가 에이전틱 AI를 고객 지원에 활용했다는 주장이었다. 그런데 해당 인용문은 에이전틱 AI라는 용어가 널리 알려지기 훨씬 전인 2019년 보도 자료를 출처로 달고 있었다 . 또 다른 오류로, 보고서는 CEO의 55%가 AI를 최우선 투자 대상으로 꼽는다고 주장했지만, 이는 KPMG가 자체적으로 공개한 CEO 설문 조사 데이터와 모순되는 수치였다 .

사실이 아니라고 반박한 조직들

파이낸셜 타임스가 KPMG 보고서의 주장을 독자적으로 검증했을 때, 여러 유수 조직이 보고서에 묘사된 AI 사용 내역을 부인하거나 부정확하다고 확인했다. 다음은 보도에 따라 보고서의 주장을 반박한 조직들이다 :

• UBS – 스위스 은행 UBS가 투자 자문, 리스크 관리, 컴플라이언스 모니터링 전반에 AI 에이전트를 배치했다는 보고서의 주장에 대해 UBS는 "사실과 다르다"며 전면 부인했다 .
• 영국 국가보건서비스(NHS) – 보고서는 NHS 조직이 대규모 에이전틱 AI를 도입한 것처럼 연결 지었으나, 외부 검증 과정에서 해당 내용이 사실이 아닌 것으로 드러났다 .
• 스위스 연방 철도(SBB) – 보고서는 SBB가 AI 에이전트로 구동되는 '총체적 모빌리티 오케스트레이터'로 변모했다고 주장했으나, SBB는 이 설명이 "정확하지 않다"고 밝혔다 .
• 런던교통공사(TfL) – TfL 또한 논란이 된 사례 연구에 이름이 오른 대중교통 기관 중 하나였다 .

이러한 반박이 이어지자 KPMG는 해당 의혹에 대한 자체 조사에 착수하며 보고서를 공식 배포 목록에서 제외했다 .

GPTZero의 진단: 단순한 편집 실수가 아닌 AI 환각

GPTZero는 이번 오류를 단순한 편집 실수로 보지 않았다. 광범위한 거짓 인용문과 조작된 사례 연구의 원인을 'AI 환각', 즉 생성형 AI 모델이 그럴듯해 보이지만 사실과 다르거나 완전히 날조된 정보를 내놓는 현상으로 규정했다 .

또한 GPTZero는 이번 사태의 배경을 설명하기 위해 "분위기 인용(Vibe Citing)" 이라는 신조어를 도입했다. 이는 특정 주장을 뒷받침하라는 지시를 받은 AI 도구가 실제 출처가 아닌, '그럴싸하게 느껴지는' 인용문을 생성해 내는 현상을 의미한다 . KPMG의 사례에서는 학술적으로 엄밀해 보이거나 저널리즘 차원에서 신뢰성 있어 보이지만 실제로는 존재하지 않는 참고 문헌들이 대거 생성된 것이다.

GPTZero의 조사는 이 보고서가 AI의 도움을 많이 받았지만 적절한 사람의 검증을 거치지 않았을 가능성이 높다고 결론지었다. 환각으로 생성된 각주, 잘못 표기된 통계, 존재하지 않는 사례 연구 등은 AI가 생성한 결과물이 최소한의 감독만 거친 채 그대로 발간되는 연구 프로세스의 위험성을 여실히 보여줬다 .

더 큰 패턴: 한 달 전 발생한 EY 캐나다의 보고서 철회

KPMG 사건은 진공 상태에서 일어난 게 아니다. 2026년 5월, KPMG 보고서가 정밀 조사를 받기 몇 주 전, EY 캐나다는 GPTZero로부터 사이버 보안 연구 보고서 "공격 지점: 로열티 시스템의 사이버 위협과 사기 적발" 에 광범위한 AI 환각 문제가 있음을 지적받고 이를 철회했다 .

EY 보고서는 총 27개의 참고 문헌 중 16개(약 60%)가 조작된 것으로 밝혀졌다. 여기에는 실존하지 않는 맥킨지앤컴퍼니의 '로열티 경제학 보고서'라는 문서를 인용한 것도 포함되어 있었다 . GPTZero는 또한 해당 보고서 내용의 72%가 AI에 의해 생성된 것으로 추정했다 .

EY 캐나다는 웹사이트에서 해당 보고서를 삭제했으며, 보고서 발간 경위에 대한 조사에 착수했다고 발표했다 . KPMG 사례와 마찬가지로, 이 철회 사건은 세계적인 전문 서비스 기업이 명백한 허위 정보가 포함된 마케팅 자료를 검토 과정에서 걸러내지 못하고 그대로 발행했다는 심각한 의문을 제기했다.

두 사건은 빅4 회계·컨설팅 법인의 구조적 취약성을 적나라하게 드러냈다. AI라는 주제에 대한 통찰력 있는 보고서(Thought Leadership)를 발간하기 위해 경쟁하는 과정에서, 기업들이 자신들이 다루는 바로 그 도구(AI)에 점점 더 의존하게 되었고, 이는 때로 부끄럽고 평판에 치명적인 결과로 이어지고 있다 .

이것이 전문 서비스와 AI 기반 연구에 시사하는 바

2026년 EY와 KPMG에서 잇따라 발생한 보고서 철회 사태는 단순한 PR 문제를 넘어선다. 신뢰가 곧 경쟁력인 모든 지식 집약적 산업에 대한 중대한 경고다.

전문 서비스 기업들은 수년간 고객들에게 "AI를 책임감 있게 도입하라"고 조언해 왔다 . 그런데 바로 그 기업들이 AI에 대해 쓴 보고서조차 AI 환각으로 가득한 상태로 발행하다가 적발되는 이 모순은, 이들이 '신뢰받는 조언자'로서의 권위 자체를 뒤흔든다. KPMG의 이 보고서는 내부 초안이나 가벼운 블로그 글이 아니었다. 이는 고객 경험과 신기술 분야에서 KPMG의 전문성을 입증하기 위해 기획된 연례 글로벌 대표 보고서였다 .

이번 사건은 점점 커지는 비대칭성을 부각한다. 생성형 AI는 세련되고 인용문이 풍부한 연구 보고서를 몇 분 만에 생산할 수 있지만, 모든 주장을 검증하고 각주 하나하나를 원본 출처까지 추적하는 일은 여전히 숙련된 사람의 노동에 오랜 시간을 의존해야 한다는 점이다. GPTZero가 두 사건 모두에서 보여준 방법론, 즉 모든 인용문을 원본 출처와 수작업으로 직접 대조하는 과정은 이 검증의 간극에서 치명적인 오류가 발생한다는 사실을 증명했다 .

2026년과 그 이후에 연구 자료를 발간하는 조직들이 얻어야 할 교훈은 명백하다. AI는 초안 작성을 가속화할 수 있지만, 사실 검증을 대체할 수는 없다. 존재하지도 않는 출처를 인용하다 적발된 보고서의 명성 하락 비용은, 사실 확인 절차를 건너뛰어 아낀 시간보다 훨씬 크다.