• 명확한 ROI 모델 없는 비용 급증 — AI 인프라 비용(컴퓨팅, API, 통합, 지속적 유지보수 및 인간 감독)은 상당하며 종종 통제 불능으로 치닫습니다. CIO의 90%가 이미 AI 비용 때문에 가치 극대화 능력이 제한되고 있다고 보고했습니다 .
• 불분명한 비즈니스 가치 — 많은 프로젝트가 개념 증명(PoC) 단계 이후에 중단되는데, 조직이 최종 수익에 미치는 측정 가능한 영향을 입증하지 못하기 때문입니다 .
• 낮은 데이터 품질과 부적절한 위험 통제 — 취약한 거버넌스, 데이터 문제, 불충분한 위험 관리가 프로젝트를 붕괴시킵니다 . Gartner는 2026년까지 AI 지원이 불가능한 데이터로 수행되는 AI 프로젝트의 60%가 중단될 것이라고 예측합니다 .
• "에이전트 워싱"과 사용 사례 표류 — 조직이 체계적인 비즈니스 사례 없이 AI 자체를 위해 AI를 추구하다 실패합니다. Gartner의 수석 애널리스트 Anushree Verma는 많은 벤더가 의미 있는 성과를 제공하지 못하면서 기존 챗봇을 AI 에이전트로 리브랜딩하고 있다고 지적합니다 .

이러한 발견은 Gartner의 별도 2026년 4월 추정치와도 일치하는데, IT 인프라 및 운영 관리자의 57%가 최소 하나의 AI 프로젝트 실패를 경험했으며, 해당 분야에서 AI 프로젝트 5개 중 1개는 완전히 붕괴한다고 밝혔습니다 .

지출-ROI 괴리: 다양한 출처의 증거

여러 주요 기관이 막대한 AI 투자와 측정 가능한 비즈니스 성과 사이의 증가하는 괴리를 뒷받침하고 있습니다:

Goldman Sachs (2026년 8월): 전략가 Ben Snider는 AI 지출이 급격히 증가하고 있지만, 대부분의 기업에서 기술이 실질적인 수익 개선을 아직 창출하지 못했다고 보고합니다. S&P 500 기업 중 단 2%만이 AI가 자사 수익에 미친 영향을 수치화했으며, 대부분은 즉각적인 이점이 거의 또는 전혀 없다고 보고합니다 . 애널리스트 Jessica Rindels는 2026년 미국 AI 투자 총액이 거의 6000억 달러(GDP의 약 2%에 해당) 에 달할 것으로 추정하지만, 이에 상응하는 경제적 이익에 대한 증거는 여전히 희박합니다 .

Goldman Sachs (2026년 5월): 애널리스트 Jim Covello는 대부분의 기업이 아직 AI 지출에서 어떤 수익도 창출하지 못했다고 지적하며, MIT 연구에 따르면 기업 AI 파일럿의 95%가 측정 가능한 손익(P&L) 영향을 창출하지 못했습니다 . Covello는 AI의 경제성이 "2년 전보다 오늘날 더 의문스럽다"고 주장합니다 .

Goldman Sachs (2026년 7월): 경제학자 Jan Hatzius와 애널리스트 David Peng은 AI 도입과 그 생산성 효과가 시장의 기대보다 훨씬 더 오래 걸릴 수 있다는 현실 점검을 제공합니다. 그들의 분석에 따르면 생산성 영향은 J-커브를 따릅니다: 처음 4년 동안은 완만한 마이너스 효과, 8년 후에야 통계적으로 유의미한 이득이 나타나며, 12년 차에 약 0.6% 포인트의 최대 영향을 미칩니다. ChatGPT의 2022년 출시를 PC의 1981년 데뷔와 비교한다면, 그 성과는 아직 몇 년 더 남았습니다 .

McKinsey (2026년): 기업 AI 도입 사례 중 20% 미만만이 측정 가능한 비즈니스 영향을 보여주고 있습니다 .

Sequoia Capital: AI 투자와 AI 수익 사이에 약 6000억 달러의 매출 격차가 존재한다고 지적했습니다 .

하이퍼스케일러 현금흐름 위험: Goldman Sachs는 아마존, 알파벳/구글, 마이크로소프트, 메타 등 4대 클라우드 공급업체가 AI 인프라에 총 운영 현금흐름을 초과하는 지출을 할 예정이며, 이를 정당화할 입증된 기업 ROI가 없다고 경고합니다 . 이 4개사의 2026년 예상 합계 자본 지출(CAPEX)은 약 6500억 달러에 달합니다 .

프로젝트 실패 이유: 기술 때문이 아니다

모든 주요 분석에서 일관되게 발견되는 점은 AI 프로젝트 실패는 조직적, 전략적 문제이지 기술적 문제가 아니라는 것입니다. AI 모델 자체가 실패하는 경우는 거의 없지만, 비즈니스 사례, 데이터 기반 및 비용 통제가 실패합니다.

Gartner는 예측을 이끄는 세 가지 주요 실패 유형을 식별합니다: 명확한 ROI 모델 없이 비용이 급증하는 점, 불분명한 비즈니스 가치, 부적절한 위험 통제입니다 . 한 Gartner 애널리스트는 "현재 대부분의 에이전틱 AI 프로젝트는 초기 단계 실험이거나 개념 증명 수준에 불과하며, 대부분 과대광고에 의해 주도되고 종종 잘못 적용됩니다"라고 말했습니다 .

그 결과는 이미 가시화되고 있습니다. Gartner는 전담 AI 재무 관리 관행이 부족한 조직의 경우 2028년까지 AI 이니셔티브의 70%가 통제되지 않은 비용 폭발과 가치 이탈로 인해 중단될 것이라고 예측합니다 .

기업 리더에게 주는 의미

Gartner, Goldman Sachs, McKinsey, MIT, Sequoia에 걸친 패턴은 일관됩니다. AI 지출은 사상 최고치이지만, 압도적 다수의 조직은 아직 그 지출에서 측정 가능하고 최종 수익에 영향을 주는 수익을 입증하지 못하고 있습니다. 다수는 이미 발을 빼고 있거나 파일럿 단계를 넘기지 못하고 있습니다.

AI에 투자하는 조직을 위해 연구는 명확한 방향을 제시합니다: 측정 가능한 비용 또는 품질 영향을 미치는 특정 운영 병목 현상을 식별하고, 해당 특정 문제를 위한 AI 솔루션을 구축하며, 도입 전후의 영향을 엄격하게 측정하고, 효과적인 것만 확장하라는 것입니다 . 첫날부터 명확한 ROI 지표를 설정하지 못한 프로젝트는 다가올 재평가에서 살아남지 못할 가능성이 높습니다.

• 명확한 ROI 모델 없는 비용 급증 — AI 인프라 비용(컴퓨팅, API, 통합, 지속적 유지보수 및 인간 감독)은 상당하며 종종 통제 불능으로 치닫습니다. CIO의 90%가 이미 AI 비용 때문에 가치 극대화 능력이 제한되고 있다고 보고했습니다 .
• 불분명한 비즈니스 가치 — 많은 프로젝트가 개념 증명(PoC) 단계 이후에 중단되는데, 조직이 최종 수익에 미치는 측정 가능한 영향을 입증하지 못하기 때문입니다 .
• 낮은 데이터 품질과 부적절한 위험 통제 — 취약한 거버넌스, 데이터 문제, 불충분한 위험 관리가 프로젝트를 붕괴시킵니다 . Gartner는 2026년까지 AI 지원이 불가능한 데이터로 수행되는 AI 프로젝트의 60%가 중단될 것이라고 예측합니다 .
• "에이전트 워싱"과 사용 사례 표류 — 조직이 체계적인 비즈니스 사례 없이 AI 자체를 위해 AI를 추구하다 실패합니다. Gartner의 수석 애널리스트 Anushree Verma는 많은 벤더가 의미 있는 성과를 제공하지 못하면서 기존 챗봇을 AI 에이전트로 리브랜딩하고 있다고 지적합니다 .

이러한 발견은 Gartner의 별도 2026년 4월 추정치와도 일치하는데, IT 인프라 및 운영 관리자의 57%가 최소 하나의 AI 프로젝트 실패를 경험했으며, 해당 분야에서 AI 프로젝트 5개 중 1개는 완전히 붕괴한다고 밝혔습니다 .

지출-ROI 괴리: 다양한 출처의 증거

여러 주요 기관이 막대한 AI 투자와 측정 가능한 비즈니스 성과 사이의 증가하는 괴리를 뒷받침하고 있습니다:

Goldman Sachs (2026년 8월): 전략가 Ben Snider는 AI 지출이 급격히 증가하고 있지만, 대부분의 기업에서 기술이 실질적인 수익 개선을 아직 창출하지 못했다고 보고합니다. S&P 500 기업 중 단 2%만이 AI가 자사 수익에 미친 영향을 수치화했으며, 대부분은 즉각적인 이점이 거의 또는 전혀 없다고 보고합니다 . 애널리스트 Jessica Rindels는 2026년 미국 AI 투자 총액이 거의 6000억 달러(GDP의 약 2%에 해당) 에 달할 것으로 추정하지만, 이에 상응하는 경제적 이익에 대한 증거는 여전히 희박합니다 .

Goldman Sachs (2026년 5월): 애널리스트 Jim Covello는 대부분의 기업이 아직 AI 지출에서 어떤 수익도 창출하지 못했다고 지적하며, MIT 연구에 따르면 기업 AI 파일럿의 95%가 측정 가능한 손익(P&L) 영향을 창출하지 못했습니다 . Covello는 AI의 경제성이 "2년 전보다 오늘날 더 의문스럽다"고 주장합니다 .

Goldman Sachs (2026년 7월): 경제학자 Jan Hatzius와 애널리스트 David Peng은 AI 도입과 그 생산성 효과가 시장의 기대보다 훨씬 더 오래 걸릴 수 있다는 현실 점검을 제공합니다. 그들의 분석에 따르면 생산성 영향은 J-커브를 따릅니다: 처음 4년 동안은 완만한 마이너스 효과, 8년 후에야 통계적으로 유의미한 이득이 나타나며, 12년 차에 약 0.6% 포인트의 최대 영향을 미칩니다. ChatGPT의 2022년 출시를 PC의 1981년 데뷔와 비교한다면, 그 성과는 아직 몇 년 더 남았습니다 .

McKinsey (2026년): 기업 AI 도입 사례 중 20% 미만만이 측정 가능한 비즈니스 영향을 보여주고 있습니다 .

Sequoia Capital: AI 투자와 AI 수익 사이에 약 6000억 달러의 매출 격차가 존재한다고 지적했습니다 .

하이퍼스케일러 현금흐름 위험: Goldman Sachs는 아마존, 알파벳/구글, 마이크로소프트, 메타 등 4대 클라우드 공급업체가 AI 인프라에 총 운영 현금흐름을 초과하는 지출을 할 예정이며, 이를 정당화할 입증된 기업 ROI가 없다고 경고합니다 . 이 4개사의 2026년 예상 합계 자본 지출(CAPEX)은 약 6500억 달러에 달합니다 .

프로젝트 실패 이유: 기술 때문이 아니다

모든 주요 분석에서 일관되게 발견되는 점은 AI 프로젝트 실패는 조직적, 전략적 문제이지 기술적 문제가 아니라는 것입니다. AI 모델 자체가 실패하는 경우는 거의 없지만, 비즈니스 사례, 데이터 기반 및 비용 통제가 실패합니다.

Gartner는 예측을 이끄는 세 가지 주요 실패 유형을 식별합니다: 명확한 ROI 모델 없이 비용이 급증하는 점, 불분명한 비즈니스 가치, 부적절한 위험 통제입니다 . 한 Gartner 애널리스트는 "현재 대부분의 에이전틱 AI 프로젝트는 초기 단계 실험이거나 개념 증명 수준에 불과하며, 대부분 과대광고에 의해 주도되고 종종 잘못 적용됩니다"라고 말했습니다 .

그 결과는 이미 가시화되고 있습니다. Gartner는 전담 AI 재무 관리 관행이 부족한 조직의 경우 2028년까지 AI 이니셔티브의 70%가 통제되지 않은 비용 폭발과 가치 이탈로 인해 중단될 것이라고 예측합니다 .

기업 리더에게 주는 의미

Gartner, Goldman Sachs, McKinsey, MIT, Sequoia에 걸친 패턴은 일관됩니다. AI 지출은 사상 최고치이지만, 압도적 다수의 조직은 아직 그 지출에서 측정 가능하고 최종 수익에 영향을 주는 수익을 입증하지 못하고 있습니다. 다수는 이미 발을 빼고 있거나 파일럿 단계를 넘기지 못하고 있습니다.

AI에 투자하는 조직을 위해 연구는 명확한 방향을 제시합니다: 측정 가능한 비용 또는 품질 영향을 미치는 특정 운영 병목 현상을 식별하고, 해당 특정 문제를 위한 AI 솔루션을 구축하며, 도입 전후의 영향을 엄격하게 측정하고, 효과적인 것만 확장하라는 것입니다 . 첫날부터 명확한 ROI 지표를 설정하지 못한 프로젝트는 다가올 재평가에서 살아남지 못할 가능성이 높습니다.