AI 전면 배치 시대, 통제권 없는 CIO들의 위험한 책임 공백

기업들이 앞다퉈 '에이전틱 AI(Agentic AI)'를 도입하기 위해 질주하는 가운데, 기술 리더들을 둘러싼 위험한 책임 공백이 드러나고 있다. IBM 기업가치연구소(IBV)가 옥스퍼드 이코노믹스와 함께 수행한 글로벌 연구는 CEO들이 전면적인 AI 혁신을 강하게 추진할수록, 이를 실행해야 하는 CIO와 CTO가 완전히 파악하거나 통제할 수 없는 시스템에 대해 점점 더 큰 책임을 떠안게 되는 냉엄한 현실을 보여준다 .

33개국, 19개 산업 분야의 고위 기술 임원 2,000명을 대상으로 한 '2026 CxO 연구'는 기업 AI 거버넌스의 구조적 위기를 핵심적으로 짚어낸다. AI가 그것을 통제하기 위해 설계된 기반 자체보다 더 빠르게 확장되고 있다는 긴장감이 골자다.

통제 공백: 보이지 않는 것에 대한 책임

IBM 연구 결과 중 가장 눈에 띄는 것은 모든 최고 경영진에게 보내는 경고와도 같다. 조사 대상 CIO와 CTO의 약 **67%**가 자신이 완전히 통제하지 못하는 AI 시스템에 대해 책임을 지고 있다고 답했다 . '책임은 있지만 권한은 없는' 이 문제는 **기술 리더의 70%**가 이제 현업 부서들이 중앙 IT가 추적할 수 있는 속도보다 훨씬 빠르게 기술을 배포하고 있다고 말하는 현실 때문에 더욱 심각해진다 . 한때 승인되지 않은 SaaS 도구의 골칫거리로 여겨졌던 '섀도 AI(Shadow AI)'는 이제 중대한 결정을 내리는 자율 에이전트를 포함하는, 훨씬 더 큰 위험을 수반한 거버넌스 위기로 진화했다.

CEO의 지시와 운영 현실의 충돌

최고 경영진의 압박은 실로 엄청나다. 응답자의 **80%**는 CEO가 AI 기반 혁신을 강력히 지시하고 있음을 확인했다 . 그러나 이러한 야심 찬 목표에 비해 조직의 준비 상태는 크게 뒤처져 있다. 충격적이게도 리더의 **77%**는 AI 도입 속도가 이미 거버넌스 역량을 앞질렀다고 답했으며 , 향후 1년 안에 예상되는 AI 에이전트 배포 규모에 완벽하게 대비했다고 느끼는 응답자는 단 **11%**에 불과했다 . 전략적 포부와 운영상 준비 사이의 격차가 그 어느 때보다 크게 벌어진 셈이다.

증가하는 AI 에이전트 사고의 대가

통제되지 않은 AI 배포의 위험은 더 이상 이론에 그치지 않는다. 조사 대상 조직들은 지난 한 해에만 평균 54건의 AI 에이전트 사고를 보고했는데, 이는 사람의 개입이 필요한 의도치 않았거나 유해한 사건으로 정의된다 . 이러한 사고로 인한 피해는 심각하고 다방면에 걸쳐 나타난다:

• 사고의 **17%**는 심각도가 높은 것으로 분류되었으며, 건당 수습에 4시간 이상이 소요되었다 .
• **37%**는 데이터 노출 또는 보안 침해를 초래했다 .
• **33%**는 하나의 잘못된 에이전트가 상호 연결된 시스템 전반에 연쇄 반응을 일으키는 '연쇄적 시스템 장애'를 촉발했다 .
• **17%**는 직접적인 규제 준수 문제를 야기했다 .

가시성 없는 지출 급증

기업들이 AI 역량 구축을 위해 경쟁하면서 지출은 극적으로 늘어날 전망이다. 전체 IT 예산에서 AI가 차지하는 비중은 2025년 15% 미만에서 **2027년까지 거의 25%**로 증가할 것으로 예측되며, 이는 불과 2년 만에 71% 증가하는 셈이다 . 그러나 많은 조직에서 이러한 급격한 재정적 성장은 어둠 속에서 이루어지고 있다. 연구에 따르면 기술 최고 책임자의 **84%**는 AI 재무 관리를 아직 완전히 가동하지 못했으며, **85%**는 실시간 AI 지출에 대한 완전한 가시성을 확보하지 못하고 있다 . AI를 위한 핀옵스(FinOps) 없이, 리더들은 재정적 위험이 치솟는 상황에서 사실상 눈이 가려진 채 비행하는 셈이다.

해결의 실마리: 설계 단계부터 제어 기능 내재화

IBM의 연구는 단순히 문제를 진단하는 데 그치지 않고, 문제를 해결했을 때의 효과까지 수치로 보여준다. 이 연구는 AI 시스템에 제어 기능을 직접 내장하는 접근 방식('설계에 의한 제어')과 속도를 따라잡지 못하는 전통적인 수동 거버넌스에 의존하는 방식, 이 두 가지 접근 방식 간의 성과 격차를 극명하게 드러낸다.

수동적 감독에 의존하는 조직과 비교했을 때, 거버넌스를 처음부터 시스템 구조에 설계한 조직은 극적으로 더 나은 성과를 거둔다 :

• 16배 더 많은 AI 에이전트 배포 .
• 18% 더 높은 영업 이익률 달성 .
• 전체 AI 예산 중 4배 더 적은 비용 지출 .
• 25% 더 적은 AI 사고 발생 .

이 데이터는 '강력한 거버넌스는 혁신의 걸림돌이 아니라, 안전하고 수익성 있는 확장을 가능하게 하는 엔진'이라는 중요한 사고방식의 전환을 강조한다. 이러한 결과를 뒷받침하는 추가 연구 결과도 있다. 강력한 재무 규율을 가진 조직은 IT 예산에서 AI가 차지하는 비중을 늘리지 않고도 2.4배 더 많은 AI 에이전트를 배포하며, 다가올 AI 규모에 완벽히 대비하고 있다고 응답할 가능성이 3배 더 높다 . 또한, 초기에 IT 기반을 적응성 있게 설계한 조직들은 2025년에 AI 투자 대비 10% 더 높은 수익률을 보고했다 .