구글 클라우드 COO "AI 보안은 태생부터"... 정작 자사 플랫폼은 '생짜' 요금 폭탄

2026년 5월 말, 구글 클라우드의 COO(최고운영책임자) 겸 보안 제품 총괄 사장인 프란시스 디 수자(Francis de Souza)는 LA에서 열린 한 행사에서 기업들의 AI 도입에 대한 명확한 메시지를 던졌다. 그는 "보안은 나중에 사후약방문식으로 덧붙일 수 있는 것이 아니다"라며, 보안, 거버넌스, 감사 기능이 처음부터 AI 플랫폼에 내재되어 있어야 한다고 강조했다 . 특히 디 수자 COO는 직원들이 조직의 통제 없이 개인용 AI 도구를 무분별하게 사용하는 '쉐도우 AI'의 위험성을 경고하며, 모델, 데이터 파이프라인, 프롬프트까지 공격 표면이 확장되고 있다고 지적했다 .

하지만, 그의 이 같은 연설이 있던 바로 그 주, 구글의 자체 제미나이(Gemini) API 플랫폼에서는 그가 경고한 바로 그 '사후약방문식' 보안의 참사가 동시다발적으로 보도됐다. AI 보안에 대한 거대 테크 기업의 수사(rhetoric)와 현실의 괴리를 적나라하게 보여주는 사건이었다. 테크크런치(TechCrunch)는 이 정확한 모순을 두고 "AI 보안은 모두가 실시간으로 헤쳐 나가는 중이다. 심지어 구글조차도"라고 평했다 .

1. 무단 API 사용으로 수천만 원 '생짜' 요금 폭탄

제미나이 API를 사용하는 여러 개발자들은 유출된 API 키가 불과 몇 분 만에 천문학적인 비용을 발생시켰다고 보고했다. 구글의 공식 개발자 포럼에서 한 사용자는 파이어베이스(Firebase)가 자동으로 생성한 안드로이드 API 키가 제미나이 API에 무단으로 사용되어 약 1,030만 원(약 $10,300) 상당의 피해를 입었다고 주장했다. 이 키는 파이어베이스 분석 서비스를 위한 식별자로만 사용될 예정이었으나, 프로젝트에서 생성형 언어 API가 활성화되자마자 유효한 제미나이 키로 둔갑한 것이다 . 또 다른 개발자는 2022년에 이미 유출됐던 클라이언트 측 키로 인해 약 600만 원($4,368)의 요금 폭탄을 맞았다고 전했다 .

가장 충격적인 사례는 구글의 자동 용량 업그레이드 기능이 발동하며 단 몇 분 만에 약 2,300만 원($17,000)의 과금이 발생한 경우다 . IT 전문 매체 더 레지스터(The Register)는 유출된 API 키로 인해 수천만 원대 AI 추론 비용이 발생한 여러 피해 사례를 상세히 보도하며, 구글이 해당 매체의 공식 문의가 있은 후에야 피해자들에게 환불 조치를 해줬다고 전했다 . 한 개발자는 더 레지스터와의 인터뷰에서 구글이 명시적인 동의 없이 과금 등급을 자동으로 올려버리는 정책에 대해 "뒤통수를 맞은 기분"이라고 토로했다 . 문제의 심각성은 단순한 일화에 그치지 않았다. 보고서들에 따르면, 기존에 소액만 과금되던 계정들이 수백 달러짜리 AI 모델로 인해 갑작스러운 사용량 급증을 겪었고, 이용자가 미리 설정한 예산 한도를 무시한 채 자동화 시스템이 지출 한도를 최대 1억 3천만 원($100,000)까지 끌어올리며 무단 사용을 방치했다 .

2. API 키를 삭제해도 계속 살아있다? 23분의 '유령 키' 취약점

API 키가 유출됐을 때 표준적인 보안 대응은 즉시 폐기(revoke)하는 것이다. 하지만 사용자가 구글 API 키를 삭제하면 모든 것이 안전하게 끝날까? 2026년 5월, 사이버 보안 회사 아이키도(Aikido)가 발표한 연구 결과는 충격 그 자체였다. 개발자가 유출된 구글 API 키를 삭제해도, 공격자는 삭제 명령 후 최대 23분 동안 해당 키로 정상 인증을 성공시킬 수 있었다 . 중간값(median)으로도 무려 16분 동안 키가 살아있었으며, 최대 관찰된 시간은 23분에 달했다 . 이는 키 삭제 작업이 구글의 방대한 글로벌 인프라 전체에 동시에 반영되는 것이 아니라, 단계적으로 전파되기 때문에 발생하는 현상이다 . 유료 API 호출을 마구잡이로 소비하는 자동화된 공격자 입장에서 23분은 막대한 금전적 피해를 입히기에 충분한 시간이다. 이는 과금 이벤트를 처리하는 모든 플랫폼이 가져야 할 기본 원칙, 즉 '보안 제어는 작동이 시작되면 즉시 효과를 발휘해야 한다'는 상식과 정면으로 배치되는 결과다.

3. 이용자 설정을 무시하는 자동 과금 등급 업그레이드

가장 구조적인 문제는 제미나이 API의 과금 체계 설계 자체에 있다. 이 시스템은 결제 이력을 기반으로 이용 등급(Tier)을 자동으로 올리는 방식으로 작동했다. 예를 들어, 1등급(Tier 1)은 월 250달러, 2등급(Tier 2)은 2,000달러가 한도지만, 3등급(Tier 3)으로 올라가면 월 한도가 2만 달러에서 10만 달러 이상으로 수직 상승한다 . 특히 2026년에는 자동 업그레이드를 위한 기준 금액이 낮아지면서, 더 많은 사용자가 예상치 못한 등급 상향의 위험에 노출됐다 .

결정적으로, 더 레지스터의 보도에 따르면 구글은 언론의 취재로 인해 일부 피해자에게 환불 조치를 취한 후에도, **“향후에도 사용자의 지출 한도를 자동으로 확대하는 정책을 고수할 것”**이라고 밝혔다 . 이용자는 자신의 월 지출 한도가 250달러라고 믿고 가입했지만, 공격자의 공격이 발생하는 순간 구글이 사용자 동의도 없이 한도를 수백 배나 높여버릴 수 있다는 의미다. 뒤늦은 대응책으로 구글은 2026년 3월, AI Studio 내에서 프로젝트별로 월 지출 한도를 설정할 수 있는 '프로젝트 지출 한도(Project Spend Caps)' 기능을 도입했다 . 하지만 이 임시방편에는 치명적인 맹점이 있다. 한도가 적용되기까지 약 10분의 지연 시간이 존재하며, 이 10분간 초과 발생한 비용은 고스란히 이용자의 책임이 되는 것이다 . 분당 수천 건의 API 호출을 처리하는 애플리케이션이라면 10분은 결코 무시할 수 없는 재정적 위험 노출 시간이다.

아이러니가 남긴 교훈: AI 보안의 '말'과 '현실'

디 수자 COO의 조언은 그 자체로는 매우 적절하고 시의적절하다. 하지만 아이러니하게도 구글의 자체 플랫폼이 보여준 현실은 이제 막 AI 보안의 개념을 정립해 나가는 기업들에게 생생한 반면교사이자 경고가 되고 있다. 이번 사태가 기업들에게 던지는 실질적인 교훈은 분명하다.

첫째, API 키 관리와 자격 증명에 대한 기본적인 위생 관리는 여전히 가장 중요한 기보다. 클라이언트 측 코드에 키를 박아두거나, 아무런 제한 없이 방치된 파이어베이스 같은 서비스의 키는 언젠가 반드시 공격자에게 발각되어 악용된다. 둘째, 과금 거버넌스를 보안의 영역으로 격상시켜야 한다. 10분의 시차가 있는 지출 한도나, 이용자의 의사를 무시하는 자동 업그레이드 기능은 실질적인 통제 수단이 될 수 없다. 마지막으로, 감사 및 가시성은 단순히 로그를 기록하는 데 그치는 것이 아니다. 자격 증명 폐기와 같은 핵심 보안 조치가 인프라 전반에 걸쳐 즉시, 그리고 완벽하게 적용될 수 있어야만 진정한 의미의 '감사 가능한 시스템'이라 할 수 있다.

디 수자 COO는 "보안 위협의 초기 침해부터 다음 공격 단계로 넘어가는 평균 시간이 단 22초로 단축되었다"고 경고했다 . 공격 표면이 모델, 데이터 파이프라인, 에이전트까지 확장된 지금, 실수를 용납할 수 있는 여유는 점점 줄어들고 있다. 23분짜리 API 키 폐기 지연, 혹은 공격이 진행되는 와중에 발동하는 자동 과금 등급 업그레이드는 단순한 기술적 불편이 아니라, 이용자에게 직접적인 금전적 피해를 입히는 명백한 보안 실패로 봐야 하는 이유다.