AI 토큰 가격 급락, 인프라 투자에는 왜 경고등이 켜졌나

AI 추론 비용은 빠르게 낮아지고 있다. 이는 더 많은 기업과 개발자가 AI 모델을 활용하게 만드는 호재일 수 있다. 하지만 반도체, 클라우드, 데이터센터처럼 이를 뒷받침하는 설비에 투자하는 입장에서는 계산이 복잡해진다.

골드만삭스의 경고는 간단히 말해 투자 시점과 가격 하락 속도의 불일치에 관한 것이다. 인프라는 수년을 내다보고 먼저 지어야 하지만, 모델 사용료인 토큰 가격은 경쟁과 기술 효율화로 빠르게 떨어질 수 있다. 보도에 따르면 실리콘데이터의 LLM 토큰 지출 지수는 8월에 29% 하락한 뒤 최근 100만 토큰당 0.97달러를 기록했다. 또 다른 프런티어 모델 가격 지수는 2023년 3월 기준치보다 84% 낮아졌다. 245

이 가격 하락을 사용량 증가가 충분히 상쇄하지 못한다면, 낮은 매출의 추론 워크로드를 두고 비싼 컴퓨팅 설비가 과도하게 경쟁하는 상황이 생길 수 있다.

핵심은 ‘가격 하락’보다 사용량 증가 속도

토큰 가격 하락 자체가 악재는 아니다. 가격이 낮아지면 AI가 더 많은 업무에서 실용적인 선택지가 되고, 실험과 신규 서비스 도입도 늘 수 있다. 문제는 공급자가 받는 토큰당 수익 감소보다 유료 사용량 증가와 자체 비용 절감이 더 빠르냐는 데 있다.

보도된 골드만삭스의 문제 제기는 독점형 모델 간 가격 경쟁이 토큰당 수익화의 지속 가능성을 낮추고, 컴퓨팅 소비가 충분히 늘지 않을 경우 결국 인프라 과잉으로 이어질 수 있다는 것이다. 12

정리하면 다음과 같다.

• 이용자에게는 저렴한 AI가 긍정적이다. 더 낮은 비용으로 유용한 서비스를 쓸 수 있기 때문이다.
• 설비 보유자에게는 부담이 될 수 있다. 컴퓨팅이 희소하고 고가일 것이라는 전제 아래 투자했다면 특히 그렇다.
• 결국 수요 탄력성이 관건이다. 가격 인하가 총매출과 컴퓨팅 수요를 유지하거나 키울 만큼 사용량을 늘리는지가 중요하다.

2026~2031년 7조6000억 달러 규모가 걸린 문제

이 논쟁이 중요한 이유는 AI 인프라 증설 규모가 매우 크기 때문이다. 골드만삭스의 기본 시나리오는 2026~2031년 컴퓨팅, 데이터센터, 전력을 합친 AI 자본투자가 약 7조6000억 달러에 이를 것으로 본다. 연간 지출은 2026년 약 7650억 달러에서 2031년 1조6000억 달러로 늘어난다는 계산이다. 다만 골드만삭스는 이 수치가 여러 가정에 민감한 추정치이지 확정 전망은 아니라고 명시했다. 9

이 자금의 상당 부분은 AI 가속기, 서버, 네트워크, 건물, 전력 설비처럼 오래 사용하는 자산에 들어간다. 따라서 장기간에 걸친 안정적인 워크로드와 적정 수익률이 뒷받침돼야 한다.

반도체 기업: 납품보다 ‘실제 가동’이 중요해진다

반도체 공급사에 위험이 즉시 수요 붕괴로 나타나는 것은 아닐 수 있다. 고객사는 새 AI 제품을 준비하거나 공급망을 확보하기 위해 당분간 설비를 계속 구축할 수 있다.

하지만 설치된 용량이 수익성 있는 수요를 앞지르기 시작하면 상황이 달라진다. 고객사는 가속기와 서버 구매를 늦추고, 가격에 더 민감해지며, 같은 비용으로 더 높은 성능을 요구할 수 있다. 하드웨어 차별성, 강한 소프트웨어 생태계, 효율적인 추론 역량을 갖춘 기업은 상대적으로 방어력이 있을 수 있다.

투자자가 던져야 할 질문은 장비가 출하됐는지가 아니다. 그 장비가 실제로 가동돼 매출을 만드는 워크로드에 쓰이고 있는가다.

데이터센터: 가동률과 계약의 시험대

데이터센터는 토지, 전력, 건물에 장기간 대규모 자금을 묶는 사업이다. 추론이 더 저렴해지거나 모델 효율이 높아지면, 같은 수준의 서비스 결과물을 내는 데 필요한 인프라가 줄어들 수 있다. 지속적인 설비 부족을 전제로 한 프로젝트라면 입주율, 임대 조건, 투자수익률에 압박이 생길 수 있다.

그렇다고 데이터센터 수요가 사라진다는 뜻은 아니다. 전력 확보와 AI 배치의 기술적 요건은 여전히 공급 제약으로 작용할 수 있다. 다만 특정 지역의 전력 부족과 다른 지역의 낮은 수익성은 동시에 존재할 수 있다. 물리적 희소성과 고객의 수익성 있는 실제 사용, 계약 갱신·증액 여부를 구분해서 봐야 한다.

클라우드와 모델 사업자: 가격 대신 물량·효율·부가가치로 승부

클라우드 플랫폼과 모델 호스팅 사업자는 추론 단가 하락의 수혜자일 수 있다. AI가 저렴해지면 개발자와 기업 고객의 유입이 늘 수 있기 때문이다. 반면 사용 단위당 매출은 줄어든다.

매출총이익을 지키려면 보통 세 가지가 필요하다.

1. 반복적인 프로덕션 사용에 따른 큰 폭의 토큰 물량 증가
2. 판매 가격보다 더 빠른 비용 절감
3. 배포, 보안, 데이터 통합, 업무 도구 등 고부가 서비스 확대

골드만삭스 관련 보도가 지목한 위험의 핵심에는 독점형 모델의 경쟁적 가격 책정이 있다. 12 중요한 것은 명목 토큰 가격 하나가 아니라 고객 가격, 공급자 비용, 전체 유료 사용량의 관계다.

에이전틱 AI가 상방을 만들 수 있다

낙관론의 핵심은 에이전틱 AI다. 단순 질의응답 챗봇과 달리 여러 단계의 작업을 수행하는 AI 에이전트는 훨씬 많은 토큰을 소비할 수 있다. 골드만삭스 리서치는 소비자와 기업의 AI 에이전트 채택이 확대되면서 2026~2030년 월간 토큰 소비가 24배 증가해 약 120경 토큰에 이를 것으로 전망했다. 7

이 전망은 토큰 단가 하락이 곧 컴퓨팅 수요 감소를 뜻하지는 않는다는 점을 보여준다. 에이전트가 시연용 기능을 넘어 빈번하고 가치 있는 업무를 수행한다면, 전체 사용량이 인프라 증설을 뒷받침할 만큼 커질 수 있다.

다만 이는 전망일 뿐 보장은 아니다. 인프라 투자 논리가 성립하려면 값싼 실험성 질의가 늘어나는 데 그치지 않고, 사용자와 기업이 비용을 지불하는 반복적 업무가 만들어져야 한다.

투자자가 볼 지표

컴퓨팅 공급 과잉 가능성을 점검할 때는 다음 지표를 함께 볼 필요가 있다.

• AI 매출 증가율과 토큰 가격 하락 폭: 단가가 떨어져도 전체 수익화는 커지고 있는가
• 가속기·서버 주문과 실제 배치의 차이: 구매한 설비가 실제 업무에 투입되고 있는가
• 데이터센터 가동률, 계약 용량, 갱신률: 센터 개장 뒤에도 수요 약정이 견고한가
• 클라우드 매출총이익률: 효율 개선과 고부가 서비스가 낮은 추론 단가를 상쇄하는가
• 프로덕션 환경의 AI 에이전트 채택: 일회성 시험이 아니라 핵심 업무의 반복 수요를 만들고 있는가
• 전력 확보 상황: 실제 유효 수요를 제약하는 장기 제약인지, 수요보다 앞선 병목인지

결론

골드만삭스의 경고는 LLM 토큰 가격 하락이 본질적으로 나쁘다는 뜻이 아니다. 오히려 저렴한 추론은 AI 확산을 여는 계기가 될 수 있다. 위험은 가격 하락과 모델 효율 향상이 에이전트 기반 사용량 증가보다 더 빨리 매출과 필요한 컴퓨팅 규모를 낮추는 경우다.

AI 인프라 투자 관점에서 이야기는 단순한 설비 증설이 아니라 가동률과 수익화의 검증으로 바뀐다. 더 싼 토큰을 지속적이고 고가치인 업무로 전환하면서 비용, 성능, 서비스 깊이에서 우위를 유지하는 기업이 상대적으로 강할 가능성이 크다. 17