AI 시장이 서로 반대 방향으로 움직이고 있다. 첨단 모델을 사용하는 가격은 빠르게 떨어지고 있다. 무료 모델 ‘Ox Alpha’가 최첨단 모델에 가까운 성능으로 등장했다는 보고가 나왔고, 오픈AI는 7월 GPT-5.6의 두 요금제 가격을 각각 80%, 20% 인하했다. 1716 비슷한 성능을 기준으로 보면 지난 2년간 AI 추론 비용이 약 95% 하락했다는 추정도 있다. 22

하지만 이 토큰을 실제로 만들어 전달하는 물리적 시스템은 오히려 비싸지고 있다. 삼성전자는 일부 첨단 반도체 위탁생산 주문 가격을 최대 15% 올렸고, 글로벌 메모리 부족이 심화돼 2028년까지 이어질 것으로 내다봤다. 3233 AI 서비스의 판매 단가는 하락하는데 핵심 투입 비용은 오르는, 이례적인 구조가 나타난 셈이다.

AI 가치사슬은 두 갈래로 갈라지고 있다

현재 AI 산업을 이해하려면 범용 지능이 상품화되는 모델 계층과 공급이 부족한 인프라 계층을 나눠 봐야 한다.

범용 모델 이용권은 점점 대체하기 쉬워지고 있다. 한 업체가 API 가격을 내리거나, 더 작은 모델을 내놓거나, 성능 좋은 모델을 무료로 제공하면 경쟁사도 대응해야 한다. 오픈AI의 7월 가격 조정으로 GPT-5.6 Luna의 입력 가격은 100만 토큰당 1달러에서 0.20달러로, Terra는 2.50달러에서 2달러로 내려갔다. 16

반면 인프라는 다르다. 첨단 공정 생산능력, 고대역폭 메모리(HBM), 네트워크 장비, 전력, 완성형 AI 서버는 소프트웨어 가격만큼 빠르게 공급을 늘릴 수 없다. 삼성전자는 고객들이 수년 단위 공급 계약을 요구하고 있으며, 공급 부족이 2028년까지 더 심각해질 수 있다고 밝혔다. 33 엔비디아 기반 서버 가격이 15% 이상 오를 수 있다는 보도 역시 공급업체들이 비용 상승분을 고객에게 전가하려 할 가능성을 보여준다. 다만 이는 엔비디아의 공식 가격 인상 발표는 아니다. 36

AI 서비스 제공업체 입장에서 문제는 간단하다. 사용량이 늘어도 토큰당 매출은 줄어들 수 있고, 용량·전력·하드웨어·자금조달 비용은 함께 낮아지지 않을 수 있다.

엔비디아 실적이 보여주는 것

엔비디아의 2027 회계연도 2분기 실적은 인프라 붐이 여전히 매우 강하다는 점을 보여준다. 엔비디아는 분기 매출 962억 달러를 기록해 전년 동기보다 106% 증가했고, 조정 희석 주당순이익은 2.22달러였다. 60 경영진은 2028 회계연도 매출이 약 70% 증가할 수 있다는 전망도 제시했다. 51

그러나 이 수치가 AI 경제 전체가 수익성 문제를 해결했다는 뜻은 아니다. 여전히 공급이 부족한 가속기 시스템을 놓고 고객들이 경쟁하고 있다는 의미에 가깝다. 엔비디아는 공급망의 병목 지점에 서 있어 강한 수요를 가격과 매출로 전환할 수 있다.

다만 메모리 비용 상승은 성장의 질에 영향을 주기 시작했다. 엔비디아는 다음 분기 총마진을 약 74%로 전망했는데, 이는 이번 분기의 75%보다 낮은 수준이다. 실적 전망을 다룬 보도는 그 배경의 일부로 메모리 가격을 지목했다. 51 이는 엔비디아의 수익성이 곧바로 무너진다는 뜻은 아니다. 다만 앞으로의 성과가 희소한 칩을 높은 마진으로 판매하는 데서만 나오기보다 가격 인상, 시스템 통합, 네트워킹, 소프트웨어, 공급망 관리에 더 크게 좌우될 수 있음을 뜻한다.

브로드컴, 인프라 수요를 자금조달 시험대로 바꾸다

브로드컴은 다른 형태의 압박을 보여준다. 로이터와 블룸버그는 브로드컴이 앤트로픽과 다른 고객에게 공급할 AI 칩 금융 구조를 위해 600억 달러가 넘는 부채 조달을 대주단과 협의 중이라고 보도했다. 이 구조에는 약 300억 달러 규모의 후순위 부채와 선순위 담보부 부채가 포함될 수 있으며, 구체적인 조건은 아직 협상 중이다. 12

여기서 중요한 점은 이것이 완료된 차입이 아니라 제안된 금융 조달안이라는 사실이다. 따라서 보도된 금액은 확정 거래 규모가 아니라 협상 중인 범위로 봐야 한다.

경제적 핵심은 해당 칩이 만들어낼 AI 매출이 부채 상환을 감당할 만큼 오래 지속될 수 있느냐에 있다. 칩이 기술적으로 가치가 있더라도 모델 가격이 하락하고, 고객 집중도가 높으며, 장비 가치가 떨어지거나 차환 비용이 상승하면 레버리지를 활용한 투자로서는 수익성이 낮을 수 있다.

이 때문에 신용시장이 중요해진다. 인프라가 상당한 부채로 조달되면 토큰 가격 하락은 더 이상 소프트웨어 기업만의 가격 문제가 아니다. 리스, 특수목적법인, 공급업체, 대주단의 현금흐름 전망에도 영향을 줄 수 있다.

하이퍼스케일러도 유리할 뿐, 무적은 아니다

대형 클라우드 기업은 독립적인 모델 제공업체보다 유리한 위치에 있다. AI를 기존 클라우드 서비스, 기업용 소프트웨어, 광고, 데이터, 유통망과 묶어 판매할 수 있기 때문이다. 다른 사업에서 얻는 수익으로 AI 기능을 보조할 여지도 있다.

그렇다고 모든 AI 투자에서 매력적인 수익률이 보장되는 것은 아니다. 저렴한 모델은 사용량을 늘릴 수 있지만 단위당 매출은 낮출 수 있다. 공급 과잉이 발생하면 AI는 별도의 고수익 사업이 아니라 클라우드 컴퓨팅의 저마진 기능으로 자리 잡을 수도 있다. 중요한 지표는 처리한 토큰 수가 아니다. 그 토큰이 만들어낸 생산성 향상, 매출 증가, 비용 절감에 고객이 충분한 대가를 지불하는지다.

기업에 토큰 가격 하락이 의미하는 것

기업 입장에서 추론 비용 하락은 분명 긍정적이다. 과거에는 비용이 맞지 않았던 업무도 AI 애플리케이션으로 시험해 볼 수 있고, 좁은 범위의 업무를 자동화하거나 더 강력한 모델을 활용하기 쉬워진다.

다만 토큰 비용은 배포 비용의 일부일 뿐이다. 기업은 여전히 시스템 통합, 데이터 정비, 보안 통제, 거버넌스, 성능 평가, 조직 변화 관리에 비용을 써야 한다. API 청구서가 낮아졌다고 해서 투자수익률이 자동으로 개선되는 것은 아니다.

따라서 시장은 점점 더 까다로운 질문을 던지고 있다. AI 컴퓨팅 한 단위가 측정 가능한 사업 성과를 얼마나 만들어내는가? 모델 사용량을 매출이나 검증 가능한 비용 절감과 연결할 수 있는 기업이 뚜렷한 활용처 없이 연산 능력만 쌓는 기업보다 유리할 가능성이 크다.

투자자와 신용시장이 읽어야 할 신호

투자자는 공급이 부족한 투입 요소에 대한 노출과 상품화되는 모델 이용권에 대한 노출을 구분해야 한다.

공급 제약 계층에는 메모리, 첨단 반도체 생산, 네트워크, 전력, 통합형 가속기 시스템이 포함된다. 고객들이 용량을 확보하기 위해 경쟁하는 동안 이 분야 기업들은 협상력을 유지할 수 있다. 삼성전자의 가격 인상과 메모리 부족 전망은 현재 공급업체의 영향력을 보여주는 사례다. 3233

반면 모델 이용권 계층은 더 어려운 시험대에 올랐다. 무료 또는 큰 폭으로 할인된 모델은 시장을 확대할 수 있지만, 차별성이 약한 추론 서비스가 높은 가격을 유지하기는 어렵게 만든다. 지속 가능한 수익성은 토큰 자체보다 독점적인 유통망, 데이터, 전문 업무 흐름, 계약 기반 수요, 또는 소프트웨어에 달려 있을 수 있다.

신용 투자자는 계약된 현금흐름, 고객 집중도, 하드웨어의 잔존가치, 부채 구조, 차환 일정을 살펴야 한다. 브로드컴의 제안된 거래는 AI 인프라가 얼마나 빠르게 기술 문제가 아니라 자금조달 문제로 바뀔 수 있는지를 보여주는 경고 신호다. 12

결론: 값싼 지능과 비싼 컴퓨팅의 충돌

AI 붐에는 하나의 비용 곡선만 존재하지 않는다. 지능은 더 싸고 풍부해지는 반면, 이를 생산하는 데 필요한 물리적 용량은 여전히 부족하고 비싸다.

이 불일치는 엔비디아가 기록적인 성장을 발표하면서도 마진 압박을 경고하는 이유를 설명한다. AI 수요가 강한 상황에서도 수백억 달러 규모의 칩 금융 구조가 신용시장의 관심을 끄는 이유 역시 여기에 있다.

AI 시장의 다음 단계는 모델 성능만으로 결정되지 않는다. 기업 고객이 값싼 지능을 지속 가능한 현금흐름으로 바꿀 수 있는지, 그리고 고비용·부채 기반 컴퓨팅 용량이 차환되기 전에 그 가치를 입증할 수 있는지가 진짜 승부처다.

AI 시장이 서로 반대 방향으로 움직이고 있다. 첨단 모델을 사용하는 가격은 빠르게 떨어지고 있다. 무료 모델 ‘Ox Alpha’가 최첨단 모델에 가까운 성능으로 등장했다는 보고가 나왔고, 오픈AI는 7월 GPT-5.6의 두 요금제 가격을 각각 80%, 20% 인하했다. 1716 비슷한 성능을 기준으로 보면 지난 2년간 AI 추론 비용이 약 95% 하락했다는 추정도 있다. 22

하지만 이 토큰을 실제로 만들어 전달하는 물리적 시스템은 오히려 비싸지고 있다. 삼성전자는 일부 첨단 반도체 위탁생산 주문 가격을 최대 15% 올렸고, 글로벌 메모리 부족이 심화돼 2028년까지 이어질 것으로 내다봤다. 3233 AI 서비스의 판매 단가는 하락하는데 핵심 투입 비용은 오르는, 이례적인 구조가 나타난 셈이다.

AI 가치사슬은 두 갈래로 갈라지고 있다

현재 AI 산업을 이해하려면 범용 지능이 상품화되는 모델 계층과 공급이 부족한 인프라 계층을 나눠 봐야 한다.

범용 모델 이용권은 점점 대체하기 쉬워지고 있다. 한 업체가 API 가격을 내리거나, 더 작은 모델을 내놓거나, 성능 좋은 모델을 무료로 제공하면 경쟁사도 대응해야 한다. 오픈AI의 7월 가격 조정으로 GPT-5.6 Luna의 입력 가격은 100만 토큰당 1달러에서 0.20달러로, Terra는 2.50달러에서 2달러로 내려갔다. 16

반면 인프라는 다르다. 첨단 공정 생산능력, 고대역폭 메모리(HBM), 네트워크 장비, 전력, 완성형 AI 서버는 소프트웨어 가격만큼 빠르게 공급을 늘릴 수 없다. 삼성전자는 고객들이 수년 단위 공급 계약을 요구하고 있으며, 공급 부족이 2028년까지 더 심각해질 수 있다고 밝혔다. 33 엔비디아 기반 서버 가격이 15% 이상 오를 수 있다는 보도 역시 공급업체들이 비용 상승분을 고객에게 전가하려 할 가능성을 보여준다. 다만 이는 엔비디아의 공식 가격 인상 발표는 아니다. 36

AI 서비스 제공업체 입장에서 문제는 간단하다. 사용량이 늘어도 토큰당 매출은 줄어들 수 있고, 용량·전력·하드웨어·자금조달 비용은 함께 낮아지지 않을 수 있다.

엔비디아 실적이 보여주는 것

엔비디아의 2027 회계연도 2분기 실적은 인프라 붐이 여전히 매우 강하다는 점을 보여준다. 엔비디아는 분기 매출 962억 달러를 기록해 전년 동기보다 106% 증가했고, 조정 희석 주당순이익은 2.22달러였다. 60 경영진은 2028 회계연도 매출이 약 70% 증가할 수 있다는 전망도 제시했다. 51

그러나 이 수치가 AI 경제 전체가 수익성 문제를 해결했다는 뜻은 아니다. 여전히 공급이 부족한 가속기 시스템을 놓고 고객들이 경쟁하고 있다는 의미에 가깝다. 엔비디아는 공급망의 병목 지점에 서 있어 강한 수요를 가격과 매출로 전환할 수 있다.

다만 메모리 비용 상승은 성장의 질에 영향을 주기 시작했다. 엔비디아는 다음 분기 총마진을 약 74%로 전망했는데, 이는 이번 분기의 75%보다 낮은 수준이다. 실적 전망을 다룬 보도는 그 배경의 일부로 메모리 가격을 지목했다. 51 이는 엔비디아의 수익성이 곧바로 무너진다는 뜻은 아니다. 다만 앞으로의 성과가 희소한 칩을 높은 마진으로 판매하는 데서만 나오기보다 가격 인상, 시스템 통합, 네트워킹, 소프트웨어, 공급망 관리에 더 크게 좌우될 수 있음을 뜻한다.

브로드컴, 인프라 수요를 자금조달 시험대로 바꾸다

브로드컴은 다른 형태의 압박을 보여준다. 로이터와 블룸버그는 브로드컴이 앤트로픽과 다른 고객에게 공급할 AI 칩 금융 구조를 위해 600억 달러가 넘는 부채 조달을 대주단과 협의 중이라고 보도했다. 이 구조에는 약 300억 달러 규모의 후순위 부채와 선순위 담보부 부채가 포함될 수 있으며, 구체적인 조건은 아직 협상 중이다. 12

여기서 중요한 점은 이것이 완료된 차입이 아니라 제안된 금융 조달안이라는 사실이다. 따라서 보도된 금액은 확정 거래 규모가 아니라 협상 중인 범위로 봐야 한다.

경제적 핵심은 해당 칩이 만들어낼 AI 매출이 부채 상환을 감당할 만큼 오래 지속될 수 있느냐에 있다. 칩이 기술적으로 가치가 있더라도 모델 가격이 하락하고, 고객 집중도가 높으며, 장비 가치가 떨어지거나 차환 비용이 상승하면 레버리지를 활용한 투자로서는 수익성이 낮을 수 있다.

이 때문에 신용시장이 중요해진다. 인프라가 상당한 부채로 조달되면 토큰 가격 하락은 더 이상 소프트웨어 기업만의 가격 문제가 아니다. 리스, 특수목적법인, 공급업체, 대주단의 현금흐름 전망에도 영향을 줄 수 있다.

하이퍼스케일러도 유리할 뿐, 무적은 아니다

대형 클라우드 기업은 독립적인 모델 제공업체보다 유리한 위치에 있다. AI를 기존 클라우드 서비스, 기업용 소프트웨어, 광고, 데이터, 유통망과 묶어 판매할 수 있기 때문이다. 다른 사업에서 얻는 수익으로 AI 기능을 보조할 여지도 있다.

그렇다고 모든 AI 투자에서 매력적인 수익률이 보장되는 것은 아니다. 저렴한 모델은 사용량을 늘릴 수 있지만 단위당 매출은 낮출 수 있다. 공급 과잉이 발생하면 AI는 별도의 고수익 사업이 아니라 클라우드 컴퓨팅의 저마진 기능으로 자리 잡을 수도 있다. 중요한 지표는 처리한 토큰 수가 아니다. 그 토큰이 만들어낸 생산성 향상, 매출 증가, 비용 절감에 고객이 충분한 대가를 지불하는지다.

기업에 토큰 가격 하락이 의미하는 것

기업 입장에서 추론 비용 하락은 분명 긍정적이다. 과거에는 비용이 맞지 않았던 업무도 AI 애플리케이션으로 시험해 볼 수 있고, 좁은 범위의 업무를 자동화하거나 더 강력한 모델을 활용하기 쉬워진다.

다만 토큰 비용은 배포 비용의 일부일 뿐이다. 기업은 여전히 시스템 통합, 데이터 정비, 보안 통제, 거버넌스, 성능 평가, 조직 변화 관리에 비용을 써야 한다. API 청구서가 낮아졌다고 해서 투자수익률이 자동으로 개선되는 것은 아니다.

따라서 시장은 점점 더 까다로운 질문을 던지고 있다. AI 컴퓨팅 한 단위가 측정 가능한 사업 성과를 얼마나 만들어내는가? 모델 사용량을 매출이나 검증 가능한 비용 절감과 연결할 수 있는 기업이 뚜렷한 활용처 없이 연산 능력만 쌓는 기업보다 유리할 가능성이 크다.

투자자와 신용시장이 읽어야 할 신호

투자자는 공급이 부족한 투입 요소에 대한 노출과 상품화되는 모델 이용권에 대한 노출을 구분해야 한다.

공급 제약 계층에는 메모리, 첨단 반도체 생산, 네트워크, 전력, 통합형 가속기 시스템이 포함된다. 고객들이 용량을 확보하기 위해 경쟁하는 동안 이 분야 기업들은 협상력을 유지할 수 있다. 삼성전자의 가격 인상과 메모리 부족 전망은 현재 공급업체의 영향력을 보여주는 사례다. 3233

반면 모델 이용권 계층은 더 어려운 시험대에 올랐다. 무료 또는 큰 폭으로 할인된 모델은 시장을 확대할 수 있지만, 차별성이 약한 추론 서비스가 높은 가격을 유지하기는 어렵게 만든다. 지속 가능한 수익성은 토큰 자체보다 독점적인 유통망, 데이터, 전문 업무 흐름, 계약 기반 수요, 또는 소프트웨어에 달려 있을 수 있다.

신용 투자자는 계약된 현금흐름, 고객 집중도, 하드웨어의 잔존가치, 부채 구조, 차환 일정을 살펴야 한다. 브로드컴의 제안된 거래는 AI 인프라가 얼마나 빠르게 기술 문제가 아니라 자금조달 문제로 바뀔 수 있는지를 보여주는 경고 신호다. 12

결론: 값싼 지능과 비싼 컴퓨팅의 충돌

AI 붐에는 하나의 비용 곡선만 존재하지 않는다. 지능은 더 싸고 풍부해지는 반면, 이를 생산하는 데 필요한 물리적 용량은 여전히 부족하고 비싸다.

이 불일치는 엔비디아가 기록적인 성장을 발표하면서도 마진 압박을 경고하는 이유를 설명한다. AI 수요가 강한 상황에서도 수백억 달러 규모의 칩 금융 구조가 신용시장의 관심을 끄는 이유 역시 여기에 있다.

AI 시장의 다음 단계는 모델 성능만으로 결정되지 않는다. 기업 고객이 값싼 지능을 지속 가능한 현금흐름으로 바꿀 수 있는지, 그리고 고비용·부채 기반 컴퓨팅 용량이 차환되기 전에 그 가치를 입증할 수 있는지가 진짜 승부처다.