딥시크의 V4.1 플래시 공개가 투자자를 긴장시킨 이유는 AI 인프라 투자 열풍에 깔린 한 가지 전제를 건드렸기 때문이다. AI 사용량이 늘면 개별 작업마다 필요한 메모리도 계속 늘 것이라는 전제다.
딥시크는 장문 맥락을 처리하는 추론(inference) 과정에서 핵심인 KV 캐시를 크게 줄였다고 밝혔다. 효과가 사실이라면 같은 AI 서비스를 운영하는 데 필요한 HBM과 SSD가 줄어들 수 있다. 다만 이는 AI 시스템 전체가 아니라 KV 캐시라는 특정 영역의 최적화다. AI 학습(training)과 전체 데이터센터 수요가 곧바로 급감한다는 의미는 아니다.
9
10
핵심 기술: KV 캐시를 얼마나 줄였나
KV 캐시는 모델이 앞서 처리한 토큰의 어텐션 상태를 저장해, 다음 토큰을 만들 때 매번 이전 문맥을 처음부터 계산하지 않도록 하는 메모리다. 대화가 길어지거나 AI 에이전트가 여러 단계를 수행할수록 부담이 커진다.
딥시크는 Compressed Sparse Attention 2(CSA2)의 레이어 간 KV 캐시 재사용과 FP4 KV 캐싱을 결합했다고 설명했다. 그 결과 HBM에 상주하는 글로벌 KV 캐시 용량은 토큰당 890바이트로, V4-Flash의 약 4분의 1 수준이라는 주장이다.
9
또한 짧은 윈도우 어텐션에는 SWA Bounded Replay라는 배포 최적화를 적용했다. 이 캐시를 SSD나 호스트 메모리에 계속 저장하는 대신, 일시적인 분산 호스트 DRAM 풀에 두고 캐시 미스가 나면 제한된 범위의 문맥만 다시 계산하는 방식이다. 딥시크는 이를 통해 영구 KV 캐시 용량도 전 세대의 약 8분의 1로 낮췄다고 밝혔다.
1
9
이를 KV 캐시 기능에 한정해 해석하면, 전 세대 대비 HBM 사용량은 약 75%, 영구 SSD 용량은 약 87.5% 줄었다는 뜻이다.
9
10
동시 사용자 수는 4배가 될까
활성 KV 캐시 용량이 병목인 서비스라면 이론적으로 가능하다. 요청 하나가 사용하는 캐시 메모리가 이전의 4분의 1이라면, 같은 HBM 공간에 약 4배의 활성 캐시를 담을 수 있기 때문이다.
그러나 이는 토큰당 캐시 수치에서 도출한 용량상의 추론일 뿐, 딥시크가 독립 검증된 종단간 동시 사용자 4배 성과를 공개했다는 뜻은 아니다. 실제 처리량은 모델 가중치, 연산 성능, 네트워크, 요청 길이, 배치 처리, 지연시간 목표, 서빙 소프트웨어 등에 좌우된다.
삼성전자·SK하이닉스 주가가 민감하게 반응한 이유
시장이 우려한 것은 딥시크가 메모리를 불필요하게 만들었다는 것이 아니다. AI 추론 1건당 들어가는 메모리와 저장장치의 양이 줄면, 향후 비트 수요 증가율과 가격 협상력, 설비투자 전망이 낮아질 수 있다는 점이다.
블룸버그에 따르면 9월 11일 한국 증시에서 삼성전자는 3.5%, SK하이닉스는 2.2% 하락했다. 딥시크가 AI 모델에 필요한 HBM을 줄였다고 밝힌 일이 기술주 수요 우려에 더해졌다는 분석이다.
17 당시 보도에서는 서울 시장에서 두 종목이 장중 3% 이상 하락한 반면, 미국 거래에서 마이크론과 샌디스크는 초반 상대적으로 버텼다고 전했다.
8
즉, 시장 반응은 실적이 당장 무너졌다는 판단보다 높은 밸류에이션을 지탱한 AI 메모리 수요 가정의 재평가에 가까웠다.
매도세가 글로벌 반도체주로 번진 과정
우려는 이후 딥시크의 추론 효율 이슈를 넘어 AI 설비투자(capex) 전반을 다시 따져보는 흐름으로 확대됐다.
앤트로픽의 다리오 아모데이 CEO가 최첨단 AI 개발 속도를 늦추자고 제안한 뒤, SK하이닉스와 삼성전자는 각각 6.4%, 4.1% 하락했고 일본의 키옥시아도 6.4% 내렸다. 유럽에서는 ASML, 인피니온, ASM 인터내셔널, BE 세미컨덕터, ST마이크로일렉트로닉스 등 반도체주도 약세를 보였다.
18 또 다른 보도에서는 소프트뱅크가 11%, 키옥시아가 6.5%, TSMC가 1.2% 하락한 것으로 집계됐다.
19
미국 장전거래에서도 마벨은 약 8% 하락했고, 인텔·마이크론·샌디스크는 각각 약 6% 내렸다는 보도가 나왔다.
20
이 모든 하락을 딥시크 모델 하나가 기계적으로 초래했다고 볼 수는 없다. 금리, 밸류에이션, AI 성장률 우려는 기술주 전반에 동시에 영향을 준다. 다만 딥시크의 발표는 ‘AI 사용량 증가가 요청당 메모리 수요 증가로 비례해 이어진다’는 취약한 가정을 시험할 구체적인 계기를 제공했다.
17
아모데이의 ‘AI 감속론’이 더한 부담
아모데이 CEO는 AI 오남용과 안전 위험에 대응할 시간을 확보하기 위해, 기업들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다고 촉구했다. 그가 제시한 틀은 안전 관리에 더 많은 시간을 쓰자는 취지였다.
인프라 투자자에게 이는 딥시크의 주장과는 별개의 두 번째 우려였다.
- 추론 작업당 메모리 사용량이 줄면 메모리 집약도가 낮아질 수 있다.
- 최첨단 모델 경쟁이 느려지면 대규모 학습과 데이터센터 증설이 늦어져, 가속기·HBM·네트워크·스토리지 수요 전망이 밀릴 수 있다.
두 이슈는 경제적으로 다른 문제다. 하지만 시장은 ‘작업당 메모리 사용량’과 ‘AI 확장 속도’ 모두에 압력이 생길 수 있다고 해석할 수 있다. 실제 관련 보도는 AI 개발 감속 요구에 대한 투자자 우려가 광범위한 반도체주 하락과 연결됐다고 전했다.
18
20
마이클 버리의 “자기 이익적” 비판
영화 ‘빅 쇼트’로 널리 알려진 투자자 마이클 버리는 아모데이 등의 감속 주장을 자기 이익적이라고 비판했다. 선도 AI 기업 경영진이 자신들의 기술이 지나치게 빠르게 발전한다고 말하는 과정에서 상업적 이익을 얻을 수 있으며, 이를 “IPO hype & puffery”라고 일축했다.
14
그의 논지는 감속이 기존 대형 기업에는 유리하고 후발 경쟁자에게는 불리할 수 있으며, 희소성과 향후 기업공개 서사를 강화할 수 있다는 것이다. 다만 이는 기업들의 동기에 관한 버리의 해석이며, AI 안전 우려 자체가 진정성이 없거나 근거 없다는 증거는 아니다.
14
이번 발표가 반도체 수요에 뜻하는 것과 뜻하지 않는 것
딥시크의 결과가 시장에 의미를 갖는 이유는 저정밀 연산, 캐시 압축, 어텐션 구조 개선, 재사용, 서빙 소프트웨어 고도화가 다른 AI 개발사들도 추구할 수 있는 폭넓은 방향이기 때문이다. 따라서 요청당 메모리 탑재량이 계속 증가한다는 전망에 의존한 공급사에는 구조적 위험 요인이 될 수 있다.
9
하지만 해석에는 분명한 경계가 있다.
KV 캐시 최적화이지, 전체 메모리 절감이 아니다
딥시크는 모델 전체나 데이터센터 전체가 HBM 75%, SSD 87.5%를 덜 쓴다고 주장하지 않았다. 비교 대상은 전작 대비 추론 중 KV 캐시다. 모델 가중치, 그 밖의 시스템 메모리, 네트워크와 저장장치 수요는 이 수치에 포함되지 않는다.
10
AI 학습 수요는 별개다
공개된 개선 내용만으로는 최첨단 모델 학습에 필요한 연산과 메모리도 같은 폭으로 줄었다고 결론 내릴 수 없다. KV 캐시 최적화를 전체 AI 반도체 수요 붕괴의 근거로 해석하는 것은 발표 범위를 넘어선다.
10
효율 개선은 오히려 사용량을 늘릴 수도 있다
더 적은 메모리로 추론할 수 있으면 요청당 메모리 소비는 감소한다. 반대로 장문 맥락 AI 비서, 에이전트 업무흐름, 자체 구축형 배포의 비용을 낮춰 더 많은 기업과 사용자가 AI를 쓰게 만들 수도 있다. 이 사용량 확대가 충분히 크다면, 개별 작업의 메모리 요구량이 낮아져도 총 메모리 수요는 유지되거나 늘어날 수 있다.
결론: AI 수요보다 중요한 질문은 ‘효율의 속도’
딥시크 V4.1 플래시는 AI 메모리 강세론의 약한 고리를 드러냈다. 딥시크가 제시한 토큰당 890바이트 글로벌 KV 캐시와 전 세대 대비 8분의 1 수준의 영구 캐시 용량은 HBM·SSD 수요 가정을 빠르게 재검토하게 만든 수치다.
9
그렇다고 즉각적인 반도체 산업 수요 충격이라고 단정할 근거는 부족하다. 절감은 추론의 KV 캐시에 한정되며, AI 학습이나 전체 데이터센터 스택까지 포괄하지 않는다. 장기 결과는 작업당 메모리 집약도 하락과, 비용 하락이 촉발할 AI 활용 확대 가운데 어느 쪽이 더 빠를지에 달려 있다.
메모리주 투자자에게 중요한 질문은 이제 단순히 AI 사용량이 늘어나는가가 아니다. AI 시스템의 메모리 효율 개선 속도보다 전체 AI 작업량의 증가 속도가 더 빠를 수 있는가가 핵심이다.