딥시크의 ‘더 적은 메모리’ AI가 메모리주를 흔든 이유

딥시크가 9월 10일 공개한 V4.1-Flash는 AI용 메모리가 더는 필요 없다는 메시지가 아니었다. 시장을 흔든 핵심은 더 단순했다. 같은 AI 추론 업무를 처리하는 데 필요한 메모리와 저장장치의 양이 모델 설계와 캐시 최적화만으로 크게 줄어들 수 있다는 점이다. 6125

그동안 AI 메모리 투자 논리는 비교적 직선적이었다. 모델은 더 커지고, 대화·문서의 맥락은 길어지며, 에이전트형 AI는 더 많은 작업을 반복할 것이므로 HBM(고대역폭 메모리), DRAM, 낸드와 기업용 SSD 수요도 계속 증가한다는 가정이다. 딥시크의 발표는 이 가운데 ‘AI 사용량 증가가 곧바로 업무당 메모리 사용량 증가로 이어진다’는 연결고리에 의문을 제기했다.

핵심 변화: 훨씬 작아진 KV 캐시

KV(키-값) 캐시는 AI 모델이 요청을 처리할 때 앞선 대화나 문서의 주의집중(attention) 상태를 보관하는 영역이다. 긴 문맥을 다루는 챗봇이나 여러 단계를 반복하는 AI 에이전트에서는 이미 읽은 내용을 매번 처음부터 다시 계산하지 않도록 해 주기 때문에 특히 중요하다.

딥시크는 V4.1-Flash의 KV 캐시가 전 세대 대비 HBM은 4분의 1, SSD 저장공간은 8분의 1만 필요하다고 밝혔다. 61 모델 카드에 따르면 인과적 인코더-디코더(CED) 구조를 적용해 디코더의 글로벌 KV 캐시를 각 디코더 층에서 따로 만들지 않고 최종 인코더 은닉 상태에서 투영한다. 또 ‘SWA Bounded Replay’라는 배포 기법으로 일부 슬라이딩 윈도우 캐시 상태를 SSD에 계속 저장하지 않도록 했다. 52

외부 보도는 글로벌 KV 캐시 크기를 토큰당 약 890바이트로, V4-Flash의 약 4분의 1로 추산했다. 같은 KV 캐시 용량 안에서 동시 사용자를 대략 4~8배까지 수용할 수 있다는 의미다. 53 딥시크는 입력 처리 단계인 프리필(prefill)에서 토큰당 80억 개, 출력 생성 단계인 디코드(decode)에서 160억 개의 파라미터를 활성화한다고 설명했으며, 이는 입력 비중이 큰 에이전트형 작업의 효율을 높이기 위한 설계다. 52

왜 삼성전자·SK하이닉스 등 메모리주가 흔들렸나

투자자들이 우려한 것은 AI가 메모리를 쓰지 않게 되는 미래가 아니다. 쟁점은 AI 추론 결과를 일정량 만들어 내는 데 드는 메모리의 양이 기존 전망보다 훨씬 빠르게 낮아질 수 있느냐였다.

비슷한 성능의 모델이 고정된 HBM·저장장치 자원으로 더 많은 장문맥 요청을 동시에 처리할 수 있다면, 클라우드 사업자는 같은 인프라에서 더 높은 처리량을 뽑아낼 수 있다. 이는 HBM, DRAM, 기업용 SSD와 주변 저장장치 산업에서 향후 출하량, 공급 부족, 가격 결정력에 대한 가정에 위험 요인이 된다.

보도에 따르면 발표 이후 한국 시장에서 삼성전자와 SK하이닉스 주가는 장중 각각 3% 이상 하락했다. 17 AI 인프라 투자 테마는 메모리 업체만의 문제가 아니다. 저장장치, 네트워크, 연산칩 공급망이 연결돼 있어 메모리 집약도가 낮아지면 모델 배포의 경제성이 달라지고, 그 영향은 하드웨어 부문별로 다르게 나타날 수 있다.

샌디스크 사례는 AI 수요 기대가 투자 판단에 얼마나 크게 반영됐는지를 보여준다. 당시 시장 데이터상 이 회사 주가는 52주 동안 약 85달러~2,354달러 범위를 오갔고, 애널리스트 컨센서스는 매수 또는 ‘비중확대’ 수준을 유지했다. 3537 그러나 긍정적 컨센서스만으로는, 향후 스토리지 수요가 계속 더 많은 메모리를 쓰는 추론 구조에 얼마나 의존하는지라는 불확실성을 해소할 수 없다.

아모데이의 ‘최첨단 AI 속도 조절’ 제안이 더한 두 번째 우려

딥시크의 발표가 효율성 충격이었다면, 다리오 아모데이 앤트로픽 CEO의 제안은 AI 역량 성장의 속도 자체에 관한 불확실성을 더했다.

아모데이는 9월 에세이에서 최첨단 모델의 역량 향상 속도를 의도적으로 늦추고, 확보한 시간을 정렬(alignment)과 안전성 연구에 써야 한다고 주장했다. 구체적으로는 외부 평가자의 상주형 접근, 민주주의 국가 기업 간 공조, 궁극적으로 정부 간 합의를 제안했다. 45

이는 AI 개발을 전면 중단하자는 요구는 아니다. 다만 다른 주요 AI 리더들의 공개적 지지가 이어지면서 시장은 자율 공조나 향후 정책이 가속기, 데이터센터, 메모리에 대한 지출 증가 속도를 완화할 가능성을 검토하게 됐다. 관련 논의가 주목받은 주말 나스닥100 선물은 1% 하락한 것으로 보도됐다. 8

두 이슈가 겹치며 투자자에게는 불편한 조합이 됐다. 딥시크는 AI 서비스 한 건당 필요한 메모리가 줄 수 있음을 보여줬고, ‘최첨단 AI 속도 조절’ 논의는 AI 작업량 자체의 증가세가 둔화할 가능성을 제기했다.

마이클 버리가 ‘자기 이익을 위한 주장’이라고 한 이유

영화 《빅 쇼트》로 널리 알려진 투자자 마이클 버리는 AI 개발 감속 주장을 “self-serving(자기 이익을 위한 것)”이라고 비판했다. 그의 논지는 감속이 기존 최첨단 AI 연구소에는 유리하고, 후발·소규모 경쟁자가 따라잡기는 더 어렵게 만들 수 있다는 것이다. 그는 현재의 AI 챗봇이 인공일반지능(AGI)으로 가는 경로인지에도 회의적 입장을 보였다. 15

이는 기업들의 실제 동기를 입증한 사실이 아니라 인센티브 구조에 대한 버리의 비판이다. 안전성 메시지가 향후 기업공개(IPO)를 돕기 위한 것이라는 주장 역시 그의 의혹으로 봐야 하며, 확인된 사실로 받아들여서는 안 된다. 1115

딥시크가 바꾼 것과 바꾸지 않은 것

가장 강한 결론은 제한적이지만 중요하다. 딥시크는 AI 메모리 투자 논리의 단순한 버전에 도전했다. 소프트웨어, 모델 아키텍처, 양자화, 캐시 관리 기법이 추론의 메모리 집약도를 실질적으로 낮출 수 있음을 보여줬다. 5255

반대로 이것이 전체 메모리 수요가 줄어든다는 증거는 아니다. 발표된 절감 폭은 딥시크의 직전 구조와 비교한 추론 중 KV 캐시에 관한 것이다. 모델 전체나 데이터센터 전체가 HBM을 75%, SSD를 87.5% 덜 쓴다는 주장이 아니며, 모델 가중치와 대규모 학습에 들어가는 메모리까지 없애는 것도 아니다. 25

오히려 추론 비용이 낮아지면 사용자는 늘고, 더 긴 문맥과 더 많은 에이전트 반복 작업이 가능해질 수 있다. 결국 수요는 요청당 효율 개선과 요청 수·복잡성 증가 가운데 어느 쪽이 더 빠른지에 달려 있다.

AI 메모리 투자 논리에 남은 질문

V4.1-Flash가 HBM, 낸드, AI 인프라의 장기 성장 가능성을 무효로 만들었다고 보기는 어렵다. 다만 그 성장 논리를 더 조건부로 만들었다. AI 사용량 증가가 업무당 메모리 소비 증가로 일대일 대응한다는 가정은 더 이상 당연하지 않다.

앞으로의 핵심 질문은 효율 개선이 AI 배포 확대 속도를 앞지를지 여부다. 딥시크는 추론이 훨씬 가벼워질 수 있다는 근거를 제시했지만, 이후 전 세계 AI 사용량, 학습 규모, 하드웨어 수요가 얼마나 빠르게 늘어날지까지 결론 내린 것은 아니다.