문제는 고대역폭 메모리(HBM)와 D램(DRAM)이 거대 언어 모델과 고성능 컴퓨팅 워크로드의 폭발적인 성장 속도를 따라가지 못하고 있다는 점입니다. AMD 스스로도 DRAM을 “컴퓨팅에서 가장 희소하고 비싼 자원”이라고 표현한 바 있습니다 . MEXT의 해결책은 간단명료합니다. 더 많은 DRAM을 사지 말고, 이미 모든 서버에 장착된 값싼 플래시 스토리지를 더 스마트하게 활용하자는 것입니다.

MEXT의 ‘예측 메모리( Predictive Memory™)’는 어떻게 작동하나

MEXT의 핵심 제품인 ‘예측 메모리(Predictive Memory™)’ 는 애플리케이션 계층 아래에서 작동하는 AI 네이티브 메모리 티어링 시스템입니다. 운영체제(OS)가 물리적으로 존재하는 것보다 훨씬 더 많은 DRAM이 있는 것처럼 인식하게 만드는 원리로, 새로운 하드웨어나 GPU, 기존 애플리케이션 변경이 전혀 필요하지 않다고 합니다. MEXT는 설치 시간이 5분도 채 걸리지 않으며, 한 번의 명령어로 가시 메모리가 두 배로 늘어나는 시연을 보여주기도 했습니다 .

이 시스템은 다음과 같은 3단계 루프로 끊임없이 작동합니다.

• 콜드 데이터 오프로딩: 소프트웨어가 현재 활발히 사용되지 않는 메모리 페이지를 지속적으로 식별하여 값비싼 DRAM에서 저렴한 낸드플래시(NAND Flash)로 옮깁니다. 이로써 현재 활발히 작업 중인 ‘핫 데이터’를 위해 소중한 DRAM 공간을 확보합니다. 플래시 메모리는 기가바이트당 비용이 DRAM보다 약 50배 저렴하기 때문에 경제적 효과는 즉각적입니다 .
• AI 기반 예측: 경량화된 예측 엔진이 단일 CPU 코어에서 마이크로초 단위로 메모리 접근 패턴을 분석합니다. 이 패턴을 학습하여 어떤 오프로드된 페이지를 애플리케이션이 다음에 필요로 할지 예측합니다 .
• 선제적 프리페칭: 애플리케이션이 데이터를 요청하기도 전에, MEXT가 예측된 페이지를 플래시에서 DRAM으로 다시 전송합니다. 그 결과, 애플리케이션은 DRAM 수준의 성능을 경험하는 반면, 데이터센터 운영자는 플래시 수준의 가격을 지불하게 됩니다 .

MEXT는 이 기술을 통해 전체 인프라 비용을 50%까지 절감하고 서버의 유효 메모리 용량을 2~4배로 확장할 수 있다고 주장합니다 . AI 모델 학습과 추론 비용이 전체 AI 경제성을 좌우하는 현실에서 이는 단순한 최적화가 아니라, 게임의 판도를 바꿀 수 있는 패러다임 전환으로 평가됩니다.

AMD가 단순 메모리 구매 대신 스타트업을 산 이유

이번 인수는 단순한 소프트웨어 한 조각을 산 것이 아닙니다. AMD가 AI 데이터센터 시장에서 향후 어떤 방식으로 경쟁할 것인지에 대한 의도적인 전환을 알리는 신호입니다.

수년간 AMD는 엔비디아에 맞서는 ‘도전자’로서 경쟁력 있는 GPU와 CPU를 공급해왔습니다. 반면 엔비디아는 독점적 인터커넥트(NVLink)와 네트워킹, CUDA 소프트웨어라는 견고한 해자(Moat)를 구축했죠. 이번 MEXT 거래는 AMD가 이제 메모리 계층이라는, 모든 AI 워크로드가 반드시 거쳐야 하는 영역에 자신들만의 소프트웨어 해자를 구축하기 시작했음을 의미합니다.

AMD는 MEXT의 기술을 자사의 전체 데이터센터 포트폴리오, 즉 CPU, GPU, 네트워킹, 랙 스케일 시스템에 통합하겠다고 발표했습니다 . 이는 매우 중요한 지점입니다. 특정 GPU에만 귀속되는 기술이 아니라, 고객이 어떤 실리콘을 구매하든 AMD 기반의 대규모 구축 환경이라면 총 소유 비용(TCO)을 낮출 수 있는 플랫폼 수준의 기능으로 작동하게 된다는 뜻이기 때문입니다 .

이로써 AMD는 독보적으로 비용 효율적인 ‘풀스택(Full-Stack)’ AI 솔루션을 제시할 수 있게 되었습니다. 엔비디아의 전략이 자체적인 NVLink와 네트워킹 중심의 강력한 하드웨어-소프트웨어 통합이라면, 인텔은 CXL(Compute Express Link) 같은 하드웨어 기반의 메모리 확장 표준에 집중해 왔습니다. 이와 달리 MEXT는 표준 서버에서 하드웨어 수정 없이 돌아가는 순수 소프트웨어 계층이라는 점에서 차별화됩니다 . 이 민첩성은 매우 강력한 장점입니다. 고객은 새로운 실리콘이 출시되고 긴 검증 기간을 거칠 필요 없이, 당장 기존 인프라에 적용할 수 있기 때문입니다.

이번 MEXT 인수는 단독으로 발생한 사건이 아닙니다. 라이젠 AI(Ryzen AI) 헤일로 개발자 플랫폼 출시와 동시에 이루어졌으며, 이는 개발자들이 강력한 로컬 하드웨어에서 대규모 AI 모델을 실행할 수 있도록 설계된 시스템입니다 . 이 두 가지 움직임은 AMD가 클라이언트 기기부터 하이퍼스케일 데이터센터까지 아우르는 일관된 AI 생태계를 구축하려 한다는 큰 그림을 보여줍니다. 이제 그 전체 스택에 메모리 최적화라는 핵심 레이어가 더해질 예정입니다.

경쟁 구도: AMD vs. 엔비디아 vs. 인텔

현재 AI 인프라 시장은 이른바 ‘메모리 장벽(Memory Wall)’ 으로 정의됩니다. 더 큰 모델일수록 막대한 메모리 대역폭과 용량이 필요하지만, 천문학적인 비용 없이 이를 제공할 수 있는 시스템은 거의 없습니다. 모든 칩 제조사가 해법을 찾기 위해 필사적으로 움직이고 있습니다.

엔비디아의 해법은 수직적 통합입니다. 그레이스 호퍼(Grace Hopper) 슈퍼칩은 CPU와 GPU를 막대한 메모리 풀과 결합하고, 네트워킹으로 모든 것을 연결하며, CUDA로 프로그래밍을 가능하게 합니다. 인텔은 CXL이라는 하드웨어 표준을 밀면서 여러 장치의 메모리를 풀링하고 공유하는 방식으로 접근해 왔습니다.

AMD는 여기에 MEXT를 더해, 소프트웨어 기반의 메모리 티어가 독점 하드웨어에 고객을 묶어두지 않고도 문제를 해결할 수 있다는 데 베팅하고 있습니다. 이론적으로, 데이터센터 운영자는 AMD MI400 GPU 서버에 MEXT의 예측 레이어를 적용해 유효 메모리를 4배로 늘리고, 동일한 수준의 용량을 위해 더 많은 물리적 HBM이 필요한 엔비디아 시스템 대비 대규모 모델의 학습 또는 서빙 비용을 획기적으로 줄일 수 있습니다. 실제로 레이턴시에 민감한 AI 워크로드에서도 이 성능이 유지될지는 더 입증이 필요하지만, 경제적 측면에서의 제안은 매우 강력합니다.

이번 딜은 시장에 즉각적인 영향을 미쳤습니다. AMD 주가는 발표 당일 상승하며 시가 총액이 9,000억 달러(약 1,170조 원)에 육박했습니다 . 투자자들은 MEXT 인수가 AMD의 AI 플랫폼 스토리에서 결정적 약점을 보완하고, AI 인프라의 경제성을 높이기 위한 경쟁에서 즉시 적용 가능한 유형의 우위를 제공할 것이라고 베팅한 것으로 보입니다.

문제는 고대역폭 메모리(HBM)와 D램(DRAM)이 거대 언어 모델과 고성능 컴퓨팅 워크로드의 폭발적인 성장 속도를 따라가지 못하고 있다는 점입니다. AMD 스스로도 DRAM을 “컴퓨팅에서 가장 희소하고 비싼 자원”이라고 표현한 바 있습니다 . MEXT의 해결책은 간단명료합니다. 더 많은 DRAM을 사지 말고, 이미 모든 서버에 장착된 값싼 플래시 스토리지를 더 스마트하게 활용하자는 것입니다.

MEXT의 ‘예측 메모리( Predictive Memory™)’는 어떻게 작동하나

MEXT의 핵심 제품인 ‘예측 메모리(Predictive Memory™)’ 는 애플리케이션 계층 아래에서 작동하는 AI 네이티브 메모리 티어링 시스템입니다. 운영체제(OS)가 물리적으로 존재하는 것보다 훨씬 더 많은 DRAM이 있는 것처럼 인식하게 만드는 원리로, 새로운 하드웨어나 GPU, 기존 애플리케이션 변경이 전혀 필요하지 않다고 합니다. MEXT는 설치 시간이 5분도 채 걸리지 않으며, 한 번의 명령어로 가시 메모리가 두 배로 늘어나는 시연을 보여주기도 했습니다 .

이 시스템은 다음과 같은 3단계 루프로 끊임없이 작동합니다.

• 콜드 데이터 오프로딩: 소프트웨어가 현재 활발히 사용되지 않는 메모리 페이지를 지속적으로 식별하여 값비싼 DRAM에서 저렴한 낸드플래시(NAND Flash)로 옮깁니다. 이로써 현재 활발히 작업 중인 ‘핫 데이터’를 위해 소중한 DRAM 공간을 확보합니다. 플래시 메모리는 기가바이트당 비용이 DRAM보다 약 50배 저렴하기 때문에 경제적 효과는 즉각적입니다 .
• AI 기반 예측: 경량화된 예측 엔진이 단일 CPU 코어에서 마이크로초 단위로 메모리 접근 패턴을 분석합니다. 이 패턴을 학습하여 어떤 오프로드된 페이지를 애플리케이션이 다음에 필요로 할지 예측합니다 .
• 선제적 프리페칭: 애플리케이션이 데이터를 요청하기도 전에, MEXT가 예측된 페이지를 플래시에서 DRAM으로 다시 전송합니다. 그 결과, 애플리케이션은 DRAM 수준의 성능을 경험하는 반면, 데이터센터 운영자는 플래시 수준의 가격을 지불하게 됩니다 .

MEXT는 이 기술을 통해 전체 인프라 비용을 50%까지 절감하고 서버의 유효 메모리 용량을 2~4배로 확장할 수 있다고 주장합니다 . AI 모델 학습과 추론 비용이 전체 AI 경제성을 좌우하는 현실에서 이는 단순한 최적화가 아니라, 게임의 판도를 바꿀 수 있는 패러다임 전환으로 평가됩니다.

AMD가 단순 메모리 구매 대신 스타트업을 산 이유

이번 인수는 단순한 소프트웨어 한 조각을 산 것이 아닙니다. AMD가 AI 데이터센터 시장에서 향후 어떤 방식으로 경쟁할 것인지에 대한 의도적인 전환을 알리는 신호입니다.

수년간 AMD는 엔비디아에 맞서는 ‘도전자’로서 경쟁력 있는 GPU와 CPU를 공급해왔습니다. 반면 엔비디아는 독점적 인터커넥트(NVLink)와 네트워킹, CUDA 소프트웨어라는 견고한 해자(Moat)를 구축했죠. 이번 MEXT 거래는 AMD가 이제 메모리 계층이라는, 모든 AI 워크로드가 반드시 거쳐야 하는 영역에 자신들만의 소프트웨어 해자를 구축하기 시작했음을 의미합니다.

AMD는 MEXT의 기술을 자사의 전체 데이터센터 포트폴리오, 즉 CPU, GPU, 네트워킹, 랙 스케일 시스템에 통합하겠다고 발표했습니다 . 이는 매우 중요한 지점입니다. 특정 GPU에만 귀속되는 기술이 아니라, 고객이 어떤 실리콘을 구매하든 AMD 기반의 대규모 구축 환경이라면 총 소유 비용(TCO)을 낮출 수 있는 플랫폼 수준의 기능으로 작동하게 된다는 뜻이기 때문입니다 .

이로써 AMD는 독보적으로 비용 효율적인 ‘풀스택(Full-Stack)’ AI 솔루션을 제시할 수 있게 되었습니다. 엔비디아의 전략이 자체적인 NVLink와 네트워킹 중심의 강력한 하드웨어-소프트웨어 통합이라면, 인텔은 CXL(Compute Express Link) 같은 하드웨어 기반의 메모리 확장 표준에 집중해 왔습니다. 이와 달리 MEXT는 표준 서버에서 하드웨어 수정 없이 돌아가는 순수 소프트웨어 계층이라는 점에서 차별화됩니다 . 이 민첩성은 매우 강력한 장점입니다. 고객은 새로운 실리콘이 출시되고 긴 검증 기간을 거칠 필요 없이, 당장 기존 인프라에 적용할 수 있기 때문입니다.

이번 MEXT 인수는 단독으로 발생한 사건이 아닙니다. 라이젠 AI(Ryzen AI) 헤일로 개발자 플랫폼 출시와 동시에 이루어졌으며, 이는 개발자들이 강력한 로컬 하드웨어에서 대규모 AI 모델을 실행할 수 있도록 설계된 시스템입니다 . 이 두 가지 움직임은 AMD가 클라이언트 기기부터 하이퍼스케일 데이터센터까지 아우르는 일관된 AI 생태계를 구축하려 한다는 큰 그림을 보여줍니다. 이제 그 전체 스택에 메모리 최적화라는 핵심 레이어가 더해질 예정입니다.

경쟁 구도: AMD vs. 엔비디아 vs. 인텔

현재 AI 인프라 시장은 이른바 ‘메모리 장벽(Memory Wall)’ 으로 정의됩니다. 더 큰 모델일수록 막대한 메모리 대역폭과 용량이 필요하지만, 천문학적인 비용 없이 이를 제공할 수 있는 시스템은 거의 없습니다. 모든 칩 제조사가 해법을 찾기 위해 필사적으로 움직이고 있습니다.

엔비디아의 해법은 수직적 통합입니다. 그레이스 호퍼(Grace Hopper) 슈퍼칩은 CPU와 GPU를 막대한 메모리 풀과 결합하고, 네트워킹으로 모든 것을 연결하며, CUDA로 프로그래밍을 가능하게 합니다. 인텔은 CXL이라는 하드웨어 표준을 밀면서 여러 장치의 메모리를 풀링하고 공유하는 방식으로 접근해 왔습니다.

AMD는 여기에 MEXT를 더해, 소프트웨어 기반의 메모리 티어가 독점 하드웨어에 고객을 묶어두지 않고도 문제를 해결할 수 있다는 데 베팅하고 있습니다. 이론적으로, 데이터센터 운영자는 AMD MI400 GPU 서버에 MEXT의 예측 레이어를 적용해 유효 메모리를 4배로 늘리고, 동일한 수준의 용량을 위해 더 많은 물리적 HBM이 필요한 엔비디아 시스템 대비 대규모 모델의 학습 또는 서빙 비용을 획기적으로 줄일 수 있습니다. 실제로 레이턴시에 민감한 AI 워크로드에서도 이 성능이 유지될지는 더 입증이 필요하지만, 경제적 측면에서의 제안은 매우 강력합니다.

이번 딜은 시장에 즉각적인 영향을 미쳤습니다. AMD 주가는 발표 당일 상승하며 시가 총액이 9,000억 달러(약 1,170조 원)에 육박했습니다 . 투자자들은 MEXT 인수가 AMD의 AI 플랫폼 스토리에서 결정적 약점을 보완하고, AI 인프라의 경제성을 높이기 위한 경쟁에서 즉시 적용 가능한 유형의 우위를 제공할 것이라고 베팅한 것으로 보입니다.