2U 서버 한 대에 9.8PB: Dell·Kioxia 초고밀도 올플래시 시스템의 정체

단일 서버에 거의 10PB의 올플래시 스토리지를 넣는다는 것은 데이터센터 설계에서 상당한 의미를 가진다. 특히 생성형 AI 학습 데이터, 벡터 데이터베이스, 대규모 분석 워크로드처럼 방대한 데이터를 빠르게 읽고 쓰는 환경에서 큰 장점을 제공한다.

하드웨어 구성

이 시스템의 핵심은 스토리지 밀도에 특화된 Dell의 PowerEdge R7725xd 플랫폼이다.

주요 구성은 다음과 같다.

• Kioxia LC9 Series NVMe SSD 40개
• 드라이브당 245.76TB 용량
• 총 약 9.8PB 원시(raw) 스토리지

40 × 245.76TB를 계산하면 약 9,830.4TB, 즉 약 9.8PB의 총 용량이 나온다.

이 서버는 AMD EPYC 9005 시리즈 프로세서 기반의 듀얼 소켓 플랫폼으로 구성될 수 있으며, 대량의 PCIe 레인과 높은 CPU 코어 수를 통해 데이터 집약적 워크로드를 처리하도록 설계됐다.

어떻게 이런 스토리지 밀도가 가능했을까

이 구성은 세 가지 기술 요소의 결합으로 가능해졌다.

1. 초고용량 NVMe SSD

Kioxia의 LC9 시리즈 SSD는 최대 245.76TB 용량을 제공하는 엔터프라이즈 NVMe 드라이브다. 이는 현재 데이터센터용 SSD 가운데 가장 큰 용량 수준 중 하나다.

이 드라이브는 PCIe 5.0 인터페이스와 3D QLC NAND 구조를 사용해 대용량 데이터를 효율적으로 저장하도록 설계됐다. 특히 생성형 AI 환경에서 요구되는 대규모 데이터셋 저장에 맞춰 개발됐다.

2. E3.L 데이터센터 폼팩터

LC9 SSD는 EDSFF E3.L 폼팩터를 지원한다.

이 폼팩터는 기존 2.5인치 SSD보다 길고 전력·냉각 설계 여유가 있어 더 많은 NAND 패키지와 더 큰 용량을 담을 수 있다. 데이터센터에서는 이러한 형태가 스토리지 밀도를 크게 높이는 데 유리하다.

3. 대규모 PCIe 레인 구조

PowerEdge R7725xd는 최신 서버 아키텍처를 기반으로 대량의 PCIe Gen5 레인과 I/O 대역폭을 제공한다.

NVMe SSD가 CPU에 직접 연결되는 구조를 사용해 병목을 최소화하며, 한 서버 안에서 수십 개의 NVMe 드라이브가 동시에 고속으로 작동할 수 있다.

네트워크 성능과 데이터 이동

대용량 스토리지는 네트워크가 따라주지 않으면 의미가 없다.

R7725xd 플랫폼은 고속 네트워크 옵션을 지원하며, 구성에 따라 100GbE와 400GbE 네트워크 인터페이스를 사용할 수 있다. 일부 구성에서는 최대 5개의 400Gbps NIC도 지원된다.

이러한 네트워크 성능은 다음과 같은 환경에서 중요하다.

• GPU 클러스터에 학습 데이터를 공급하는 AI 파이프라인
• 초대형 객체 스토리지 서비스
• 벡터 데이터베이스와 임베딩 데이터 처리

스토리지가 아무리 크더라도 데이터 전송 속도가 느리면 AI 인프라 전체가 병목에 걸리기 때문이다.

AI 데이터센터에서 왜 중요한가

AI 인프라는 엄청난 규모의 데이터를 필요로 한다. 학습 데이터셋, 체크포인트, 로그, 벡터 인덱스 등 저장해야 할 데이터는 계속 증가한다.

데이터센터 공간 절감

2U 서버 한 대에 9.8PB를 넣으면 동일한 용량을 구현하기 위해 필요한 서버 수와 랙 수가 크게 줄어든다. 이는 케이블, 전력 인프라, 장비 관리 복잡성까지 줄일 수 있다.

전력 및 냉각 효율

대용량 SSD는 많은 수의 작은 드라이브나 HDD를 대체할 수 있다. 결과적으로 데이터센터의 전력 소비와 냉각 요구량을 낮출 가능성이 있다.

GPU 활용도 향상

AI 클러스터에서 GPU는 매우 비싼 자원이다. 스토리지가 느리면 GPU가 데이터를 기다리느라 유휴 상태가 된다. 고밀도 NVMe 스토리지는 이러한 병목을 줄여 GPU 활용률을 높이는 데 도움을 준다.

245~256TB SSD 경쟁의 시작

이번 시스템은 또 다른 중요한 흐름을 보여준다. 바로 245TB~256TB급 초고용량 엔터프라이즈 SSD 경쟁이다.

예를 들어 Micron도 245TB급 6600 ION SSD를 공개하며 고밀도 데이터센터 스토리지 시장 경쟁에 뛰어들었다.

시장 수요도 빠르게 늘고 있다. TrendForce에 따르면 2025년 말 기준 세계 상위 5개 엔터프라이즈 SSD 업체 매출은 분기 대비 50% 이상 증가했다. AI 인프라 확장이 주요 원인으로 꼽힌다.

또한 글로벌 SSD 시장은 2026년 약 363억 달러에서 2031년 약 764억 달러 규모로 성장할 것으로 전망된다.

데이터센터 설계의 방향을 보여주는 사례

Dell과 Kioxia의 9.8PB 서버는 단순한 제품 발표 이상의 의미를 가진다.

SSD 용량이 계속 커지고 PCIe 대역폭이 확대되면서 단일 서버가 수 페타바이트 규모의 스토리지 노드가 되는 구조가 현실화되고 있다.

앞으로 SSD 용량이 256TB 이상으로 확장된다면, 미래의 2U 서버는 10PB를 넘어 수십 페타바이트까지 수용하는 구조로 발전할 가능성도 있다.

이는 하이퍼스케일 클라우드 기업과 AI 연구기관이 스토리지 클러스터와 데이터센터 전체를 설계하는 방식 자체를 바꿀 수 있는 변화다.