화웨이의 풀스택 AI 데이터센터 플랫폼: 5계층 구조와 핵심 기술

기초 인프라는 OceanStor Pacific 분산 스케일아웃 스토리지다. AI 학습 데이터와 벡터 임베딩 등 대규모 데이터를 저장하도록 설계됐다.

화웨이에 따르면 이 시스템은 **2U 섀시에 최대 11페타바이트(PB)**까지 저장할 수 있어 AI 데이터센터에서 요구되는 고밀도 저장을 목표로 한다. 이는 대규모 데이터 처리 환경에서 총소유비용(TCO)을 낮추기 위한 설계라고 설명된다.

2. 데이터 관리 계층

스토리지 위에는 DME Omni‑Dataverse라는 통합 데이터 관리 플랫폼이 배치된다.

이 시스템은 다음과 같은 기능을 제공한다.

• 멀티모달 데이터 수집
• 여러 데이터센터 간 데이터 관리
• 전역 데이터 가시성 및 제어
• 대규모 벡터 데이터 검색

관련 보고에 따르면 이 플랫폼은 수천억 개 규모의 벡터 데이터셋을 초 단위로 검색할 수 있도록 설계됐다. 이는 기업용 AI 모델이 지식베이스나 임베딩 데이터를 빠르게 조회할 수 있게 하기 위한 것이다.

3. 모델 배포 및 추론 계층

세 번째 계층은 AI 모델 실행과 추론 성능에 집중한다.

주요 구성 기술은 다음과 같다.

• Context Memory Storage(CMS)
• ModelEngine

CMS는 초대형 추론 클러스터를 위해 설계된 메모리 아키텍처로, 서로 다른 종류의 컴퓨팅 자원을 함께 사용하는 이기종 컴퓨팅 환경을 지원한다. 또한 대규모 KV‑캐시 메모리 풀을 공유할 수 있도록 설계되어 추론 속도를 높이는 데 도움을 준다고 화웨이는 설명한다.

ModelEngine은 모델 실행 환경이자 배포 플랫폼으로, 새로운 AI 모델을 빠르게 배포하고 관리할 수 있는 기능을 제공한다. 일부 기능은 모델 게이트웨이 역할도 수행하며 설정 최소화 또는 무코드 방식 배포를 지원한다고 소개됐다.

4. AI 에이전트 오케스트레이션 계층

화웨이는 기업 업무 자동화를 위해 Nexent라는 AI 에이전트 플랫폼도 함께 공개했다.

Nexent는 ModelEngine과 연동해 여러 AI 모델과 도구를 조합하고 기업 업무 흐름에 연결하는 AI 에이전트 오케스트레이션 환경을 제공한다.

이 계층의 목적은 단순히 모델을 실행하는 것을 넘어, 실제 업무에서 사용할 수 있는 AI 기반 자동화 시스템으로 확장하는 것이다. 예를 들어 고객 지원, 데이터 분석, 의사결정 지원 등 다양한 기업 업무에 AI 에이전트를 적용할 수 있도록 설계됐다.

5. 데이터 복원력(Resilience) 계층

마지막 계층은 보안과 데이터 보호에 초점을 맞춘다.

화웨이는 이를 엔드투엔드 데이터 복원력 프레임워크로 설명하며 다음과 같은 기능을 강조했다.

• 변경 불가능한 스냅샷 및 백업
• 엔드투엔드 데이터 보호
• 재해 복구 및 장애 대응

이러한 기능은 특히 랜섬웨어 공격과 같은 위협으로부터 AI 데이터와 인프라를 보호하기 위한 것이다. 일부 보도에서는 AI 파이프라인에서 발생할 수 있는 데이터 무결성 문제나 데이터 품질 공격 위험을 완화하는 역할도 언급됐지만, 구체적인 기술 구현 방식은 공개된 정보가 제한적이다.

성능 및 효율성 주장

화웨이는 이 플랫폼이 기업의 AI 구축 속도를 크게 높일 수 있다고 주장한다.

주요 성능 주장에는 다음이 포함된다.

• 일부 추론 시나리오에서 토큰 생성 속도 최대 10배 향상 (CMS 메모리 구조 활용)
• AI 애플리케이션 구축 시간이 수주에서 수일 수준으로 단축
• KV‑캐시 최적화와 통합 캐시 관리로 추론 지연 감소

다만 이러한 수치는 일반적인 환경이 아니라 특정 테스트 환경이나 벤더 벤치마크 기준일 가능성이 있어 실제 환경에서는 차이가 날 수 있다.

실제 기업 도입 사례

화웨이는 이미 일부 기업이 자사 데이터센터 인프라를 도입했다고 밝혔다.

대표 사례로 프랑스 대형 유통기업 **오샹(Auchan)**이 언급됐다. 이 회사는 프랑스 내 세 개 데이터센터에 화웨이 하드웨어와 데이터센터 클러스터를 구축해 인프라 현대화를 진행한 것으로 알려졌다.

다만 공개 자료에서는 오샹의 클라우드 비용 절감이 화웨이 플랫폼 때문인지 여부는 명확히 확인되지 않는다. 다른 자료에서는 오샹이 Google Cloud 기반 데이터 플랫폼도 활용해 비용과 데이터 처리 성능을 개선한 것으로 나타나며, 이는 복수 기술이 함께 사용된 결과일 가능성이 있다.

왜 ‘풀스택 AI 인프라’인가

최근 AI 산업에서는 스토리지, 데이터 플랫폼, 모델 실행 환경, 애플리케이션 자동화를 하나의 플랫폼으로 통합하는 전략이 확산되고 있다.

화웨이의 접근 방식은 특히 데이터 인프라 중심 AI 아키텍처에 초점을 맞춘다. 즉 AI 성능은 단순한 GPU 연산 능력뿐 아니라 다음 요소에도 크게 좌우된다는 관점이다.

• 데이터 저장 구조
• 벡터 검색 성능
• 추론 메모리 관리
• 에이전트 기반 애플리케이션 실행

기업들이 이러한 구조를 채택할 경우, AI 데이터센터는 데이터 → 모델 → 에이전트 → 실제 비즈니스 서비스로 이어지는 통합 플랫폼 형태로 발전할 가능성이 있다.