홍윈(HongYun)이 대규모 모델 학습과 추론을 함께 지원하는 플랫폼 HyperLM V2.5를 공개했다. 회사 측은 이 버전이 화웨이 어센드 950DT에 깊이 맞춤 적용됐고, 공랭식 Atlas 850E SuperPoD와 호환되며 화웨이의 Ascend Native 인증도 받았다고 밝혔다.
14
18
이번 발표가 내세우는 방향은 모델을 설치해 실행하는 수준을 넘어, 어센드 가속기 특성에 맞춰 자원을 관리하고 성능을 끌어내겠다는 것이다. 다만 이는 회사가 밝힌 목표와 기능 설명이며, 실제 현장에서 어느 정도 성능을 내는지는 별도로 확인해야 한다.
어센드 환경에 맞춘 기능
HyperLM V2.5에는 어센드 하드웨어 관련 기능으로 UnifiedBus 2.0 지원, mxFP4 튜닝, 가상 NPU(vNPU) 분할, 프리필과 디코드 작업을 나눠 처리하는 추론 방식이 포함됐다고 보도됐다. 프리필은 입력 문맥을 처리하는 단계, 디코드는 그 문맥을 바탕으로 토큰을 생성하는 단계다.
7
14
홍윈은 이 플랫폼을 정부·기업의 대규모 대화, 긴 문서 처리, 에이전트의 연속 추론 같은 업무에 활용할 수 있다고 소개했다. Atlas 850E의 공랭식 설계가 기존 데이터센터의 대규모 시설 변경 없이 도입될 수 있다는 설명도 덧붙였다. 이 내용은 발표 측의 활용 구상이며, 공개된 보도에는 실제 도입 사례나 독립적인 검증 결과가 제시되지 않았다.
18
운영·관리 기능과 향후 계획
발표를 다룬 별도 자료에는 연산 부하, 메모리 사용량, 대역폭, API 지연시간, 요청량을 모니터링하고 성능 저하를 알리거나 장애 원인을 찾는 기능이 언급됐다. 업무 우선순위에 따른 자원 배분도 지원한다고 소개됐다.
28
홍윈은 화웨이 어센드와 하이곤 DCU 하드웨어를 대상으로 이기종 자원 스케줄링, 추론 가속, 캐싱, 에이전트 애플리케이션 지원을 이어갈 계획이라고 밝혔다.
28
성능은 아직 별도 확인이 필요
현재 확인 가능한 보도만으로는 HyperLM V2.5가 실제 운영 환경에서 가속기 활용률이나 최고 성능을 얼마나 달성했는지 알 수 없다. 플랫폼 자체를 대상으로 한 독립 벤치마크도 제시되지 않았다. 따라서 확인된 내용은 어센드 맞춤 기능과 추론·운영 도구를 통합한 새 버전이 나왔다는 점이며, 성능 주장은 실제 측정 결과가 공개돼야 판단할 수 있다.
14
18