AMD Instinct MI350P: 기업 AI 인프라에서 PCIe가 다시 주목받는 이유

기업 IT팀이 AI 인프라를 검토할 때 막히는 지점은 모델 자체만이 아니다. 전력, 냉각, 랙 공간, 서버 벤더 인증, 구매 절차가 실제 도입 속도를 좌우한다. AMD Instinct MI350P가 눈에 띄는 이유도 여기에 있다. 이 제품은 단순히 또 하나의 AI 가속기라기보다, 현세대 Instinct 가속기를 PCIe 확장 카드 형태로 기업 서버에 다시 가져오는 인프라 제품에 가깝다 .

AMD Instinct MI350P는 어떤 제품인가

AMD Instinct MI350P는 AMD MI350 제품군에 속하는 PCIe 기반 AI 가속기다. 표준 서버에 꽂는 확장 카드 형태로 설계됐고, 기업의 온프레미스 AI 추론 배포를 겨냥한다 . AMD 자료는 이 제품을 풀하이트, 풀렝스, 듀얼 슬롯 PCIe 카드로 설명하며, 일반적인 공랭식 서버에 맞추는 것을 전제로 한다 .

항목	소스에서 확인되는 내용
제품 유형	AMD Instinct MI350 계열 PCIe AI 가속기
폼팩터	풀하이트, 풀렝스, 듀얼 슬롯 PCIe 카드. 공랭식 서버용 설계
메모리	144GB HBM3E

다만 이 수치들은 제품 발표 및 출시 보도에 기반한 사양이다. 모든 기업 AI 스택에서 동일한 체감 성능을 보장하는 독립 벤치마크로 읽어서는 안 된다. MI350P의 핵심은 절대 성능 한 줄보다 배포 모델이다. AMD가 현세대 Instinct 옵션을 PCIe 카드로 제공하면서, 이를 지원할 수 있는 서버 환경에 AI 가속기를 더할 수 있게 했다는 점이 중요하다 .

왜 PCIe가 핵심인가

PCIe는 서버 내부 확장 슬롯에 장착하는 방식이다. 기업 데이터센터 관점에서는 이 폼팩터가 칩 자체만큼 중요할 수 있다. 새 랙을 들이고, 전용 섀시를 검토하고, 냉각 방식을 바꾸는 프로젝트와 기존 서버군에 카드를 추가하는 프로젝트는 예산과 일정, 승인 절차가 크게 다르기 때문이다.

AMD는 MI350P가 특수 냉각, 랙 재설계, 새 AI 시스템 구축 없이 일반 공랭식 서버에 들어가도록 설계됐다고 설명한다 . NetworkWorld도 이 카드가 고객이 이미 보유한 데이터센터 전력, 냉각, 랙 인프라 안에서 온프레미스 추론을 배포하려는 목적이라고 전했다 .

이는 최근 고밀도 AI 서버에서 흔히 보는 가속기 모듈 방식과 다른 접근이다. NetworkWorld는 AMD Instinct GPU가 전통적으로 서버 장착형 OAM 모듈을 8개 GPU 번들 형태로 제공해 왔으며, MI350P는 AMD의 4년 만의 PCIe 기반 Instinct 가속기라고 보도했다 . StorageReview도 AMD가 거의 4년 만에 현세대 Instinct 칩을 일반 서버 폼팩터로 내놓은 사례라고 설명했다 .

실무적으로 보면 PCIe는 일부 AI 인프라 프로젝트를 랙 단위 재설계가 아니라 서버 검증, 조달, 배포 문제로 바꿀 수 있다. 물론 모든 서버에 무조건 장착된다는 뜻은 아니다. 그러나 호환되는 공랭식 서버를 이미 운용하는 기업에는 도입 마찰을 줄일 수 있는 선택지가 된다 .

어떤 AI 업무를 겨냥하나

AMD는 MI350P를 기존 데이터센터로 생성형 AI와 에이전틱 AI 워크로드를 가져오는 카드로 포지셔닝한다 . 여기서 에이전틱 AI는 사용자의 지시를 받아 여러 단계의 작업을 계획하고 실행하는 형태의 AI 활용을 가리킨다. RAG는 검색증강생성으로, 사내 문서나 데이터베이스에서 관련 정보를 찾아 생성형 AI 답변에 결합하는 방식이다.

Jon Peddie Research는 MI350P의 표적을 추론 워크로드로 설명하며, 에이전틱 AI와 RAG 파이프라인을 포함한다고 봤다. 또한 이 카드는 전용 GPU 클러스터를 대체하기보다는 기존 CPU 기반 시스템에 점진적인 가속 성능을 추가하려는 제품이라고 분석했다 .

이 구분은 중요하다. MI350P는 최고 밀도 GPU 클러스터를 완전히 대체하는 카드라기보다, 기업이 이미 운영 중인 인프라 안에서 AI 서빙과 추론 용량을 늘리는 방법으로 제시된다 . 온프레미스 AI를 검토하는 조직에는 계산 성능만큼 운영 조건이 중요하다. 전용 냉각이나 랙 변경 요구가 줄어든다면, 서버와 전력, 열 조건을 충족하는 환경에서는 도입 문턱이 낮아질 수 있다 .

AMD에 왜 의미가 있나

MI350P는 AMD의 기업용 AI 가속기 라인업에서 비어 있던 자리를 메우는 제품이다. 여러 보도는 이 제품을 AMD Instinct가 약 4년 만에 PCIe로 돌아온 사례로 설명한다 . 고밀도 AI 시스템을 위한 모듈형 가속기만으로는 모든 기업 수요를 흡수하기 어렵다. 많은 기업의 AI 구매 결정은 시설 조건, 전력과 냉각, 서버 벤더 검증, 조달 경로에 묶여 있기 때문이다.

PCIe 카드는 AMD가 온프레미스 추론 용량을 원하지만 전용 GPU 클러스터 아키텍처까지는 준비되지 않은 조직에 더 접근하기 쉬운 선택지를 제시한다는 의미가 있다 . 즉 MI350P의 메시지는 ‘가장 큰 AI 슈퍼컴퓨터를 새로 짓자’가 아니라 ‘지금 가진 서버 인프라 안에서 AI 추론을 얼마나 현실적으로 늘릴 수 있느냐’에 가깝다.

‘드롭인’이라는 말의 한계

MI350P를 설명할 때 등장하는 ‘드롭인’이라는 표현은 배포 목표로 이해해야 한다. 아무 서버에나 꽂으면 바로 돌아간다는 보증은 아니다. 이 카드는 풀하이트, 풀렝스, 듀얼 슬롯 제품이며, The Register는 600와트 설계를 언급하면서 충분한 전력과 공기 흐름이 있는 경우에 일반적인 19인치 서버 설계에 들어갈 수 있다고 전했다 .

따라서 기업은 실제 도입 전에 PCIe 슬롯 호환성, 전원 공급, 섀시 내부 공기 흐름, 시스템 펌웨어, 소프트웨어 지원, 서버 벤더 인증을 확인해야 한다. 또한 현재 제공된 자료만으로는 주요 기업 AI 애플리케이션 전반에 대한 독립적인 종단 간 벤치마크가 충분히 제시됐다고 보기 어렵다. 피크 성능 수치는 출시 단계의 사양 및 보도 수치로 받아들이는 편이 안전하다 .

결론

AMD Instinct MI350P가 주목받는 이유는 현세대 Instinct AI 가속을 다시 PCIe 서버 영역으로 가져왔기 때문이다 . 이 제품의 약속은 모든 기업이 새 AI 인프라 투자를 영원히 피할 수 있다는 뜻이 아니다. 핵심은 호환 가능한 공랭식 서버를 보유한 조직이 생성형 AI, 에이전틱 AI, RAG 추론 용량을 추가할 때 랙, 냉각, 전력 설계를 처음부터 다시 짜야 하는 부담을 일부 줄일 수 있다는 점이다 .