마이크로소프트가 2026년 10월 12일 OCP 글로벌 서밋에서 3세대 자체 AI 추론 가속기 ‘Maia 300’을 공개했습니다. 회사는 2027년부터 Azure Maia 제품군을 다중 기가와트 규모로 확대하고, Maia를 자사 제품과 서비스의 주요 추론 시스템으로 삼겠다는 계획을 밝혔습니다.
2
4
이번 발표의 핵심은 AI 모델을 학습시키는 칩을 새로 내놨다는 것보다, 이미 학습된 모델을 실제 서비스에서 실행하는 ‘추론’에 자체 설계 칩을 더 폭넓게 쓰겠다는 데 있습니다. 다만 배치 계획과 성능 수치는 향후 목표 또는 회사 측 주장으로 봐야 합니다. Maia 300의 생산 배치는 2027년 시작될 예정이며, 제공된 자료에는 독립적으로 검증된 벤치마크 결과가 없습니다.
마이크로소프트가 밝힌 계획
마이크로소프트는 Maia 300을 Copilot과 AI 에이전트 등 자사 제품·서비스의 추론 작업에 활용하겠다고 밝혔습니다. Azure Maia 제품군을 2027년부터 다중 기가와트 규모로 배치한다는 구상도 함께 내놨습니다.
2
4
추론은 학습이 끝난 AI 모델에 질문이나 작업을 주고 답변·결과를 생성하게 하는 과정입니다. 자체 추론 가속기를 확보하면 마이크로소프트는 자사 인프라에서 AI 요청을 처리할 수 있는 선택지를 더 갖게 됩니다. 이번 움직임은 엔비디아와 AMD 같은 외부 칩 공급업체에 대한 의존도를 낮추려는 전략으로도 해석됩니다.
15
22
그렇다고 외부 칩 사용을 중단한다는 뜻은 아닙니다. 이번 발표가 뒷받침하는 것은 추론 작업에서 자체 칩의 비중을 높이려는 계획이지, 다른 업체의 프로세서를 모두 대체한다는 내용은 아닙니다.
‘30만 개’와 ‘100만 개 이상’은 확정 물량일까
로이터는 마이크로소프트가 2027년에 내부 AI 서비스용으로 Maia 300 칩을 잠재적으로 100만 개 넘게 배치할 수 있다고 보도했습니다. 이는 향후 배치 가능성에 관한 전망이며, 이미 생산·출하·설치된 수량을 확인한 것은 아닙니다.
20
별도의 보도에는 약 30만 개 칩 주문량이 언급됐습니다. 다만 해당 보도는 이 수치를 앞선 보도에 근거한 것으로 전하며, 100만 개 이상 전망과 어떤 관계인지 명확히 설명하지 않습니다. 따라서 확정된 생산량이나 출하량이 아니라 보도된 추정치로 보는 편이 정확합니다.
7
두 수치는 서로 다른 기준을 가리키거나, 직접 비교하기 어려운 보도일 수 있습니다. 마이크로소프트가 공식적으로 밝힌 계획은 2027년부터 다중 기가와트 규모로 배치를 시작한다는 것이며, 제공된 자료만으로는 물량 추정치를 하나의 확정된 숫자로 정리할 수 없습니다.
2
7
20
전력 효율과 처리량, 어디까지 확인됐나
마이크로소프트는 Maia 300이 ‘주요 GPU 기반 시스템’보다 메가와트당 토큰을 40% 더 많이 처리할 것으로 기대한다고 밝혔습니다. 그러나 어떤 시스템과 작업을 비교했는지는 공개하지 않았습니다. 따라서 이 수치는 독립적으로 입증된 성능 결과라기보다 회사의 전망으로 읽어야 합니다.
2
6
또한 마이크로소프트는 가속기 96개를 갖춘 Maia 300 전체 구성이 Maia 200보다 랙 단위 토큰 처리량을 최대 7배 높일 수 있다고 주장했습니다. 이는 이전 세대 Maia와의 비교이지, 엔비디아 칩보다 7배 빠르다는 뜻은 아닙니다.
4
보도된 랙 구성은 비교할 때 주의가 필요합니다. Maia 300 랙에는 가속기 96개가 들어가며 전력 사용량은 약 167킬로와트로 제시됐습니다. 엔비디아 GB300 랙은 GPU 72개, 약 142킬로와트로 보도됐습니다. 이 수치만으로 동일한 작업에서 어느 쪽이 더 많은 유효 결과를 내는지 판단할 수는 없습니다.
20
공개된 주요 하드웨어 사양
마이크로소프트의 아키텍처 설명에 따르면 Maia 300 가속기 하나에는 HBM4 메모리 스택 8개가 탑재됩니다. 메모리 용량은 288GB, 대역폭은 초당 18TB입니다.
37 StorageReview는 칩의 전력 수치를 950와트로, 연산 다이는 TSMC의 N2P 공정을 사용한다고 전했습니다.
10
이 칩은 추론 작업을 겨냥해 설계됐습니다. 보도에서 언급된 활용 분야에는 긴 문맥을 다루는 추론, 대화형 AI, 여러 단계를 수행하는 AI 에이전트 작업이 포함됩니다.
8 다만 공개된 사양과 목표 작업이 해당 분야에서의 성능을 독립적으로 입증하는 것은 아닙니다.
발표가 보여주는 것과 아직 보여주지 못한 것
이번 발표에서 가장 분명한 신호는 마이크로소프트가 자사 AI 추론 인프라에서 Maia 칩의 역할을 키우려 한다는 점입니다. 회사는 2027년부터 다중 기가와트 규모로 배치하겠다는 계획을 제시했습니다.
2
4
메가와트당 토큰 40% 증가, Maia 200 대비 최대 7배의 랙 처리량, 대규모 칩 배치 전망은 마이크로소프트가 내세운 목표와 전략을 보여줍니다. 그러나 이것이 독립 검증된 성능이나 완료된 배치 물량과 같은 의미는 아닙니다. 제공된 자료는 토큰당 비용이 얼마나 줄어들지도 구체적으로 밝히지 않습니다.
따라서 현재 Maia 300의 의미는 모든 경쟁 GPU보다 뛰어나다는 입증에 있기보다, 마이크로소프트가 자체 추론 칩을 대규모로 도입하려는 계획과 전력 효율 개선 목표에 있습니다.