# 마이크로소프트, 자사 AI 칩 “Maia 300” 발표… 2027년부터 Azure Maia를 주력 추론 기반으로 전개

> https://bookfactory.kr/board/news/21814
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-14T23:33:17.839Z

---

이미지 출처: Microsoft

마이크로소프트는 2026년 10월 12일 (미국 시간), 자사 제 AI 가속기 제3세대 “Azure Maia 300”을 발표했다. 2027년에 본판 환경에 대한 배포를 시작할 예정이며, Azure Maia 패밀리를 멀티 기가와트 규모로 확대하여, 회사의 제품 및 서비스를 지탱하는 주요 AI 추론 시스템으로 할 것이다.

Maia 300은, 긴 문맥을 다루는 추론, 응답 속도가 요구되는 대화, 여러 단계를 지속적으로 실행하는 AI 에이전트의 처리용으로 설계되었다. 칩뿐만 아니라, 소프트웨어, 네트워크, 랙, 데이터 센터를 하나로 통합하여 최적화한다.

## 전력당 토큰 생성량 40% 증가 – GPU 시스템 대비

마이크로소프트는 Maia 300의 시스템 전체 효율을 높임으로써, 주요 GPU 기반 시스템과 비교하여 1 메가와트당 토큰 생성량이 40% 증가할 것으로 예상하고 있다. 토큰은 AI가 문장 등을 처리 및 생성할 때의 단위이며, 같은 전력을 사용하여 더 많은 AI 처리를 제공하는 것을 목표로 한다.

또한, 96개의 가속기를 탑재한 풀 구성에서는, 랙당 토큰 처리량이 Maia 200의 최대 7배가 된다고 하고 있다. 이 숫자는 랙 전체의 비교이며, 칩 단 하나의 속도가 7배가 되는 것을 의미하지는 않는다.

■ Azure Maia 300 서버 및 랙 시스템. 풀 구성에서는 96개의 가속기를 탑재합니다.

이미지 출처: Microsoft

## HBM4 288GB 탑재, 데이터 이동을 줄여 추론 효율성 향상

대규모 AI 추론에서 연산 능력 외에도 모델 및 처리 중인 데이터를 메모리에서 효율적으로 공급하는 것이 성능에 영향을 미칩니다. Maia 300은 데이터를 처리하는 장소 근처에 보관하고 이동으로 인한 부담을 줄이는 설계를 채택했습니다.

또한, 96개의 가속기를 탑재한 풀 구성에서는 칩 단일 단위가 아닌 랙 전체의 토큰 처리량으로, 전 세대의 Maia 200의 최대 7배가 된다고 합니다.

칩은 연산, 메모리 제어, 입출력 기능을 여러 개의 작은 반도체로 나누는 칩렛 구성 방식을 채택합니다. 연산용 칩렛에는 TSMC의 N2P 제조 공정을 사용합니다. 또한, 저정밀 수치 형식을 지원하며, 연산 및 추론 중 데이터 저장에 필요한 메모리 용량과 데이터 전송량을 줄입니다.

■ Maia 300의 주요 사양 및 칩 구성. 288GB의 HBM4 메모리를 탑재하고, 피크 메모리 대역폭은 18TB/s

이미지 출처: Microsoft

네트워크는 이더넷을 기반으로 하며, 최대 128 랙, 1만 2288개의 가속기를 연결하는 구성에 대응합니다. 많은 수의 가속기가 협력하여 대규모 모델이나 AI 에이전트의 처리를 담당합니다.

## Maia 200의 실제 운영을 차세대 설계에 반영

2026년 1월에 발표된 Maia 200은 현재 Microsoft Copilot 등 실제 환경에서 가동되고 있으며, Microsoft AI 팀에 의한 차세대 모델 개발에도 활용되고 있다. 2026년 말까지에는 GitHub Copilot 및 Microsoft Foundry에서도 사용될 예정이다.

Maia 200 상에서는 OpenAI의 모델, Microsoft만의 MAI 모델, 주요 오픈 소스 모델이 가동되고 있다. Microsoft는 이러한 모델 및 서비스 운영을 통해 얻은 지식을 Maia 300의 설계에 반영했다.

양 세대의 Maia를 통해 GitHub에서 다중 단계 에이전트 처리, Microsoft Foundry에서 모델 제공, MAI 팀에 대한 추론 및 데이터 생성, 의료 지원 서비스 “Dragon Copilot”에서 저 지연의 대화를 지원할 계획이다.

관련 기사: Microsoft, 추론용 AI 가속기 “Maia 200” 발표 – GPT-5.2 포함 최신 모델을 지원하는 기반에

관련 기사: Google Cloud, 제8세대 TPU “TPU 8t/8i” 발표 – NVIDIA 협력도 확대하여 AI Hypercomputer 강화

관련 기사: OpenAI 자체 추론 칩 “하라페뇨” 실측 공개, NVIDIA GB200/GB300 대비 와트당 최대 1.9배

관련 기사: OpenAI, 최초 자체 AI 칩 “Jalapeño (하라페뇨)”를 Broadcom과 발표, LLM 추론용으로 설계

관련 기사: AWS, 자체 개발 AI 칩 “Trainium3 UltraServer”를 일반 제공 시작──3nm 프로세스 × 144 칩 구성으로 대규모 AI의 학습 및 추론을 고속화

[원문 보기](https://ledge.ai/articles/microsoft_maia_300_ai_inference) | 출처: Ledge.ai