- Maia 300 將於 2027 年推出，旨在減少對 NVIDIA 的依賴。
- 該加速器的設計專注於記憶體密集型工作負載和多步驟任務。
- Maia 300 每兆瓦的代幣輸出比現有 GPU 系統多出 40%。
- Microsoft 計劃將 Maia 系列部署作為擴展 AI 計算能力的核心策略。
Microsoft 計劃於 2027 年推出其下一代 Maia 300 人工智能加速器，旨在擺脫 NVIDIA 的依賴，並且每兆瓦的代幣輸出比目前領先的基於 GPU 的系統多出 40%。這款晶片將為 Microsoft 不斷擴大的人工智能基礎設施提供動力，並設計有 96 個加速器的機架配置，預計可實現其前代產品的七倍代幣處理能力。此公告標誌著 Microsoft 在為大規模人工智能推理建設定製矽晶片方面邁出了又一步。
其 Maia 200 加速器目前已處理生產工作負載，包括 Microsoft 的 Copilot。Microsoft 預期 GitHub Copilot 和 Microsoft Foundry 將在 2026 年底之前採用該硬件。
Maia 300 的設計特點
Maia 300 採取系統級的推理效率策略，其架構針對記憶體密集型工作負載、長上下文推理以及執行多步驟複雜任務的人工智能代理。記憶體頻寬驅動設計，Maia 300 將八個 HBM4 記憶體堆疊與每秒 18 TB 的峯值頻寬相結合。該系統在 950 瓦的熱設計功耗範圍內運行，以應對大型人工智能模型日益增長的記憶體需求。Microsoft 還採用多晶片設計，將計算、記憶體控制器和輸入/輸出功能分開。
計算晶片使用 TSMC 的 N2P 製造工藝，旨在提高每瓦的性能。該加速器還支持增強的 MXFP4 低精度計算，此方法減少了模型計算和關鍵值緩存儲存的記憶體需求。這些節省可幫助系統容納更長的上下文窗口，並在相同的功率預算內處理更多請求。
Maia 300 的性能預期
軟件在設計中扮演著重要角色。Microsoft 的軟件定義數據流架構旨在使數據靠近計算資源，從而減少不必要的傳輸。人工智能輔助的核心優化也幫助改善不同工作負載之間的硬件利用率。Maia 300 的網絡連接 96 個加速器，將其架構擴展至整個機架。每個配置在 167 千瓦的功率範圍內組合 96 個加速器。Microsoft 列出了 27.6 TB 的 HBM 容量和每秒 1.7 PB 的總記憶體頻寬，針對更大的推理工作負載和單一部署中更多的同時人工智能互動。
定製的網絡通過高頻寬連接優化張量並行的鏈接連接加速器。專注於人工智能的傳輸層使用以太網基礎設施支持加速器和機架之間的通信，設計旨在擴展工作負載，而不將網絡視為單獨的瓶頸。
Microsoft 表示，Maia 300 應該能夠每兆瓦提供比領先的基於 GPU 的系統多出 40% 的代幣，其預測的機架規模吞吐量也對比 Maia 200 有顯著增長，儘管公司尚未詳細說明這些比較的獨立基準。Microsoft 已在美國、歐洲和澳洲部署 Maia 200，並報告稱，Teams、Copilot 和 Cowork 體驗中的內建人工智能功能每瓦的代幣數量比領先的 GPU 基礎設施多出 1.7 倍。
現有的加速器運行 OpenAI 模型、Microsoft 的 MAI 模型以及開源模型系列。Microsoft 利用這些服務的性能數據來指導硬件開發並優化現實工作負載。Maia 300 將支持 Microsoft 的模型開發工作、雲端推理和基於代理的編碼工具，並預期該硬件將有助於擴展 Dragon Copilot，即其臨牀人工智能助手，生產部署將於 2027 年開始。
Microsoft 的長期計劃呼籲從當年開始進行多千兆瓦的 Maia 部署，將定製矽晶片定位為其擴展人工智能計算能力的主要組成部分。
項目 規格 記憶體 8 個 HBM4 記憶體堆疊 峯值頻寬 18 TB 每秒 熱設計功耗 950 瓦 機架容量 27.6 TB HBM 總記憶體頻寬 1.7 PB 每秒
Maia 300 對 Microsoft AI 生態系統的影響
Maia 300 的推出標誌著 Microsoft 在人工智能硬件領域的重要進展，特別是在減少對 NVIDIA 的依賴方面。透過專注於記憶體密集型工作負載和多步驟任務的設計，Maia 300 有潛力提升整體計算效率，並支持更複雜的 AI 應用。隨著 AI 應用需求的增加，Microsoft 的定製矽晶片將成為其擴展計算能力的關鍵，並可能改變行業對 AI 加速器的依賴模式。