- Maia 300 akan diluncurkan pada 2027, bertujuan mengurangi ketergantungan pada NVIDIA.
- Desain akselerator ini berfokus pada beban kerja intensif memori dan tugas multi-langkah.
- Maia 300 menghasilkan output token per megawatt 40% lebih banyak dibandingkan sistem GPU existing.
- Microsoft berencana men-deploy seri Maia sebagai strategi inti memperluas kapasitas komputasi AI.
Microsoft berencana meluncurkan akselerator kecerdasan buatan Maia 300 generasi berikutnya pada 2027, bertujuan melepaskan ketergantungan pada NVIDIA, serta menghasilkan output token per megawatt 40% lebih banyak dibandingkan sistem berbasis GPU terdepan saat ini. Chip ini akan menggerakkan infrastruktur kecerdasan buatan Microsoft yang terus berkembang, dan didesain dengan konfigurasi rak 96 akselerator, diperkirakan mampu mencapai ketujuh kalinya kemampuan pemrosesan token pendahulunya. Pengumuman ini menandai langkah maju lain Microsoft dalam membangun silikon kustom untuk inferensi AI skala besar.
Akselerator Maia 200-nya saat ini sudah menangani beban kerja produksi, termasuk Copilot Microsoft. Microsoft memperkirakan GitHub Copilot dan Microsoft Foundry akan mengadopsi perangkat keras tersebut sebelum akhir 2026.
Ciri Desain Maia 300
Maia 300 mengadopsi strategi efisiensi inferensi tingkat sistem, dengan arsitektur yang dioptimalkan untuk beban kerja intensif memori, inferensi konteks panjang, serta agen AI yang mengeksekusi tugas kompleks multi-langkah. Desain didorong oleh bandwidth memori, Maia 300 menggabungkan delapan tumpukan memori HBM4 dengan bandwidth puncak 18 TB per detik. Sistem beroperasi dalam rentang daya desain termal 950 watt untuk menjawab kebutuhan memori model AI besar yang terus meningkat. Microsoft juga mengadopsi desain multi-chip, memisahkan fungsi komputasi, pengontrol memori, dan input/output.
Chip komputasi menggunakan proses manufaktur N2P TSMC, bertujuan meningkatkan performa per watt. Akselerator ini juga mendukung komputasi presisi rendah MXFP4 yang ditingkatkan, metode yang mengurangi kebutuhan memori untuk komputasi model dan penyimpanan cache key-value. Penghematan ini membantu sistem menampung jendela konteks lebih panjang, dan memproses lebih banyak permintaan dalam anggaran daya yang sama.
Ekspektasi Performa Maia 300
Peran perangkat lunak vital dalam desain ini. Arsitektur dataflow defined-by-software Microsoft bertujuan membuat data tetap dekat dengan sumber daya komputasi, sehingga mengurangi transfer yang tidak perlu. Optimasi kernel bantu AI juga membantu meningkatkan utilitas perangkat keras di seluruh beban kerja. Jaringan Maia 300 menghubungkan 96 akselerator, memperluas arsitekturnya ke seluruh rak. Setiap konfigurasi mengombinasikan 96 akselerator dalam envelop daya 167 kilowatt. Microsoft mencantumkan kapasitas HBM 27.6 TB dan total bandwidth memori agregat 1.7 PB per detik, menargetkan beban kerja inferensi lebih besar dan lebih banyak interaksi AI simultan dalam satu deployment.
Jaringan kustom melalui koneksi bandwidth tinggi mengoptimalkan link tensor-parallel yang menghubungkan akselerator. Lapisan transportasi fokus AI menggunakan infrastruktur Ethernet mendukung komunikasi antar akselerator dan rak, didesain untuk menskalakan beban kerja tanpa memperlakukan jaringan sebagai bottleneck terpisah.
Microsoft menyatakan, Maia 300 seharusnya mampu mengantarkan token per megawatt 40% lebih banyak dibandingkan sistem berbasis GPU terdepan, prediksi throughput skala rak-nya juga menunjukkan pertumbuhan signifikan dibandingkan Maia 200, meski perusahaan belum merinci benchmark independen untuk perbandingan tersebut. Microsoft telah men-deploy Maia 200 di AS, Eropa, dan Australia, dan melaporkan fitur AI bawaan dalam pengalaman Teams, Copilot, dan Cowork menghasilkan token per watt 1.7 kali lipat dibandingkan infrastruktur GPU terdepan.
Akselerator existing menjalankan model OpenAI, model MAI Microsoft, serta rangkaian model open-source. Microsoft memanfaatkan data performa layanan ini untuk mengarahkan pengembangan perangkat keras dan mengoptimalkan beban kerja real-world. Maia 300 akan mendukung upaya pengembangan model Microsoft, inferensi cloud, dan alat coding berbasis agen, serta diperkirakan perangkat keras ini akan membantu menskalakan Dragon Copilot, asisten AI klinis mereka, dengan deployment produksi dimulai 2027.
Rencana jangka panjang Microsoft menuntun deployment Maia multi-gigawatt dimulai tahun tersebut, memposisikan silikon kustom sebagai komponen utama strategi memperluas kapasitas komputasi AI-nya.
Item Spesifikasi Memori 8 tumpukan memori HBM4 Bandwidth Puncak 18 TB per detik Daya Desain Termal 950 watt Kapasitas Rak 27.6 TB HBM Total Bandwidth Memori 1.7 PB per detik
Dampak Maia 300 Terhadap Ekosistem AI Microsoft
Peluncuran Maia 300 menandai kemajuan penting Microsoft di bidang perangkat keras AI, khususnya dalam mengurangi ketergantungan pada NVIDIA. Melalui desain yang berfokus pada beban kerja intensif memori dan tugas multi-langkah, Maia 300 berpotensi meningkatkan efisiensi komputasi keseluruhan, dan mendukung aplikasi AI lebih kompleks. Seiring meningkatnya permintaan aplikasi AI, silikon kustom Microsoft akan menjadi kunci memperluas kapasitas komputasinya, dan mungkin mengubah pola ketergantungan industri pada akselerator AI.