Baru-baru ini, Meta meluncurkan model kecerdasan buatan Muse Spark Open dan mengumumkan kerja sama dengan Apple untuk mengoptimalkan model tersebut pada Mac Studio. Menurut informasi yang diperoleh, Muse Spark Open memiliki total 8160 miliar parameter, menggunakan desain aktivasi jarang, dengan sekitar 420 miliar parameter yang aktif selama setiap inferensi, serta mendukung jendela konteks hingga 1 juta Token, dengan fokus pada pemrograman, penalaran kompleks, dan tugas agen AI.
Dengan dua unit Mac Studio yang dilengkapi chip M5 Ultra, masing-masing dengan 512GB memori terpadu, pengguna dapat menjalankan model besar ini di lingkungan desktop tanpa harus sepenuhnya bergantung pada layanan AI cloud.
Kerja sama ini cukup menarik perhatian. Apple dan Meta sebelumnya memiliki perbedaan yang jelas dalam kebijakan privasi, aturan platform, dan ekosistem aplikasi, namun kali ini keduanya bekerja sama untuk mendorong model open weight berjalan di perangkat keras Apple. CEO Meta, Mark Zuckerberg, mengucapkan terima kasih kepada CEO Apple, John Ternus, atas partisipasinya dalam kolaborasi ini. Ternus menyatakan bahwa Muse Spark Open dapat berjalan dengan efisien di perangkat desktop, menunjukkan potensi Mac Studio dalam komputasi AI lokal.
Kerja Sama Meta dan Apple Mendorong Operasional Model Kecerdasan Buatan Secara Lokal
Apple Muse Spark Open adalah versi open weight dari seri model Meta Muse. Berbeda dengan model tertutup yang hanya dapat diakses melalui layanan jarak jauh, model open weight memungkinkan pengguna untuk mengakses bobot model dan menerapkannya sendiri dengan syarat izin yang sesuai, memberikan kontrol yang lebih besar atas lingkungan operasional bagi pengembang, peneliti, dan perusahaan.
Di tingkat perangkat keras, Meta menyatakan bahwa model ini telah dioptimalkan untuk Mac Studio dan dapat memanfaatkan arsitektur memori terpadu dari chip Apple. Sistem kartu grafis independen tradisional biasanya memerlukan bobot model untuk dimasukkan ke dalam memori grafis, sementara arsitektur memori terpadu Apple memungkinkan CPU dan GPU berbagi kolam memori yang sama. Dua Mac Studio dapat beroperasi secara kolaboratif melalui kerangka perangkat lunak yang sesuai, memberikan sistem sekitar 1TB memori terpadu. Setiap perangkat dilengkapi chip M5 Ultra dengan bandwidth memori maksimum 1.2TB/s.
Kerangka pembelajaran mesin MLX Apple mendukung eksekusi model di Apple Silicon, sementara Meta telah melakukan penyesuaian untuk Muse Spark Open.
Item Spesifikasi Prosesor M5 Ultra RAM 512GB memori terpadu Bandwidth Memori Maksimum 1.2TB/s
Pernyataan kepentingan: Artikel ini berisi tautan produk dari mitra kolaborasi, jika Anda membeli melalui tautan tersebut, TechRitual mungkin mendapatkan komisi, namun tidak mempengaruhi penilaian dan rekomendasi produk. Untuk detail lebih lanjut, silakan lihat kebijakan privasi.