Kürzlich hat Meta das Open-Weight-KI-Modell Muse Spark Open veröffentlicht und angekündigt, mit Apple zusammenzuarbeiten, um das lokale Betriebsmodell für Mac Studio zu optimieren. Muse Spark Open verfügt über insgesamt 8160 Milliarden Parameter und verwendet ein sparsames Aktivierungsdesign, bei dem bei jeder Inferenz etwa 42 Milliarden Parameter tatsächlich aktiviert werden. Es unterstützt ein Kontextfenster von bis zu 1 Million Tokens und richtet sich insbesondere an Programmierung, komplexe Schlussfolgerungen und KI-Agentenaufgaben.
Durch zwei Mac Studio mit M5 Ultra-Chips, die jeweils mit 512GB Unified Memory ausgestattet sind, können Benutzer dieses umfangreiche Modell in einer Desktop-Umgebung ausführen, ohne vollständig auf Cloud-KI-Dienste angewiesen zu sein.
Diese Zusammenarbeit ist besonders bemerkenswert. Apple und Meta hatten in der Vergangenheit deutliche Differenzen in Bezug auf Datenschutzrichtlinien, Plattformregeln und Anwendungsökosysteme, doch nun arbeiten beide gemeinsam daran, das Open-Weight-Modell auf Apple-Hardware zum Laufen zu bringen. Meta-CEO Mark Zuckerberg dankte Apple-CEO John Ternus für die Zusammenarbeit, während Ternus erklärte, dass Muse Spark Open effizient auf Desktop-Geräten laufen könne und das Potenzial von Mac Studio für lokale KI-Berechnungen demonstriere.
Metas und Apples Zusammenarbeit fördert den lokalen Betrieb von KI-Modellen
Apple Muse Spark Open ist die Open-Weight-Version von Metas Muse-Modellreihe. Im Gegensatz zu geschlossenen Modellen, die nur über Remote-Services zugänglich sind, erlauben Open-Weight-Modelle den Benutzern, die Modellgewichte zu erhalten und diese unter Einhaltung der Lizenzbedingungen selbst zu implementieren, was Entwicklern, Forschern und Unternehmen mehr Kontrolle über die Betriebsumgebung bietet.
Auf der Hardware-Ebene gibt Meta an, dass das Modell für Mac Studio optimiert wurde und die Unified Memory-Architektur der Apple-Chips nutzt. Traditionelle dedizierte Grafikkartensysteme müssen die Modellgewichte in den Grafikspeicher laden, während die Unified Memory-Architektur von Apple es CPU und GPU ermöglicht, denselben Speicherpool zu teilen. Zwei Mac Studio können durch entsprechende Software-Frameworks zusammenarbeiten, wodurch das System über etwa 1TB Unified Memory verfügt. Jeder Mac Studio ist mit einem M5 Ultra-Chip ausgestattet, der eine maximale Speicherbandbreite von 1,2TB/s bietet.
Apples MLX-Maschinenlernframework unterstützt die Ausführung von Modellen auf Apple Silicon, während Meta Anpassungen für Muse Spark Open vorgenommen hat.
Artikel Spezifikationen Prozessor M5 Ultra RAM 512GB Unified Memory Speicherbandbreite maximal 1,2TB/s
Haftungsausschluss: Dieser Artikel enthält Links zu Produkten von Partnerunternehmen. Wenn Sie über diese Links kaufen, kann TechRitual eine Provision erhalten, die jedoch die Produktbewertung und -empfehlung nicht beeinflusst. Weitere Informationen finden Sie in der Datenschutzrichtlinie.