近日、Metaは開放重み人工知能モデルMuse Spark Openを発表し、Appleと協力してMac Studio向けにこのモデルのローカル実行プランを最適化することを発表した。Muse Spark Openは8160億個の総パラメータを持ち、スパースアクティベーション設計を採用しており、推論時に実際にアクティブになるパラメータは約420億で、最大100万Tokenのコンテキストウィンドウをサポートし、プログラミング、複雑な推論、AIエージェントタスクに重点を置いている。
ユーザーは、M5 Ultraチップを搭載し、各512GBの統一メモリを備えた2台のMac Studioを使用して、この大規模なモデルをデスクトップ環境で実行でき、完全にクラウドAIサービスに依存する必要はない。
今回の協力は非常に注目される。AppleとMetaは過去にプライバシーポリシー、プラットフォームルール、アプリエコシステムなどにおいて明らかな対立があったが、今回は共同で開放重みモデルをAppleのハードウェア上で実行することを推進している。MetaのCEOマーク・ザッカーバーグはAppleのCEOジョン・テヌスに協力を感謝し、テヌスはMuse Spark Openがデスクトップデバイス上で効率的に動作し、Mac StudioのローカルAI計算の潜在能力を示していると述べた。
MetaとAppleの協力が人工知能モデルのローカル実行を推進
Apple Muse Spark OpenはMeta Museモデルシリーズの開放重みバージョンである。リモートサービスを通じてのみアクセスできる閉じたモデルとは異なり、開放重みモデルはユーザーがモデルの重みを取得し、ライセンス条件を満たす限り自ら展開することを可能にし、開発者、研究者、企業により大きな実行環境の制御権を提供する。
ハードウェア面では、MetaはこのモデルがMac Studio向けに最適化されており、Appleチップの統一メモリアーキテクチャを利用して動作することを示した。従来の独立したグラフィックスカードシステムは通常、モデルの重みをビデオメモリに配置する必要があるが、Appleの統一メモリアーキテクチャはCPUとGPUが同じメモリプールを共有することを可能にする。2台のMac Studioは対応するソフトウェアフレームワークを介して協調して動作し、システムは約1TBの統一メモリを持つ。各デバイスに搭載されたM5 Ultraチップは最高1.2TB/sのメモリ帯域幅を持つ。
AppleのMLX機械学習フレームワークはApple Silicon上でのモデル実行をサポートしており、MetaはMuse Spark Openに対して相応の調整を行った。
項目 規格 処理器 M5 Ultra RAM 512GB 統一メモリ メモリ帯域幅 最高 1.2TB/s
利益声明：この記事には提携商社の製品リンクが含まれています。リンクを通じて購入した場合、TechRitualは手数料収入を得る可能性がありますが、製品評価や推奨には影響しません。詳細についてはプライバシーポリシーをご覧ください。