Recientemente, Meta lanzó el modelo de inteligencia artificial de pesos abiertos Muse Spark Open y anunció una colaboración con Apple para optimizar la ejecución local de este modelo en Mac Studio. Según se ha informado, Muse Spark Open cuenta con un total de 816 mil millones de parámetros, utiliza un diseño de activación dispersa, y activa aproximadamente 42 mil millones de parámetros en cada inferencia, soportando una ventana de contexto de hasta 1 millón de tokens, enfocándose en tareas de programación, razonamiento complejo y agentes de IA.
A través de dos Mac Studio equipados con el chip M5 Ultra, cada uno con 512GB de memoria unificada, los usuarios pueden ejecutar este modelo de gran escala en un entorno de escritorio sin depender completamente de los servicios de IA en la nube.
Esta colaboración es notable. Apple y Meta han tenido diferencias significativas en políticas de privacidad, reglas de plataforma y ecosistemas de aplicaciones, pero ahora trabajan juntos para impulsar la ejecución de modelos de pesos abiertos en el hardware de Apple. El CEO de Meta, Mark Zuckerberg, agradeció al CEO de Apple, John Ternus, por su participación en la colaboración, y Ternus afirmó que Muse Spark Open puede ejecutarse de manera eficiente en dispositivos de escritorio, demostrando el potencial del Mac Studio en el cálculo de IA local.
La colaboración entre Meta y Apple impulsa la ejecución local de modelos de inteligencia artificial
Apple Muse Spark Open es la versión de pesos abiertos de la serie de modelos Muse de Meta. A diferencia de los modelos cerrados que solo se pueden acceder a través de servicios remotos, los modelos de pesos abiertos permiten a los usuarios obtener los pesos del modelo y desplegarlos por su cuenta bajo condiciones de licencia, brindando a desarrolladores, investigadores y empresas un mayor control sobre el entorno de ejecución.
A nivel de hardware, Meta indicó que este modelo ha sido optimizado para Mac Studio, aprovechando la arquitectura de memoria unificada de los chips de Apple. Los sistemas de tarjetas gráficas independientes tradicionales suelen requerir que los pesos del modelo se carguen en la memoria de video, mientras que la arquitectura de memoria unificada de Apple permite que la CPU y la GPU compartan el mismo pool de memoria. Dos Mac Studio pueden operar en conjunto a través de los marcos de software correspondientes, proporcionando al sistema aproximadamente 1TB de memoria unificada. Cada dispositivo cuenta con el chip M5 Ultra, que tiene un ancho de banda de memoria de hasta 1.2TB/s.
El marco de aprendizaje automático MLX de Apple proporciona soporte para la ejecución de modelos en Apple Silicon, y Meta ha realizado ajustes específicos para Muse Spark Open.
Elemento Especificaciones Procesador M5 Ultra RAM 512GB de memoria unificada Ancho de banda de memoria Hasta 1.2TB/s
Declaración de intereses: Este artículo contiene enlaces a productos de comerciantes asociados, si compras a través de los enlaces, TechRitual puede recibir ingresos por comisiones, pero esto no afecta la evaluación y recomendación de los productos. Para más detalles, consulta nuestra política de privacidad.