NVIDIA lanza la aplicación Underdog para facilitar la gestión y ejecución de modelos de IA locales

·por Henderson·AI
NVIDIA lanza la aplicación Underdog para facilitar la gestión y ejecución de modelos de IA locales

NVIDIA ha lanzado recientemente la aplicación Underdog, diseñada para simplificar la gestión y ejecución de modelos de IA locales. Esta aplicación está especialmente diseñada para RTX Spark, permitiendo procesar tareas de IA en el ordenador a través de un motor de inferencia dedicado, sin necesidad de conexión a la nube, manteniendo los datos relevantes en el dispositivo del usuario. Los portátiles NVIDIA RTX Spark salieron a la venta el 16 de octubre, utilizando un sistema en chip basado en arquitectura Arm y ejecutando el sistema operativo Windows, orientados principalmente a aplicaciones de IA de alta carga como modelos de lenguaje locales. Actualmente, ASUS, Dell, HP, Lenovo, Microsoft y MSI han lanzado productos relacionados, mientras que Acer también está preparando modelos.

Según se informa, Underdog utiliza un motor de inferencia Husky diseñado para modelos específicos, permitiendo a los usuarios ejecutar modelos de IA locales directamente en dispositivos RTX Spark. Dado que el proceso de inferencia no depende de servicios en la nube, los datos del usuario no necesitan ser subidos a servidores externos, lo que reduce el riesgo de privacidad asociado con la salida de datos del dispositivo local.

La aplicación Underdog mejora la eficiencia en la gestión de modelos de IA locales

NVIDIA también ha anunciado actualizaciones de rendimiento para herramientas de inferencia locales. llama.cpp ahora incluye soporte para la decodificación MTP de Qwen 3.8 Flash Next. Al ejecutarse en dispositivos con RTX Pro 6000 Blackwell, la velocidad de procesamiento de tareas de agentes de extremo a extremo puede aumentar aproximadamente 1.4 veces. Además, NVIDIA ha indicado que los modelos de difusión Nemotron Bolt E4B 4B, GLM, DeepSeek, Qwen, MiniMax y FLUX 3 Klein recibirán soporte inicial.

Esto significa que los modelos relacionados estarán disponibles para su uso en dispositivos compatibles tan pronto como se publiquen, sin que los usuarios tengan que esperar actualizaciones de compatibilidad posteriores. Underdog, junto con el plan de soporte mencionado, mejora aún más el entorno de software de IA local en dispositivos RTX Spark.

Declaración de intereses: Este artículo contiene enlaces a productos de comerciantes asociados; si compras a través de los enlaces, TechRitual puede recibir ingresos por comisiones, pero esto no afecta la evaluación y recomendación de los productos. Para más detalles, consulta nuestra política de privacidad.

H
Sobre el autor
Henderson