- NVIDIA lanza tres modelos de IA de código abierto, con el núcleo en Nemotron 3.5 Super VL.
- Super VL puede interpretar información visual, con una velocidad cinco veces mayor que la de sus competidores.
- Los desarrolladores pueden entrenar el modelo con información propietaria para mejorar el rendimiento en tareas específicas.
- Múltiples organizaciones han comenzado a personalizar Super VL para aplicarlo en diferentes campos.
NVIDIA ha anunciado el lanzamiento de tres modelos de inteligencia artificial de código abierto, diseñados para introducir agentes autónomos en más entornos computacionales. El núcleo de esta serie es el Nemotron 3.5 Super VL, un modelo con 120 mil millones de parámetros, creado para tareas complejas. Dos variantes más pequeñas están dirigidas a usuarios que desean ejecutar agentes de inteligencia artificial en hardware local. Este lanzamiento amplía la promoción de NVIDIA de la inteligencia artificial personalizable, permitiendo a las organizaciones ejecutar inteligencia artificial en su propia infraestructura y abordando un desafío práctico para los desarrolladores: operar agentes capaces sin enviar cada solicitud a un servicio en la nube.
Las potentes capacidades de Super VL
Super VL está diseñado para flujos de trabajo complejos; el Nemotron 3.5 Super VL puede manejar tareas que van más allá de la generación de texto. Puede interpretar información visual y seguir instrucciones, utilizando herramientas externas para completar flujos de trabajo de múltiples pasos. NVIDIA afirma que la velocidad con la que el modelo completa tareas es cinco veces mayor que la de sus competidores. La compañía también indicó que, a pesar de que el número de parámetros es aproximadamente una quinta parte de los modelos de inferencia más grandes, su precisión es cercana a la de los modelos de inferencia más grandes de NVIDIA. Estas capacidades pueden ayudar a las empresas a automatizar trabajos que requieren largas investigaciones o análisis detallados de documentos.
Los desarrolladores también pueden entrenar el modelo con información propietaria para mejorar su rendimiento en tareas específicas.
NVIDIA Nemotron 3.5 Super VL es un modelo abierto que combina inferencia y uso de herramientas, con capacidades de comprensión de texto, imágenes, documentos y videos, adecuado para agentes de inteligencia artificial que operan a largo plazo. El modelo cuenta con un total de 120 mil millones de parámetros, de los cuales 12 mil millones son parámetros activos. Para obtener más información, se puede consultar el Twitter de NVIDIA.
Ejemplos de aplicaciones personalizadas
Múltiples organizaciones han comenzado a personalizar Super VL. Scale AI lo adaptó como un agente de financiamiento de crédito para proveedores de Skydance, y desarrolló otra versión para el agente de debida diligencia en fusiones y adquisiciones de EY. AfterQuery personalizó el modelo para el análisis de acuerdos de crédito de Hebbia. Otros proyectos se han centrado en el ámbito de la ciberseguridad, donde AI21 y Alice han colaborado en la resiliencia ante ataques. Mercor también realizó un entrenamiento posterior para tareas de codificación, que involucran pruebas de referencia APEX-SWE.
Nemotron 3.5 Bolt está diseñado para hardware con menos memoria, y sus dos variantes ofrecen diferentes métodos para ejecutar agentes de inteligencia artificial sin depender de infraestructura remota. El más grande, Bolt 74B-A9B, utiliza cuantificación nativa de 2 bits y puede operar dentro de un rango de 24GB de memoria. Este uso de memoria permite que sistemas compatibles ejecuten otras aplicaciones mientras operan el modelo. Los desarrolladores pueden utilizarlo para asistencia de codificación local o delegar investigaciones en línea a un marco de agentes. NVIDIA ha clasificado este modelo como el primero en su categoría de modelos abiertos en PinchBench, y afirma que ocupa el segundo lugar en BrowseComp.
Bolt E4B tiene un menor uso de memoria de 4GB, diseñado por NVIDIA para agentes de conversación que requieren respuestas rápidas. Las aplicaciones potenciales incluyen asistentes de voz y personajes interactivos. El modelo también está diseñado para sistemas de inteligencia artificial física que operan en hardware NVIDIA Jetson. Bolt E4B está programado para ser lanzado el 23 de octubre, mientras que el modelo más grande de Bolt ya está disponible en el mercado.
NVIDIA está lanzando Super VL, junto con pesos abiertos y materiales de soporte para entrenamiento. Su proceso de entrenamiento abarca aproximadamente 26 trillones de etiquetas. El entrenamiento posterior involucra alrededor de 3.8 millones de muestras y se lleva a cabo en múltiples entornos mediante aprendizaje reforzado. Las organizaciones pueden ajustar el modelo a través de NVIDIA NeMo y tuberías basadas en Python. El despliegue local también les permite tener un mayor control sobre la información sensible, de acuerdo con su propia infraestructura y configuración. Super VL está disponible a través de Hugging Face, OpenRouter y ModelScope, y NVIDIA también ofrece el modelo a través de su plataforma de servicios de inteligencia artificial NIM, mientras que Bolt
74B-A9B está disponible en Hugging Face. Los desarrolladores pueden utilizar herramientas como Ollama o LM Studio para ejecutar este modelo.
El rendimiento de estos modelos, especialmente fuera de las pruebas de referencia, sigue siendo una gran incógnita. Su atractivo dependerá en última instancia de si el hardware local puede proporcionar resultados confiables sin requerir demasiada memoria o comprometer la velocidad de respuesta.
Modelo Especificaciones Nemotron 3.5 Super VL 120 mil millones de parámetros Bolt 74B-A9B 24GB de uso de memoria Bolt E4B 4GB de uso de memoria
Impacto de los modelos de NVIDIA en aplicaciones de IA locales
El modelo Nemotron 3.5 Super VL de NVIDIA no solo posee una potente capacidad de procesamiento, sino que también puede ejecutarse en hardware local, lo que es de gran importancia para muchas empresas. A medida que aumenta la preocupación por la privacidad y seguridad de los datos, las empresas desean ejecutar modelos de IA en su propia infraestructura, reduciendo así la dependencia de los servicios en la nube. Además, los desarrolladores pueden realizar un entrenamiento adicional con información propietaria, lo que permite optimizar para necesidades específicas y mejorar la eficiencia del trabajo. Estas características hacen de Super VL una opción ideal para la automatización empresarial y el procesamiento de datos.