- Mercury 3 supera a GPT-6 Luna y Claude Haiku 5.5 en múltiples pruebas de referencia.
- La velocidad de operación del modelo alcanza más de 1,000 tokens por segundo.
- La escala de Mercury 3 es más de 40 veces mayor que Mercury 1, con un aumento significativo en su capacidad.
- El modelo puede reducir la latencia de respuesta en aplicaciones, siendo adecuado para diversas aplicaciones interactivas.
La empresa de investigación y productos de inteligencia artificial Inception, ubicada en California, ha anunciado su último modelo de lenguaje de difusión, Mercury 3, afirmando que ha superado en velocidad a sus competidores optimizados, GPT-6 Luna y Claude Haiku 5.5, con velocidades de operación de cuatro a ocho veces más rápidas. Este nuevo modelo genera más de 1,000 tokens por segundo en GPUs de NVIDIA ampliamente disponibles, soportando una ventana de contexto de 1,000,000 tokens, lo que le permite procesar una gran cantidad de información en una sola solicitud.
Según Inception, la escala de Mercury 3 es más de 40 veces mayor que la de su modelo de primera generación, Mercury 1, y mantiene una velocidad de procesamiento considerable. La empresa indica que estos resultados demuestran que los modelos de lenguaje basados en difusión pueden volverse más potentes sin sacrificar la ventaja de velocidad de su infraestructura.
Ventajas de los modelos de lenguaje de difusión
Los modelos de lenguaje grandes tradicionales generan texto de forma secuencial, prediciendo un token a la vez. En cambio, los modelos de lenguaje de difusión adoptan un enfoque diferente, generando y mejorando múltiples tokens en paralelo. Esto les permite generar respuestas más rápidamente, reduciendo potencialmente la latencia en aplicaciones que requieren interacciones frecuentes con el modelo. Sin embargo, los desarrolladores tradicionalmente han enfrentado un compromiso entre la capacidad del modelo y la velocidad de respuesta. Los modelos más pequeños suelen responder más rápido, mientras que los sistemas más potentes a menudo requieren más tiempo de procesamiento. Inception afirma que Mercury 3 ha resuelto este desafío, ofreciendo un rendimiento comparable o superior al de los modelos recientemente lanzados por OpenAI y Anthropic en múltiples pruebas de referencia estándar, mientras mantiene una velocidad de inferencia de más de 1,000
tokens por segundo.
Este lanzamiento marca el cuarto modelo de la empresa desde el lanzamiento de Mercury 1 en junio de 2025. Mercury 2 introdujo capacidades de inferencia, mientras que Mercury 2.5 añadió inferencia ajustable y amplió la ventana de contexto a 260,000 tokens. Mercury 3 aumenta esta capacidad a 1,000,000 tokens, casi cuadruplicando la cantidad de información que el modelo puede procesar en una sola vez. Stefano Ermon, cofundador de Inception, comentó: "Desde que lanzamos Mercury 1, la pregunta que más hemos escuchado es si la tecnología de difusión puede escalar.
La escala de Mercury 3 es más de 40 veces mayor, con una capacidad significativamente mejorada, y sigue funcionando a más de 1,000 tokens por segundo." Ermon añadió que la empresa ya ha comenzado a entrenar el siguiente modelo.
Escenarios de aplicación de Mercury 3
La empresa está enfocando su modelo en aplicaciones donde la latencia de respuesta puede afectar la usabilidad, incluyendo tutoría interactiva, traducción en tiempo real, asistentes de escritura y agentes de software automatizados. En sistemas basados en agentes, el modelo a menudo realiza múltiples tareas secuenciales, como buscar en la web, analizar información o revisar registros de software. Cada etapa de latencia puede aumentar el tiempo necesario para completar la operación. Inception indica que la inferencia más rápida de Mercury 3 puede ayudar a reducir estas latencias acumulativas sin que los desarrolladores tengan que recurrir a modelos menos capaces. Los clientes de acceso anticipado ya han estado probando el modelo en flujos de trabajo de producción.
La empresa de tecnología educativa RevisionDojo informó que Mercury 3 ha reducido el tiempo de respuesta para el feedback de los estudiantes, incluyendo indicaciones, definiciones y respuestas de tokens, a aproximadamente un segundo.
Mercury 3 está disponible a través de Inception API, Baseten, OpenRouter y Vercel. El modelo es compatible con el formato de API de OpenAI, permitiendo a los desarrolladores integrarlo en aplicaciones existentes sin necesidad de realizar cambios de código a gran escala.
Elemento Especificaciones Nombre del modelo Mercury 3 Velocidad de generación Más de 1,000 tokens por segundo Ventana de contexto 1,000,000 tokens Escala en relación a Mercury 1 Más de 40 veces
Cómo Mercury 3 cambia el panorama de las aplicaciones de modelos de lenguaje
El lanzamiento de Mercury 3 no solo representa un avance de Inception en la tecnología de modelos de lenguaje de difusión, sino que también muestra su equilibrio entre velocidad y capacidad. El diseño de este modelo está destinado a abordar el compromiso entre velocidad y capacidad de los modelos de lenguaje grandes tradicionales, haciéndolo más competitivo en diversas aplicaciones. A medida que aumenta la demanda de respuestas instantáneas, la capacidad de inferencia rápida de Mercury 3 contribuirá a mejorar la experiencia del usuario, especialmente en áreas como la educación y la automatización. Esto también podría llevar a otras empresas a reevaluar el diseño de sus modelos de lenguaje, buscando lograr un mejor equilibrio entre rendimiento y velocidad.