Zhipu presentó oficialmente el 18 de septiembre el gran modelo GLM-5.3-FlashX, cuya velocidad máxima de inferencia alcanza los 200 tokens/s, con el objetivo de ofrecer a empresas y desarrolladores una experiencia de modelo más rápida y fluida. Actualmente, la API de GLM-5.3-FlashX ya está disponible. Según la compañía, para hacer frente a la creciente demanda de usuarios, Zhipu ha incrementado aún más su inversión en infraestructura y la optimización de la inferencia, sobre la base de la potencia de cómputo de chips nacionales con la que ya contaba. GLM-5.3-Flash mantiene el nivel de inteligencia más sólido entre los modelos de su mismo tamaño, con una relación calidad-precio extraordinariamente competitiva; esta nueva mejora de velocidad refuerza aún más su competitividad global en inteligencia, precio y velocidad.
Según se ha informado, el GLM-5.3-Flash lanzado previamente por Zhipu fue sometido, antes de su presentación oficial, a pruebas a gran escala entre desarrolladores de todo el mundo bajo el seudónimo de modelo «Ox Alpha», obteniendo un amplio reconocimiento. Tras su lanzamiento, el volumen de invocaciones no dejó de crecer, llegando a encabezar la clasificación de uso de la plataforma OpenRouter y marcando un nuevo récord de invocaciones simultáneas en las plataformas OpenCode y OpenRouter. Zhipu señaló que para atender todas las solicitudes de invocación en línea de GLM-5.3-Flash se desplegaron 100.000 chips nacionales.
Aunque no se ha revelado públicamente el fabricante específico de los chips, algunos analistas del sector especulan que lo más probable es que se trate de la serie de chips Huawei Ascend.
El GLM-5.3-FlashX de Zhipu ofrece una capacidad de inferencia eficiente
A nivel de clúster, Zhipu adopta una arquitectura de producción EPD desacoplada, que separa la codificación multimodal, el prellenado del prompt y la decodificación token a token en grupos de trabajo independientes con planificación y escalado también independientes, logrando un rendimiento de servicio de extremo a extremo tres veces superior al de la línea base inicial, con una eficiencia de hardware y un coste por token equiparables a los de las principales GPU de NVIDIA. Desde Zhipu afirmaron que esta optimización valida la capacidad de los chips nacionales para soportar de forma eficiente y rentable las necesidades de inferencia de modelos de vanguardia en escenarios a gran escala.