Zhipu hat am 18. September offiziell das Großmodell GLM-5.3-FlashX veröffentlicht, das eine maximale Inferenzgeschwindigkeit von 200 tokens/s erreichen kann. Ziel ist es, Unternehmen und Entwicklern ein schnelleres und flüssigeres Modellerlebnis zu bieten. Die API von GLM-5.3-FlashX ist bereits verfügbar. Laut Angaben des Unternehmens hat Zhipu seine Investitionen in die Infrastruktur und die Inferenzoptimierung auf Basis der vorhandenen Rechenleistung inländischer Chips weiter ausgebaut, um der rasch wachsenden Nutzernachfrage gerecht zu werden. GLM-5.3-Flash behält das stärkste Intelligenzniveau seiner Größenklasse bei und bietet ein hervorragendes Preis-Leistungs-Verhältnis. Die nun erzielte Geschwindigkeitssteigerung verstärkt seine Wettbewerbsfähigkeit in den Bereichen Intelligenz, Preis und Geschwindigkeit zusätzlich.
Wie aus dem Unternehmen verlautete, wurde das zuvor veröffentlichte Modell GLM-5.3-Flash vor seinem offiziellen Release unter dem anonymen Namen „Ox Alpha» großangelegten Tests durch Entwickler weltweit unterzogen und stieß auf breite Zustimmung. Nach der Markteinführung stieg die Anzahl der Aufrufe kontinuierlich an; das Modell führte zeitweise die Nutzungsrangliste der OpenRouter-Plattform an und stellte auf den Plattformen OpenCode und OpenRouter gleichzeitig neue Rekorde bei den Aufrufzahlen auf. Zhipu erklärte, für die Bearbeitung sämtlicher Online-Aufrufe von GLM-5.3-Flash seien 100.000 inländische Chips eingesetzt worden.
Der konkrete Chiphersteller wurde zwar nicht genannt, doch Branchenanalysten vermuten, dass dabei mit hoher Wahrscheinlichkeit Chips der Ascend-Serie von Huawei zum Einsatz kommen.
GLM-5.3-FlashX von Zhipu verfügt über hocheffiziente Inferenzfähigkeiten
Auf Cluster-Ebene setzt Zhipu eine produktionsreife, disaggregierte EPD-Architektur ein, die multimodale Encodierung, Prompt-Prefill und token-weises Decoding in unabhängig gesteuerte und separat skalierbare Arbeitspools aufteilt. Dadurch konnte die Ende-zu-Ende-Service-Leistung im Vergleich zur ursprünglichen Baseline verdreifacht werden; die Hardwareeffizienz und die Kosten pro Token erreichen mittlerweile ein Niveau, das mit dem marktüblicher NVIDIA-GPUs vergleichbar ist. Bei Zhipu heißt es, diese Optimierung belege, dass inländische Chips in großskaligen Szenarien effizient und wirtschaftlich die Inferenzanforderungen modernster Modelle erfüllen können.