智譜、GLM-5.3-FlashX 大モデルを発表 最大推論速度は200 tokens/s

·著者 Henderson·AI
智譜、GLM-5.3-FlashX 大モデルを発表 最大推論速度は200 tokens/s

智譜は9月18日、大モデル「GLM-5.3-FlashX」を正式に発表した。本モデルの最大推論速度は200 tokens/sに達し、企業や開発者により高速でスムーズなモデル体験を提供することを目的としている。現在、GLM-5.3-FlashX のAPIはすでに提供開始されている。紹介によれば、急増するユーザー需要に対応するため、智譜は従来の国産チップの計算基盤に加えて、インフラへの投資と推論の最適化をさらに強化した。GLM-5.3-Flash は同サイズ帯でトップクラスの知能レベルを保ちつつ、極めて高いコストパフォーマンスも維持しており、今回の高速化により、知能・価格・速度の各面における総合的な競争力が一層強化された。

据介绍此前、智譜が発表した GLM-5.3-Flash は正式公開前に、匿名モデル「Ox Alpha」として世界中の開発者に向けて大規模なテストが行われ、幅広い評価を得た。公開後のAPI呼び出し量は継続的に増加し、OpenRouter プラットフォームの利用量ランキングで首位を獲得したほか、OpenCode と OpenRouter の両プラットフォームでAPI呼び出し量の過去最高記録を更新した。智譜によれば、GLM-5.3-Flash のすべてのオンラインAPI呼び出しリクエストを処理するために、合計10万個の国産チップが投入された。

具体的なチップベンダーは公開されていないが、業界アナリストは華為 Ascend シリーズのチップが採用されている可能性が高いと推測している。

智譜 GLM-5.3-FlashX は高効率な推論能力を備える

クラスターレベルでは、智譜は本番レベルの EPD 分離アーキテクチャを採用し、マルチモーダルエンコーディング、prompt のプリフィル、token 単位のデコードを独立したスケジューリングと独立したスケーリングが可能なワークプールに分割することで、エンドツーエンドのサービス性能を初期ベースライン比で3倍に向上させ、ハードウェア効率と単一 token あたりのコストは主要な NVIDIA GPU と同等のレベルに達した。智譜は、今回の最適化により、大規模シナリオにおいて国産チップが最先端モデルの推論要件を効率的かつ経済的に支えられることが検証されたと述べている。

H
著者について
Henderson