- Mercury 3 在多項基準測試中超越 GPT-6 Luna 和 Claude Haiku 5.5。
- 該模型的運行速度達到每秒超過 1,000 個標記。
- Mercury 3 的規模超過 Mercury 1 超過 40 倍，能力顯著提升。
- 該模型能減少應用中的回應延遲，適用於多種互動應用。
位於加利福尼亞的人工智能研究及產品公司 Inception 公佈了其最新的擴散語言模型 Mercury 3，聲稱其在多項基準測試中超越了速度優化的競爭對手 GPT-6 Luna 和 Claude Haiku 5.5，運行速度達到四至八倍。該新模型在廣泛可用的 NVIDIA GPU 上每秒生成超過 1,000 個標記，支持 100 萬個標記的上下文窗口，使其能夠在單個請求中處理大量資訊。
根據 Inception 的說法，Mercury 3 的規模超過其第一代模型 Mercury 1 超過 40 倍，並且保持了相當的處理速度。該公司表示，這些結果顯示擴散基於的語言模型在不犧牲其基礎架構速度優勢的情況下，可以變得更加強大。
擴散語言模型的優勢
傳統的大型語言模型是按序生成文本，每次預測一個標記。而擴散語言模型則採取不同的方法，並行生成和改進多個標記。這使得它們能夠更快速地生成回應，潛在地減少對於需要頻繁與模型互動的應用中的延遲。然而，開發者傳統上面臨模型能力與回應速度之間的權衡。較小的模型通常回應較快，而更強大的系統往往需要額外的處理時間。Inception 表示，Mercury 3 解決了這一挑戰，提供了與最近發布的 OpenAI 和 Anthropic 模型在多項標準基準測試中的性能相當或更好的表現，同時保持推理速度在每秒 1,000
個標記以上。
這次發布標誌著該公司自 2025 年 6 月推出 Mercury 1 以來的第四個模型。Mercury 2 隨後引入了推理能力，而 Mercury 2.5 則添加了可調整的推理，並將上下文窗口擴展到 260,000 個標記。Mercury 3 將該容量增至 100 萬個標記，幾乎是模型一次能處理的資訊量的四倍。Inception 的聯合創始人 Stefano Ermon 表示：「自從我們推出 Mercury 1 以來，我們聽到的最多的問題是擴散技術是否能夠擴展。
Mercury 3 的規模超過 40 倍，能力顯著提升，仍然以每秒 1,000 個標記以上的速度運行。」Ermon 補充道，該公司已經開始訓練下一個模型。
Mercury 3 的應用場景
該公司針對回應延遲可能影響可用性的應用進行目標，包括互動教學、即時翻譯、寫作助手和自動化軟件代理。在基於代理的系統中，模型通常執行多個序貫任務，例如搜索網站、分析資訊或檢查軟件日誌。每個階段的延遲都可能增加完成操作所需的時間。Inception 表示，Mercury 3 的更快推理可以幫助減少這些累積的延遲，而無需開發者轉向能力較弱的模型。早期訪問的客戶已經在生產工作流程中測試該模型。
教育科技公司 RevisionDojo 報告稱，Mercury 3 將學生反饋的回應時間，包括提示、定義和標記答案，縮短至約一秒。
Mercury 3 可通過 Inception API、Baseten、OpenRouter 和 Vercel 獲得。該模型兼容 OpenAI API 格式，允許開發者在現有應用中集成，而無需進行大規模的代碼更改。
項目 規格 模型名稱 Mercury 3 生成速度 每秒超過 1,000 個標記 上下文窗口 100 萬個標記 相對於 Mercury 1 的規模 超過 40 倍
Mercury 3 如何改變語言模型的應用前景
Mercury 3 的推出不僅代表了 Inception 在擴散語言模型技術上的進步，還顯示出其在速度和能力之間的平衡。這一模型的設計旨在解決傳統大型語言模型的速度與能力之間的權衡問題，使其在多種應用中更具競爭力。隨著對於即時反應的需求不斷增加，Mercury 3 的快速推理能力將有助於提升用戶體驗，特別是在教育和自動化等領域。這也可能促使其他公司重新評估其語言模型的設計，尋求在性能和速度之間達成更好的平衡。