- Mercury 3 在多项基准测试中超越 GPT-6 Luna 和 Claude Haiku 5.5。
- 该模型的运行速度达到每秒超过 1,000 个标记。
- Mercury 3 的规模超过 Mercury 1 超过 40 倍，能力显著提升。
- 该模型能减少应用中的响应延迟，适用于多种互动应用。
位于加利福尼亚的人工智能研究及产品公司 Inception 公布了其最新的扩散语言模型 Mercury 3，声称其在多项基准测试中超越了速度优化的竞争对手 GPT-6 Luna 和 Claude Haiku 5.5，运行速度达到四至八倍。该新模型在广泛可用的 NVIDIA GPU 上每秒生成超过 1,000 个标记，支持 100 万个标记的上下文窗口，使其能够在单个请求中处理大量信息。
根据 Inception 的说法，Mercury 3 的规模超过其第一代模型 Mercury 1 超过 40 倍，并且保持了相当的处理速度。该公司表示，这些结果显示基于扩散的语言模型在不牺牲其基础架构速度优势的情况下，可以变得更加强大。
扩散语言模型的优势
传统的大型语言模型是按序生成文本，每次预测一个标记。而扩散语言模型则采取不同的方法，并行生成和改进多个标记。这使得它们能够更快速地生成响应，潜在地减少对于需要频繁与模型互动的应用中的延迟。然而，开发者传统上面临模型能力与响应速度之间的权衡。较小的模型通常响应较快，而更强大的系统往往需要额外的处理时间。Inception 表示，Mercury 3 解决了这一挑战，提供了与最近发布的 OpenAI 和 Anthropic 模型在多项标准基准测试中的性能相当或更好的表现，同时保持推理速度在每秒 1,000
个标记以上。
这次发布标志着该公司自 2025 年 6 月推出 Mercury 1 以来的第四个模型。Mercury 2 随后引入了推理能力，而 Mercury 2.5 则添加了可调整的推理，并将上下文窗口扩展到 260,000 个标记。Mercury 3 将该容量增至 100 万个标记，几乎是模型一次能处理的信息量的四倍。Inception 的联合创始人 Stefano Ermon 表示：“自从我们推出 Mercury 1 以来，我们听到的最多的问题是扩散技术是否能够扩展。
Mercury 3 的规模超过 40 倍，能力显著提升，仍然以每秒 1,000 个标记以上的速度运行。”Ermon 补充道，该公司已经开始训练下一个模型。
Mercury 3 的应用场景
该公司针对响应延迟可能影响可用性的应用进行目标，包括互动教学、即时翻译、写作助手和自动化软件代理。在基于代理的系统中，模型通常执行多个序贯任务，例如搜索网站、分析信息或检查软件日志。每个阶段的延迟都可能增加完成操作所需的时间。Inception 表示，Mercury 3 的更快推理可以帮助减少这些累积的延迟，而无需开发者转向能力较弱的模型。早期访问的客户已经在生产工作流程中测试该模型。
教育科技公司 RevisionDojo 报告称，Mercury 3 将学生反馈的响应时间，包括提示、定义和标记答案，缩短至约一秒。
Mercury 3 可通过 Inception API、Baseten、OpenRouter 和 Vercel 获得。该模型兼容 OpenAI API 格式，允许开发者在现有应用中集成，而无需进行大规模的代码更改。
项目 规格 模型名称 Mercury 3 生成速度 每秒超过 1,000 个标记 上下文窗口 100 万个标记 相对于 Mercury 1 的规模 超过 40 倍
Mercury 3 如何改变语言模型的应用前景
Mercury 3 的推出不仅代表了 Inception 在扩散语言模型技术上的进步，还显示出其在速度和能力之间的平衡。这个模型的设计旨在解决传统大型语言模型的速度与能力之间的权衡问题，使其在多种应用中更具竞争力。随着对即时反应的需求不断增加，Mercury 3 的快速推理能力将有助于提升用户体验，特别是在教育和自动化等领域。这也可能促使其他公司重新评估其语言模型的设计，寻求在性能和速度之间达成更好的平衡。