- Mercury 3 übertrifft GPT-6 Luna und Claude Haiku 5.5 in mehreren Benchmark-Tests.
- Die Laufgeschwindigkeit des Modells erreicht über 1.000 Tokens pro Sekunde.
- Die Größe von Mercury 3 übersteigt die von Mercury 1 um mehr als das 40-Fache, was zu einer erheblichen Leistungssteigerung führt.
- Das Modell kann die Antwortverzögerung in Anwendungen reduzieren und ist für verschiedene interaktive Anwendungen geeignet.
Das in Kalifornien ansässige Unternehmen Inception hat sein neuestes Sprachmodell Mercury 3 vorgestellt und behauptet, in mehreren Benchmark-Tests die Geschwindigkeit der optimierten Konkurrenten GPT-6 Luna und Claude Haiku 5.5 übertroffen zu haben, mit einer Laufgeschwindigkeit von vier- bis achtmal schneller. Das neue Modell generiert auf weit verbreiteten NVIDIA GPUs über 1.000 Tokens pro Sekunde und unterstützt ein Kontextfenster von 1.000.000 Tokens, was es ihm ermöglicht, in einer einzigen Anfrage eine große Menge an Informationen zu verarbeiten.
Inception gibt an, dass die Größe von Mercury 3 mehr als das 40-Fache seiner ersten Generation, Mercury 1, beträgt und dabei eine vergleichbare Verarbeitungsgeschwindigkeit beibehält. Das Unternehmen erklärt, dass diese Ergebnisse zeigen, dass auf Diffusion basierende Sprachmodelle leistungsfähiger werden können, ohne die Geschwindigkeitsvorteile ihrer Infrastruktur zu opfern.
Vorteile von Diffusions-Sprachmodellen
Traditionelle große Sprachmodelle generieren Text sequenziell, indem sie jeweils ein Token vorhersagen. Diffusions-Sprachmodelle hingegen verfolgen einen anderen Ansatz und generieren und verbessern mehrere Tokens parallel. Dies ermöglicht ihnen, schneller auf Anfragen zu reagieren und potenziell die Verzögerung in Anwendungen zu verringern, die häufige Interaktionen mit dem Modell erfordern. Entwickler sehen sich jedoch traditionell einem Kompromiss zwischen der Leistungsfähigkeit des Modells und der Antwortgeschwindigkeit gegenüber. Kleinere Modelle reagieren in der Regel schneller, während leistungsstärkere Systeme oft zusätzliche Verarbeitungszeit benötigen. Inception erklärt, dass Mercury 3 diese Herausforderung bewältigt und in mehreren Standard-Benchmark-Tests eine Leistung bietet, die mit den kürzlich veröffentlichten Modellen von OpenAI und Anthropic vergleichbar oder besser ist, während die Inferenzgeschwindigkeit bei über 1.000 Tokens pro Sekunde bleibt.
Tokens pro Sekunde.
Diese Veröffentlichung markiert das vierte Modell des Unternehmens seit der Einführung von Mercury 1 im Juni 2025. Mercury 2 führte daraufhin Inferenzfähigkeiten ein, während Mercury 2.5 anpassbare Inferenz hinzufügte und das Kontextfenster auf 260.000 Tokens erweiterte. Mercury 3 erhöht diese Kapazität auf 1.000.000 Tokens, was fast das Vierfache der Informationsmenge ist, die das Modell auf einmal verarbeiten kann. Der Mitbegründer von Inception, Stefano Ermon, erklärte: „Die häufigste Frage, die wir seit der Einführung von Mercury 1 gehört haben, ist, ob die Diffusionstechnologie skalierbar ist.
Die Größe von Mercury 3 übersteigt das 40-Fache, die Leistungsfähigkeit hat sich erheblich verbessert und es läuft weiterhin mit über 1.000 Tokens pro Sekunde.“ Ermon fügte hinzu, dass das Unternehmen bereits mit dem Training des nächsten Modells begonnen hat.
Anwendungsszenarien von Mercury 3
Das Unternehmen zielt auf Anwendungen ab, bei denen Verzögerungen bei der Antwort die Benutzerfreundlichkeit beeinträchtigen könnten, darunter interaktive Schulungen, Echtzeitübersetzungen, Schreibassistenten und automatisierte Softwareagenten. In agentenbasierten Systemen führt das Modell oft mehrere sequenzielle Aufgaben aus, wie das Durchsuchen von Websites, das Analysieren von Informationen oder das Überprüfen von Softwareprotokollen. Jede Verzögerung in einem dieser Schritte kann die Zeit verlängern, die benötigt wird, um die Aufgabe abzuschließen. Inception erklärt, dass die schnellere Inferenz von Mercury 3 dazu beitragen kann, diese kumulierten Verzögerungen zu reduzieren, ohne dass Entwickler auf weniger leistungsfähige Modelle zurückgreifen müssen. Frühe Zugangskunden haben das Modell bereits in Produktionsabläufen getestet.
Das EdTech-Unternehmen RevisionDojo berichtet, dass Mercury 3 die Antwortzeiten auf Schülerfeedback, einschließlich Hinweise, Definitionen und markierte Antworten, auf etwa eine Sekunde verkürzt hat.
Mercury 3 ist über die Inception API, Baseten, OpenRouter und Vercel verfügbar. Das Modell ist mit dem OpenAI API-Format kompatibel, was Entwicklern die Integration in bestehende Anwendungen ermöglicht, ohne umfangreiche Codeänderungen vornehmen zu müssen.
Artikel Spezifikationen Modellname Mercury 3 Generierungsgeschwindigkeit Über 1.000 Tokens pro Sekunde Kontextfenster 1.000.000 Tokens Größe im Vergleich zu Mercury 1 Über 40-fach
Wie Mercury 3 die Anwendungsperspektiven von Sprachmodellen verändert
Die Einführung von Mercury 3 stellt nicht nur einen Fortschritt von Inception in der Technologie der Diffusions-Sprachmodelle dar, sondern zeigt auch das Gleichgewicht zwischen Geschwindigkeit und Leistungsfähigkeit. Das Design dieses Modells zielt darauf ab, das Dilemma zwischen Geschwindigkeit und Leistungsfähigkeit traditioneller großer Sprachmodelle zu lösen, wodurch es in verschiedenen Anwendungen wettbewerbsfähiger wird. Angesichts der wachsenden Nachfrage nach sofortigen Reaktionen wird die schnelle Inferenzfähigkeit von Mercury 3 dazu beitragen, das Benutzererlebnis zu verbessern, insbesondere in Bereichen wie Bildung und Automatisierung. Dies könnte auch andere Unternehmen dazu anregen, das Design ihrer Sprachmodelle zu überdenken und eine bessere Balance zwischen Leistung und Geschwindigkeit zu suchen.