Inception Meluncurkan Model Bahasa Mercury 3, Kecepatannya Melampaui GPT-6 Luna dan Claude Haiku 5.5

Perusahaan penelitian dan produk kecerdasan buatan yang berbasis di California, Inception, telah mengumumkan model bahasa difusi terbarunya, Mercury 3, yang mengklaim telah melampaui kecepatan pesaing yang dioptimalkan, GPT-6 Luna dan Claude Haiku 5.5, dengan kecepatan operasional mencapai empat hingga delapan kali lipat. Model baru ini dapat menghasilkan lebih dari 1.000 token per detik pada GPU NVIDIA yang tersedia secara luas, mendukung jendela konteks hingga 1.000.000 token, sehingga mampu memproses sejumlah besar informasi dalam satu permintaan.

Menurut Inception, skala Mercury 3 lebih dari 40 kali lipat dibandingkan dengan model generasi pertama, Mercury 1, dan tetap mempertahankan kecepatan pemrosesan yang signifikan. Perusahaan menyatakan bahwa hasil ini menunjukkan bahwa model bahasa berbasis difusi dapat menjadi lebih kuat tanpa mengorbankan keunggulan kecepatan infrastruktur mereka.

Keunggulan Model Bahasa Difusi

Model bahasa besar tradisional menghasilkan teks secara berurutan, memprediksi satu token setiap kali. Sementara itu, model bahasa difusi mengambil pendekatan yang berbeda dengan menghasilkan dan memperbaiki beberapa token secara paralel. Ini memungkinkan mereka untuk menghasilkan respons lebih cepat, berpotensi mengurangi latensi dalam aplikasi yang memerlukan interaksi frekuensi tinggi dengan model. Namun, pengembang secara tradisional menghadapi trade-off antara kemampuan model dan kecepatan respons. Model yang lebih kecil biasanya merespons lebih cepat, sementara sistem yang lebih kuat sering memerlukan waktu pemrosesan tambahan. Inception menyatakan bahwa Mercury 3 mengatasi tantangan ini, memberikan kinerja yang setara atau lebih baik dalam berbagai pengujian standar dibandingkan dengan model-model yang baru dirilis oleh OpenAI dan Anthropic, sambil mempertahankan kecepatan inferensi di atas 1.000

token per detik.

Peluncuran kali ini menandai model keempat yang dirilis perusahaan sejak peluncuran Mercury 1 pada Juni 2025. Mercury 2 kemudian memperkenalkan kemampuan inferensi, sementara Mercury 2.5 menambahkan inferensi yang dapat disesuaikan dan memperluas jendela konteks hingga 260.000 token. Mercury 3 meningkatkan kapasitas ini menjadi 1.000.000 token, hampir empat kali lipat jumlah informasi yang dapat diproses model dalam satu waktu. Salah satu pendiri Inception, Stefano Ermon, mengatakan, "Sejak kami meluncurkan Mercury 1, pertanyaan yang paling sering kami dengar adalah apakah teknologi difusi dapat diskalakan.

Skala Mercury 3 lebih dari 40 kali lipat, dengan peningkatan kemampuan yang signifikan, tetap beroperasi pada kecepatan lebih dari 1.000 token per detik." Ermon menambahkan bahwa perusahaan telah mulai melatih model berikutnya.

Skema Aplikasi Mercury 3

Perusahaan ini menargetkan aplikasi di mana latensi respons dapat mempengaruhi ketersediaan, termasuk pengajaran interaktif, terjemahan waktu nyata, asisten penulisan, dan agen perangkat lunak otomatis. Dalam sistem berbasis agen, model biasanya menjalankan beberapa tugas berurutan, seperti mencari informasi di situs web, menganalisis data, atau memeriksa log perangkat lunak. Setiap tahap latensi dapat menambah waktu yang diperlukan untuk menyelesaikan operasi. Inception menyatakan bahwa inferensi lebih cepat dari Mercury 3 dapat membantu mengurangi latensi yang terakumulasi ini tanpa pengembang harus beralih ke model yang kurang mampu. Pelanggan yang telah mendapatkan akses awal telah menguji model ini dalam alur kerja produksi.

Perusahaan teknologi pendidikan RevisionDojo melaporkan bahwa Mercury 3 telah memperpendek waktu respons umpan balik siswa, termasuk petunjuk, definisi, dan jawaban token, menjadi sekitar satu detik.

Mercury 3 dapat diakses melalui Inception API, Baseten, OpenRouter, dan Vercel. Model ini kompatibel dengan format OpenAI API, memungkinkan pengembang untuk mengintegrasikannya ke dalam aplikasi yang ada tanpa perlu melakukan perubahan kode yang besar.