Google Meluncurkan Gemini Decisions API untuk Mempercepat Kecepatan Keputusan AI

·oleh Henderson·Engineering
Google Meluncurkan Gemini Decisions API untuk Mempercepat Kecepatan Keputusan AI
Poin Penting
  • Gemini Decisions API dirancang untuk membuat keputusan yang telah ditentukan dengan cepat.
  • Pengembang dapat mengajukan berbagai pertanyaan dan memproses berbagai jenis data secara bersamaan.
  • Model ini menunjukkan kinerja yang lebih baik dibandingkan sistem pesaing dalam pengujian benchmark.
  • Teknologi Google dapat meningkatkan kecepatan dan efisiensi sistem otomatisasi.

Google telah meluncurkan Gemini Decisions API, yang didukung oleh model Gemini Decision 1, bertujuan untuk membantu agen kecerdasan buatan membuat keputusan yang telah ditentukan dengan cepat, tanpa perlu menghasilkan respons teks yang panjang. Antarmuka ini memungkinkan pengembang untuk mengevaluasi hingga 1.000 pertanyaan independen secara bersamaan dalam masukan multimodal yang mencakup teks, gambar, audio, video, dan PDF. Gemini Decision 1 tidak menghasilkan respons secara kata demi kata, melainkan memberikan penilaian terhadap opsi yang telah ditentukan dalam satu proses maju, dan mengembalikan probabilitas dan skor kepercayaan dengan latensi end-to-end antara 150 hingga 250 milidetik.

Google menyatakan bahwa model ini dirancang untuk tugas-tugas terbatas, seperti memilih alat, memeriksa kepatuhan kebijakan, mengarahkan pertanyaan ke model yang tepat, dan melakukan penilaian latar belakang.

Pengembang dapat mengajukan pemeriksaan ya atau tidak, pertanyaan pilihan ganda dengan hingga 255 opsi, atau permintaan penilaian berdasarkan kriteria yang telah ditentukan dalam satu panggilan API. Menurut Google, waktu kalkulasi model yang disediakan oleh API ini memiliki median antara 50 hingga 100 milidetik, dan kinerja hampir tetap sama ketika setiap permintaan memproses 1 hingga 100 pertanyaan. Model ini mendukung jendela konteks hingga 256.000 token dan dapat memproses berbagai jenis data secara bersamaan. Ini memungkinkan pengembang untuk menggabungkan masukan seperti rekaman audio, gambar, dan dokumen tanpa perlu bergantung pada sistem pemrosesan terpisah.

Kinerja Model dan Perbandingan dengan Pesaing

Google juga mengklaim bahwa model ini menunjukkan kinerja yang lebih baik dibandingkan sistem pesaing dalam pengujian benchmark yang mencakup pengalihan agen, penalaran, peringkat, dan pemahaman multimodal, sambil mencapai kesalahan kalibrasi terendah. Perusahaan menyatakan bahwa biaya Gemini Decision 1 hampir sepertiga dari Gemini 3.5 Flash-Lite, dan menggunakan Interactions API dari paket benchmark bersama mereka. Peluncuran ini terjadi di tengah meningkatnya persaingan alat keputusan AI khusus. OpenAI meluncurkan Decisions API pada bulan Oktober, yang didorong oleh model GPT-6 Luna.

Perusahaan menyatakan bahwa layanan ini dapat memberikan keputusan hingga 10 kali lebih cepat, dan mendukung hingga 400 pertanyaan per permintaan. Mirip dengan produk Google, API ini menawarkan pemeriksaan berbasis probabilitas, pilihan ganda, dan penilaian berbasis kriteria, dengan harga mulai dari US$0.10 per satu juta token masukan (sekitar HK$1).

Biaya Decisions API adalah US$0.10 per satu juta token masukan (sekitar HK$1), dan tidak ada biaya untuk token keluaran. Pengembang hanya perlu membayar sekali untuk data masukan yang dibagikan, terlepas dari berapa banyak pertanyaan yang dievaluasi, meskipun setiap pertanyaan akan menambah token instruksi dan kriteria. Google telah menerapkan teknologi ini di beberapa produknya, membuktikan bahwa model keputusan khusus dapat meningkatkan kecepatan dan efisiensi sistem otomatisasi. Di Gemini Notebook, API ini akan mengarahkan pertanyaan dari berbagai pihak ke tingkat model dan tingkat penalaran yang sesuai.

Menurut Google, pendekatan ini dapat mengurangi latensi untuk pertanyaan sehari-hari hingga 40%, sambil mempertahankan model penalaran yang lebih kuat untuk tugas-tugas kompleks.

Berbagai Skenario Aplikasi dan Integrasi

Teknologi ini juga mendukung eksperimen desain cepat di platform Stitch milik Google, memungkinkan pengguna untuk menghasilkan kerangka produk interaktif dan melakukan perubahan melalui perintah suara atau input sentuh. Sementara itu, asisten CC Google memanfaatkan API ini untuk memilih reaksi emoji dari lebih dari 200 opsi dalam sekejap. Pencarian Google juga menggunakan teknologi ini sebagai lapisan keamanan untuk mendeteksi perilaku yang melibatkan alat protokol konteks model (MCP). Selain aplikasi-aplikasi ini, API ini juga dapat membantu pengembang membangun sistem yang secara otomatis memilih alat yang tepat, mengevaluasi informasi yang masuk, dan menentukan kapan perlu intervensi manusia.

Decisions API kini tersedia melalui Google AI Studio, termasuk tingkat desain prototipe gratis. Google juga meluncurkan layanan integrasi untuk platform pengembang seperti OpenRouter, LangChain, Vercel, LiteLLM, dan Pydantic AI.

Daya Saing Pasar Gemini Decisions API

Seiring dengan meningkatnya permintaan untuk alat keputusan AI, Gemini Decisions API yang diluncurkan oleh Google menunjukkan keunggulan kompetitif di pasar dengan kinerja tinggi dan kemampuan pemrosesan multimodal. API ini tidak hanya dapat memproses sejumlah besar pertanyaan dengan cepat, tetapi juga meningkatkan efisiensi sistem otomatisasi dalam berbagai aplikasi, yang berarti pengembang dapat lebih fleksibel dalam menerapkannya di berbagai skenario. Selain itu, efisiensi biaya teknologi ini juga akan menarik lebih banyak pengembang untuk mengadopsinya, semakin memperluas pengaruhnya di pasar.

H
Tentang penulis
Henderson