OpenAI mengumumkan pada 22 Oktober 2023 bahwa mereka telah meluncurkan Decisions API secara penuh, yang didukung oleh GPT-6 Luna. Dalam hal penetapan harga, Decisions API mengenakan biaya US$0.10 per juta token untuk input, dan US$0.01 per juta token untuk input cache. Seluruh tim OpenAI sedang menerapkan Decisions API dalam produk dan alur kerja bisnis. Desain inti dari OpenAI Decisions API adalah untuk memfokuskan kecerdasan GPT-6 Luna pada pertanyaan yang memiliki jawaban terbatas, bukan untuk menghasilkan teks naratif.
Pengembang mendefinisikan sebuah pertanyaan dan jawaban yang diizinkan, kemudian menyediakan konteks dalam bentuk teks, gambar, atau JSON asli, dan API akan mengembalikan salah satu dari tiga jenis jawaban: predicate (probabilitas kebenaran kondisi, berkisar dari 0 hingga 1), choice (memilih satu dari opsi yang telah ditentukan, disertai probabilitas dan tingkat kepercayaan), atau score (memberikan penilaian berbobot probabilitas terhadap input berdasarkan urutan).
Desain "antarmuka sempit" ini memiliki tujuan yang sangat jelas: klasifikasi, pengalihan, penilaian, dan pengurutan prioritas adalah keputusan kecil yang sering dilakukan oleh aplikasi dan agen dalam alur kerja. Panggilan tunggal tampak sederhana, tetapi setelah diskalakan, penundaan dan biaya dapat dengan cepat menumpuk. OpenAI menyatakan bahwa kecepatan respons Decisions API adalah 10 kali lebih cepat dibandingkan dengan memanggil GPT-6 Luna melalui Responses API. Struktur harga mengikuti logika "antarmuka sempit" dari Decisions API.
Biaya untuk input adalah US$0.10 per juta token (sekitar RMB 0.67), sementara biaya untuk input yang berhasil di-cache adalah US$0.01 per juta token (sekitar RMB 0.067). API ini hanya mengenakan biaya berdasarkan input token, sementara output token gratis. Karena Decisions API mengembalikan jawaban yang terstruktur alih-alih menghasilkan teks, output itu sendiri tidak menimbulkan biaya. Penetapan harga untuk input cache lebih lanjut mengurangi biaya keputusan per instance dalam skenario yang memanfaatkan kembali konteks.
OpenAI Decisions API Menawarkan Dukungan Keputusan yang Lebih Efisien
Decisions API memasuki tahap pengujian publik pada 6 Oktober 2026, saat itu satu permintaan mendukung hingga 200 pertanyaan. Pada saat peluncuran penuh pada 22 Oktober, batas pertanyaan per permintaan meningkat menjadi 400, dua kali lipat dari fase pengujian publik. Selain itu, sejak pengujian publik, telah ditambahkan integrasi GPT-Live asli, cache prompt untuk penggunaan kembali konteks, serta dukungan lokasi data inferensi di Amerika Serikat dan Uni Eropa. Pengembang kini mendukung input JSON asli, termasuk gambar dalam instruksi pertanyaan.
OpenAI juga menyatakan bahwa mereka terus mengoptimalkan kinerja latensi, termasuk memperluas kapasitas layanan di berbagai wilayah di Asia.
Kebermanfaatan OpenAI Decisions API pertama kali telah dibuktikan di dalam OpenAI. Menurut blog resmi OpenAI, tim dots internal perusahaan menggunakan Decisions API untuk mengurangi waktu respons dan meningkatkan interaktivitas; tim keuangan pribadi menggunakannya untuk mengklasifikasikan deskripsi transaksi; tim komunikasi menggunakannya untuk mengklasifikasikan laporan berdasarkan tema dan penilaian, menentukan apakah laporan tersebut memperkuat atau menantang narasi kunci, sehingga mengidentifikasi konten mana yang perlu ditinjau lebih lanjut. Aplikasi klien juga sedang berkembang.
OpenAI menyebutkan bahwa klien sedang menggunakan Decisions API untuk berbagai skenario, mulai dari atribusi biaya AI hingga membuat pengalaman belajar bahasa lebih interaktif. Dalam skenario integrasi GPT-Live, agen layanan pelanggan dapat dengan cepat menentukan apakah perlu mengajukan pertanyaan klarifikasi, mengalihkan permintaan, atau meningkatkan masalah; avatar virtual dapat memicu reaksi ekspresi berdasarkan ucapan pengguna, menciptakan interaksi waktu nyata yang lebih alami.
Decisions API bukanlah pengganti Responses API, melainkan pemisahan skenario dari yang terakhir. Jika diperlukan untuk menghasilkan teks, skema JSON kustom, panggilan alat, output streaming, atau mempertahankan status percakapan, Responses API tetap menjadi pilihan yang tepat; sementara ketika tugasnya adalah klasifikasi, pengalihan, penilaian, atau pengendalian, dan memerlukan probabilitas serta tingkat kepercayaan, Decisions API menawarkan jalur khusus dengan latensi lebih rendah dan struktur biaya yang hanya berdasarkan input.
Pemisahan ini juga mencerminkan tren dalam arsitektur aplikasi AI: memisahkan tugas penilaian yang deterministik dan sering dari antarmuka generasi umum, dan menyerahkannya kepada titik akhir yang lebih sempit, lebih cepat, dan lebih murah.