OpenAI ประกาศเปิดตัว Decisions API (Decisions API) อย่างเต็มรูปแบบในวันที่ 22 ตุลาคม 2566 ตามเวลาท้องถิ่น โดยได้รับการสนับสนุนจาก GPT-6 Luna ในด้านการกำหนดราคา Decisions API จะคิดค่าบริการที่ US$0.10 (ประมาณ HK$1) ต่อการป้อนข้อมูล 1 ล้าน Token และค่าบริการสำหรับการป้อนข้อมูลที่ถูกเก็บไว้ที่ US$0.01 (ประมาณ HK$0) ต่อ 1 ล้าน Token ทีมงานของ OpenAI กำลังนำ Decisions API ไปใช้ในผลิตภัณฑ์และกระบวนการทำงานทางธุรกิจ โดยการออกแบบหลักของ OpenAI Decisions API คือการทำให้ความฉลาดของ GPT-6 Luna มุ่งเน้นไปที่คำถามที่มีคำตอบที่จำกัด แทนที่จะสร้างข้อความเชิงบรรยาย
นักพัฒนาสามารถกำหนดคำถามและคำตอบที่อนุญาต จากนั้นให้บริบทในรูปแบบข้อความ รูปภาพ หรือ JSON ดั้งเดิม API จะส่งกลับหนึ่งในสามประเภทของคำตอบ ได้แก่ predicate (ความน่าจะเป็นที่เงื่อนไขเป็นจริง โดยมีค่าตั้งแต่ 0 ถึง 1) choice (เลือกหนึ่งจากตัวเลือกที่กำหนดไว้ พร้อมความน่าจะเป็นและความเชื่อมั่น) หรือ score (การให้คะแนนตามลำดับที่มีการถ่วงน้ำหนักความน่าจะเป็น)
การออกแบบ “อินเตอร์เฟซแคบ” นี้มีเจตนาที่ชัดเจน: การจำแนกประเภท การจัดเส้นทาง การให้คะแนน และการจัดลำดับความสำคัญ เป็นการตัดสินใจขนาดเล็กที่แอปพลิเคชันและตัวแทนต้องทำในกระบวนการทำงานอย่างบ่อยครั้ง การเรียกใช้แต่ละครั้งดูเหมือนจะง่าย แต่เมื่อขยายขนาดแล้ว ความล่าช้าและต้นทุนจะเพิ่มขึ้นอย่างรวดเร็ว OpenAI ระบุว่า ความเร็วในการตอบสนองของ Decisions API เร็วกว่าการเรียกใช้ GPT-6 Luna ผ่าน Responses API ถึง 10 เท่า โครงสร้างการกำหนดราคายังคงสอดคล้องกับตรรกะของ “อินเตอร์เฟซแคบ” ของ Decisions API
ค่าบริการสำหรับการป้อนข้อมูล 1 ล้าน Token อยู่ที่ 0.10 ดอลลาร์สหรัฐ (ประมาณ 0.67 หยวนจีน) และค่าบริการสำหรับการป้อนข้อมูลที่ถูกเก็บไว้ที่ 0.01 ดอลลาร์สหรัฐ (ประมาณ 0.067 หยวนจีน) API นี้จะคิดค่าบริการเฉพาะตาม Token ที่ป้อนเข้าเท่านั้น โดยที่ Token ที่ส่งออกจะไม่มีค่าใช้จ่าย เนื่องจาก Decisions API ส่งกลับคำตอบที่มีประเภทแทนที่จะเป็นข้อความที่สร้างขึ้น การส่งออกจึงไม่ก่อให้เกิดค่าใช้จ่ายเอง การกำหนดราคาสำหรับการป้อนข้อมูลที่ถูกเก็บไว้จะช่วยลดต้นทุนในการตัดสินใจในแต่ละครั้งในกรณีที่มีการนำบริบทมาใช้ซ้ำ
OpenAI Decisions API มอบการสนับสนุนการตัดสินใจที่มีประสิทธิภาพมากขึ้น
Decisions API เริ่มเข้าสู่ช่วงการทดสอบสาธารณะในวันที่ 6 ตุลาคม 2566 โดยในขณะนั้นการร้องขอแต่ละครั้งสามารถรองรับคำถามได้สูงสุด 200 คำถาม เมื่อวันที่ 22 ตุลาคม 2566 ที่ผ่านมา การเปิดตัวอย่างเต็มรูปแบบได้เพิ่มขีดจำกัดคำถามต่อการร้องขอเป็น 400 คำถาม ซึ่งเป็นสองเท่าของช่วงการทดสอบสาธารณะ นอกจากนี้ ตั้งแต่ช่วงการทดสอบสาธารณะยังได้มีการเพิ่มการรวม GPT-Live ดั้งเดิม การเก็บข้อมูล Prompt สำหรับการนำบริบทมาใช้ซ้ำ และการสนับสนุนการเก็บข้อมูลการอนุมานในสหรัฐอเมริกาและสหภาพยุโรป นักพัฒนาสามารถส่งข้อมูล JSON ดั้งเดิมและรวมรูปภาพในคำสั่งคำถามได้แล้ว
OpenAI ยังได้ระบุว่ากำลังปรับปรุงประสิทธิภาพด้านความล่าช้าอย่างต่อเนื่อง รวมถึงการขยายความสามารถในการให้บริการในหลายพื้นที่ของเอเชีย
ความสามารถของ OpenAI Decisions API ได้รับการตรวจสอบภายใน OpenAI ก่อน โดยทีมงาน dots ภายในบริษัทใช้ Decisions API เพื่อลดเวลาในการตอบสนองและเพิ่มความมีส่วนร่วม ทีมงานการเงินส่วนบุคคลใช้มันในการจำแนกคำอธิบายการทำธุรกรรม ทีมงานการสื่อสารใช้มันในการจัดประเภทข่าวตามหัวข้อและคะแนน เพื่อประเมินว่าเป็นการเสริมสร้างหรือท้าทายเรื่องราวหลัก จากนั้นจึงระบุเนื้อหาที่ต้องการการตรวจสอบเพิ่มเติม การใช้งานจากลูกค้าก็เริ่มขยายตัวเช่นกัน
OpenAI ระบุว่าลูกค้ากำลังนำ Decisions API ไปใช้ในหลายกรณี ตั้งแต่การจัดการต้นทุน AI ไปจนถึงการทำให้ประสบการณ์การเรียนรู้ภาษามีความมีส่วนร่วมมากขึ้น ในกรณีการรวม GPT-Live ตัวแทนบริการลูกค้าสามารถตัดสินใจได้อย่างรวดเร็วว่าควรสอบถามเพิ่มเติม จัดเส้นทางคำขอ หรือยกระดับปัญหา ในขณะที่อวตารเสมือนสามารถกระตุ้นปฏิกิริยาทางอารมณ์ตามคำพูดของผู้ใช้ เพื่อสร้างการโต้ตอบที่เป็นธรรมชาติมากขึ้นในเวลาจริง
Decisions API ไม่ได้เป็นการทดแทน Responses API แต่เป็นการแบ่งส่วนการใช้งานของ API หลัง หากต้องการสร้างข้อความ กำหนด JSON schema ที่กำหนดเอง เรียกใช้เครื่องมือ ผลลัพธ์แบบสตรีม หรือรักษาสถานะการสนทนา Responses API ยังคงเป็นตัวเลือกที่ถูกต้อง ในขณะที่เมื่อธุรกรรมเกี่ยวข้องกับการจำแนกประเภท การจัดเส้นทาง การให้คะแนน หรือการควบคุม และต้องการความน่าจะเป็นและความเชื่อมั่น Decisions API จะมอบเส้นทางเฉพาะที่มีความล่าช้าน้อยลงและโครงสร้างต้นทุนที่คิดค่าบริการเฉพาะการป้อนข้อมูล
การแบ่งงานนี้ยังสะท้อนถึงแนวโน้มของสถาปัตยกรรมการใช้งาน AI: การแยกงานการตัดสินใจที่มีความแน่นอนและความถี่สูงออกจากอินเตอร์เฟซการสร้างทั่วไป และมอบหมายให้กับจุดสิ้นสุดที่แคบกว่า เร็วกว่า และราคาถูกกว่า