NVIDIA เปิดตัวโมเดล AI ใหม่ 1200 พันล้านพารามิเตอร์ เร่งความเร็วในการดำเนินการของตัวแทนได้ถึงห้าสิบเท่า

NVIDIA ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์แบบเปิดสามรุ่น โดยมีเป้าหมายเพื่อให้ตัวแทนอัตโนมัติสามารถเข้าถึงสภาพแวดล้อมการคำนวณได้มากขึ้น โมเดลหลักในชุดนี้คือ Nemotron 3.5 Super VL ซึ่งเป็นโมเดลที่มีพารามิเตอร์ 1200 พันล้านพารามิเตอร์ ออกแบบมาสำหรับงานที่ซับซ้อน รุ่นเล็กสองรุ่นถูกออกแบบมาสำหรับผู้ใช้ที่ต้องการรันตัวแทน AI บนฮาร์ดแวร์ในท้องถิ่น การเปิดตัวครั้งนี้ขยายการส่งเสริม AI ที่ปรับแต่งได้ของ NVIDIA ทำให้องค์กรสามารถรัน AI บนโครงสร้างพื้นฐานของตนเอง และแก้ไขความท้าทายที่แท้จริงสำหรับนักพัฒนาในการรันตัวแทนที่มีความสามารถโดยไม่ต้องส่งคำขอแต่ละรายการไปยังบริการคลาวด์

ความสามารถอันทรงพลังของ Super VL

Super VL ถูกออกแบบมาสำหรับกระบวนการทำงานที่ซับซ้อน Nemotron 3.5 Super VL สามารถจัดการงานที่เกินกว่าการสร้างข้อความได้ มันสามารถตีความข้อมูลภาพและปฏิบัติตามคำสั่ง ในขณะที่ใช้เครื่องมือภายนอกเพื่อทำงานหลายขั้นตอน NVIDIA อ้างว่า โมเดลนี้สามารถทำงานได้เร็วกว่าโมเดลคู่แข่งถึงห้าสิบเท่า บริษัทยังระบุว่า แม้จำนวนพารามิเตอร์จะประมาณหนึ่งในห้าของโมเดลการอนุมานที่ใหญ่ที่สุด แต่ความแม่นยำของมันใกล้เคียงกับโมเดลการอนุมานที่ใหญ่ที่สุดของ NVIDIA ความสามารถเหล่านี้สามารถช่วยให้ธุรกิจอัตโนมัติในงานที่เกี่ยวข้องกับการวิจัยที่ใช้เวลานานหรือการวิเคราะห์เอกสารที่ละเอียด

นักพัฒนายังสามารถฝึกโมเดลในข้อมูลเฉพาะเพื่อปรับปรุงประสิทธิภาพในงานเฉพาะทาง

NVIDIA Nemotron 3.5 Super VL เป็นโมเดลแบบเปิดที่รวมการอนุมานและการใช้เครื่องมือ มีความสามารถในการเข้าใจข้อความ ภาพ เอกสาร และวิดีโอ เหมาะสำหรับการรันตัวแทน AI ในระยะยาว โมเดลนี้มีพารามิเตอร์รวม 1200 พันล้านพารามิเตอร์ โดยมีพารามิเตอร์ที่ใช้งานอยู่ 120 พันล้านพารามิเตอร์ สำหรับข้อมูลเพิ่มเติม สามารถดูได้ที่ Twitter ของ NVIDIA

ตัวอย่างการใช้งานที่ปรับแต่งได้

หลายองค์กรเริ่มปรับแต่ง Super VL แล้ว Scale AI ได้ปรับโมเดลนี้ให้เป็นตัวแทนการเงินเครดิตสำหรับ Skydance และพัฒนาเวอร์ชันอื่นสำหรับการตรวจสอบการควบรวมกิจการของ EY AfterQuery ได้ปรับโมเดลนี้สำหรับการวิเคราะห์ข้อตกลงเครดิตของ Hebbia โครงการอื่น ๆ มุ่งเน้นไปที่ด้านความปลอดภัยทางไซเบอร์ AI21 และ Alice ได้ร่วมมือกันในด้านความทนทานต่อการโจมตี Mercor ยังได้ทำการฝึกอบรมเพิ่มเติมสำหรับงานการเข้ารหัสซึ่งเกี่ยวข้องกับการทดสอบมาตรฐาน APEX-SWE

Nemotron 3.5 Bolt ถูกออกแบบมาสำหรับฮาร์ดแวร์ที่มีหน่วยความจำต่ำ โดยมีสองรุ่นที่เสนอวิธีการรันตัวแทน AI ที่แตกต่างกันโดยไม่ต้องพึ่งพาโครงสร้างพื้นฐานระยะไกล Bolt 74B-A9B ขนาดใหญ่ใช้การควบคุม 2 บิตแบบดั้งเดิม สามารถทำงานในช่วงหน่วยความจำ 24GB การใช้หน่วยความจำเช่นนี้ทำให้ระบบที่เข้ากันได้สามารถรันโมเดลนี้พร้อมกับแอปพลิเคชันอื่น ๆ นักพัฒนาสามารถใช้มันในการช่วยการเข้ารหัสในท้องถิ่นหรือมอบหมายการวิจัยทางเว็บให้กับกรอบตัวแทน NVIDIA ได้จัดอันดับโมเดลนี้เป็นโมเดลเปิดอันดับหนึ่งในหมวดหมู่ของตนใน PinchBench และอ้างว่าเป็นอันดับสองใน BrowseComp

Bolt E4B มีการใช้หน่วยความจำที่เล็กลงเพียง 4GB NVIDIA ได้ออกแบบโมเดลนี้สำหรับตัวแทนการสนทนาที่ต้องการการตอบสนองที่รวดเร็ว การใช้งานที่เป็นไปได้รวมถึงผู้ช่วยเสียงและตัวละครโต้ตอบ โมเดลนี้ยังถูกออกแบบมาสำหรับระบบ AI ทางกายภาพที่ทำงานบนฮาร์ดแวร์ NVIDIA Jetson Bolt E4B มีกำหนดเปิดตัวในวันที่ 23 ตุลาคม ขณะที่โมเดล Bolt ขนาดใหญ่ได้วางจำหน่ายแล้ว

NVIDIA กำลังปล่อย Super VL พร้อมน้ำหนักเปิดและวัสดุสนับสนุนการฝึกอบรม กระบวนการฝึกอบรมครอบคลุมประมาณ 26 ล้านแท็ก การฝึกอบรมเพิ่มเติมเกี่ยวข้องกับตัวอย่างประมาณ 3.8 ล้านตัวอย่าง และมีการเรียนรู้เชิงเสริมในหลายสภาพแวดล้อม องค์กรสามารถปรับแต่งโมเดลผ่าน NVIDIA NeMo และท่อที่ใช้ Python การติดตั้งในท้องถิ่นยังช่วยให้พวกเขาสามารถควบคุมข้อมูลที่ละเอียดอ่อนได้มากขึ้นตามโครงสร้างพื้นฐานและการกำหนดค่าของตน Super VL สามารถเข้าถึงได้ผ่าน Hugging Face, OpenRouter และ ModelScope NVIDIA ยังให้บริการโมเดลนี้ผ่านแพลตฟอร์ม NIM ที่ผลิต AI สำหรับการติดตั้ง

74B-A9B สามารถใช้ได้ที่ Hugging Face นักพัฒนาสามารถใช้เครื่องมือเช่น Ollama หรือ LM Studio เพื่อรันโมเดลนี้

ประสิทธิภาพของโมเดลเหล่านี้ โดยเฉพาะนอกการทดสอบมาตรฐาน ยังคงเป็นคำถามใหญ่ ความน่าสนใจของพวกเขาจะขึ้นอยู่กับว่า ฮาร์ดแวร์ในท้องถิ่นสามารถให้ผลลัพธ์ที่เชื่อถือได้โดยไม่ต้องใช้หน่วยความจำมากเกินไปหรือเสียสละความเร็วในการตอบสนอง