NVIDIA เปิดตัวแอปพลิเคชัน Underdog เพื่อส่งเสริมการจัดการและการทำงานของโมเดล AI ในท้องถิ่น

·โดย Henderson·AI
NVIDIA เปิดตัวแอปพลิเคชัน Underdog เพื่อส่งเสริมการจัดการและการทำงานของโมเดล AI ในท้องถิ่น

NVIDIA ได้เปิดตัวแอปพลิเคชัน Underdog ซึ่งมีเป้าหมายเพื่อทำให้การจัดการและการทำงานของโมเดล AI ในท้องถิ่นง่ายขึ้น แอปพลิเคชันนี้ถูกออกแบบมาสำหรับ RTX Spark โดยสามารถประมวลผลงาน AI บนคอมพิวเตอร์ผ่านเอนจินการอนุมานเฉพาะ โดยไม่จำเป็นต้องเชื่อมต่อกับคลาวด์ ข้อมูลที่เกี่ยวข้องจะถูกเก็บไว้ในอุปกรณ์ของผู้ใช้ โน้ตบุ๊ก NVIDIA RTX Spark ได้วางจำหน่ายเมื่อวันที่ 16 ตุลาคม โดยใช้ระบบซิสเต็มออนชิปที่มีพื้นฐานจากสถาปัตยกรรม Arm และทำงานบนระบบ Windows โดยมุ่งเน้นไปที่แอปพลิเคชัน AI ที่มีภาระสูง เช่น โมเดลภาษาขนาดใหญ่ในท้องถิ่น ขณะนี้ ASUS, Dell, HP, Lenovo, Microsoft และ MSI ได้เปิดตัวผลิตภัณฑ์ที่เกี่ยวข้องแล้ว ขณะที่โมเดลของ Acer กำลังอยู่ในระหว่างการพัฒนา

ตามข้อมูลที่ได้รับ Underdog ใช้เอนจินการอนุมาน Husky ที่ออกแบบมาสำหรับโมเดลเฉพาะ ผู้ใช้สามารถทำงานกับโมเดล AI ในท้องถิ่นได้โดยตรงบนอุปกรณ์ RTX Spark เนื่องจากกระบวนการอนุมานไม่พึ่งพาบริการคลาวด์ ข้อมูลของผู้ใช้จึงไม่จำเป็นต้องอัปโหลดไปยังเซิร์ฟเวอร์ภายนอก ซึ่งช่วยลดความเสี่ยงด้านความเป็นส่วนตัวที่เกิดจากข้อมูลที่ออกจากอุปกรณ์ในท้องถิ่น

แอปพลิเคชัน Underdog เพิ่มประสิทธิภาพการจัดการโมเดล AI ในท้องถิ่น

NVIDIA ยังได้ประกาศการอัปเดตประสิทธิภาพของเครื่องมือการอนุมานในท้องถิ่น โดย llama.cpp ได้เพิ่มการสนับสนุนการถอดรหัส MTP สำหรับ Qwen 3.8 Flash Next ขณะทำงานบนอุปกรณ์ที่ติดตั้ง RTX Pro 6000 Blackwell ความเร็วในการประมวลผลงานของเอเจนต์แบบเอนด์ทูเอนด์สามารถเพิ่มขึ้นได้ประมาณ 1.4 เท่า นอกจากนี้ NVIDIA ยังระบุว่า Nemotron Bolt E4B 4B, GLM, DeepSeek, Qwen, MiniMax และ FLUX 3 Klein จะได้รับการสนับสนุนในช่วงแรก

ซึ่งหมายความว่าโมเดลที่เกี่ยวข้องจะสามารถใช้งานได้ทันทีหลังจากการเปิดตัวบนอุปกรณ์ที่รองรับ โดยผู้ใช้ไม่จำเป็นต้องรอการอัปเดตความเข้ากันได้ในภายหลัง Underdog ร่วมกับแผนการสนับสนุนดังกล่าวได้ทำให้สภาพแวดล้อมซอฟต์แวร์ AI ในท้องถิ่นของอุปกรณ์ RTX Spark มีความสมบูรณ์ยิ่งขึ้น

คำชี้แจงผลประโยชน์: บทความนี้มีลิงก์ผลิตภัณฑ์ของพันธมิตร หากคุณซื้อผ่านลิงก์ดังกล่าว TechRitual อาจได้รับค่าคอมมิชชั่น แต่จะไม่ส่งผลต่อการประเมินและคำแนะนำผลิตภัณฑ์ รายละเอียดเพิ่มเติมโปรดดูที่นโยบายความเป็นส่วนตัว.

H
เกี่ยวกับผู้เขียน
Henderson