NVIDIA baru-baru ini meluncurkan aplikasi Underdog yang bertujuan untuk menyederhanakan manajemen dan operasional model AI lokal. Aplikasi ini dirancang khusus untuk RTX Spark, yang mampu memproses tugas AI di komputer menggunakan mesin inferensi khusus tanpa perlu terhubung ke cloud, dengan data terkait disimpan di perangkat pengguna. Laptop NVIDIA RTX Spark telah diluncurkan pada 16 Oktober, menggunakan chip sistem level yang berbasis arsitektur Arm dan menjalankan sistem Windows, ditujukan terutama untuk aplikasi AI dengan beban tinggi seperti model bahasa lokal. Saat ini, ASUS, Dell, HP, Lenovo, Microsoft, dan MSI telah meluncurkan produk terkait, sementara model Acer juga sedang dalam persiapan.
Menurut informasi yang diberikan, Underdog menggunakan mesin inferensi Husky yang dirancang untuk model tertentu, memungkinkan pengguna untuk menjalankan model AI lokal langsung di perangkat RTX Spark. Karena proses inferensi tidak bergantung pada layanan cloud, data pengguna tidak perlu diunggah ke server eksternal, sehingga mengurangi risiko privasi yang terkait dengan data yang meninggalkan perangkat lokal.
Aplikasi Underdog Meningkatkan Efisiensi Manajemen Model AI Lokal
NVIDIA juga mengumumkan pembaruan kinerja untuk alat inferensi lokal. Llama.cpp kini telah menambahkan dukungan dekode MTP untuk Qwen 3.8 Flash Next. Saat dijalankan di perangkat yang dilengkapi RTX Pro 6000 Blackwell, kecepatan pemrosesan tugas agen end-to-end dapat meningkat sekitar 1,4 kali lipat. Selain itu, NVIDIA menyatakan bahwa model difusi Nemotron Bolt E4B 4B, GLM, DeepSeek, Qwen, MiniMax, dan FLUX 3 Klein akan mendapatkan dukungan perdana.
Ini berarti bahwa model terkait dapat digunakan di perangkat yang kompatibel segera setelah dirilis, tanpa pengguna harus menunggu pembaruan kompatibilitas selanjutnya. Underdog, bersama dengan rencana dukungan di atas, semakin menyempurnakan lingkungan perangkat lunak AI lokal untuk perangkat RTX Spark.
Pernyataan kepentingan: Artikel ini berisi tautan produk mitra, jika Anda membeli melalui tautan tersebut, TechRitual mungkin mendapatkan komisi, namun hal ini tidak mempengaruhi penilaian dan rekomendasi produk. Untuk detail lebih lanjut, silakan lihat kebijakan privasi.