英伟达推出 Underdog 应用 促进本地 AI 模型管理与运行

英伟达近日推出 Underdog 应用，旨在简化本地 AI 模型的管理与运行。该应用专为 RTX Spark 设备设计，能通过专用推理引擎在电脑端处理 AI 任务，无需连接云端，相关数据将保留在用户设备中。英伟达 RTX Spark 笔记本电脑已于 10 月 16 日上市，采用基于 Arm 架构的系统级芯片并运行 Windows 系统，主要面向本地大语言模型等高负载 AI 应用。目前，华硕、戴尔、惠普、Lenovo、Microsoft 和微星均已推出相关产品，宏碁机型亦在筹备中。

据介绍，Underdog 采用针对特定模型设计的 Husky 推理引擎，用户可直接在 RTX Spark 设备上运行本地 AI 模型。由于推理过程不依赖云端服务，用户数据无需上传至外部服务器，可降低数据离开本地设备所带来的隐私风险。

Underdog 应用提升本地 AI 模型管理效率

英伟达还公布了本地推理工具的性能更新。llama.cpp 现已增加针对 Qwen 3.8 Flash Next 的 MTP 推测解码支持。在搭载 RTX Pro 6000 Blackwell 的设备上运行时，端到端智能体任务的处理速度可提升约 1.4 倍。此外，英伟达表示，Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax 以及 FLUX 3 Klein 扩散模型将获得首发支持。

这意味着相关模型发布后即可在适配设备上使用，用户无需等待后续兼容更新。Underdog 与上述支持计划进一步完善了 RTX Spark 设备的本地 AI 软件环境。

利益声明：本文包含合作商户产品链接，如你通过链接购买，TechRitual 可能获得佣金收入，但不影响产品评价及推荐。详情请参阅隐私政策。