- NVIDIA推出三款开放式AI模型，核心为Nemotron 3.5 Super VL。
- Super VL能解释视觉信息，速度是竞争者的五倍。
- 开发者可在专有信息上训练模型，改善专项任务表现。
- 多个组织已开始自定义Super VL，应用于不同领域。
NVIDIA宣布推出三款开放式人工智能模型，旨在将自主代理引入更多计算环境。这系列的核心为Nemotron 3.5 Super VL，这是一个拥有1200亿参数的模型，专为复杂任务而设。两个较小的变体则针对希望在本地硬件上运行人工智能代理的用户。这次发布扩大了NVIDIA对可自定义人工智能的推广，让组织能够在自己的基础设施上运行人工智能，并解决了开发者的一个实际挑战：在不将每个请求发送至云服务的情况下运行有能力的代理。
Super VL的强大能力
Super VL针对复杂工作流程，Nemotron 3.5 Super VL能够处理超出生成文本的任务。它可以解释视觉信息并遵循指令，同时使用外部工具来完成多步工作流程。NVIDIA声称，该模型完成任务的速度是同类竞争者的五倍。该公司还表示，尽管参数数量约为最大推理模型的五分之一，但其准确度接近NVIDIA最大的推理模型。这些能力可以帮助企业自动化涉及长时间研究或详细文档分析的工作。
开发者还可以在专有信息上进一步训练模型，以改善其在专项任务上的表现。
NVIDIA Nemotron 3.5 Super VL是一款结合推理和工具使用的开放模型，具备文本、图像、文档及影片理解能力，适合长期运行的人工智能代理。该模型拥有1200亿总参数，其中120亿为活跃参数。若要了解更多，可以参考NVIDIA的推特。
自定义应用的实例
多个组织已经开始自定义Super VL。Scale AI将其改编为Skydance的供应商信用融资代理，并为安永的并购尽职调查代理开发了另一个版本。AfterQuery针对Hebbia的信贷协议分析自定义了该模型。其他项目则集中于网络安全领域，AI21和Alice在攻击韧性方面进行了合作。Mercor亦为编码任务进行了后期训练，该任务涉及APEX-SWE基准测试。
Nemotron 3.5 Bolt针对具有较少内存的硬件，其两个变体提供了不同的运行人工智能代理的方法，无需依赖远程基础设施。较大的Bolt 74B-A9B使用原生2位量化，能够在24GB的内存范围内运行。这样的内存占用允许兼容系统在运行该模型的同时，执行其他应用。开发者可以利用它进行本地编码辅助或将网络研究委派给代理框架。NVIDIA在PinchBench上将该模型排名为其类别中的开放模型第一，并声称在BrowseComp中排名第二。
Bolt E4B拥有更小的4GB内存占用，NVIDIA专为需要快速响应的对话代理设计。潜在应用包括语音助手和互动角色。该模型还针对运行于NVIDIA Jetson硬件上的物理人工智能系统进行设计。Bolt E4B预定于10月23日推出，而较大的Bolt模型则已经上市。
NVIDIA正在释出Super VL，并附上开放权重和支持训练材料。其训练过程涵盖约26兆个标记。后期训练涉及约380万个样本，并在多个环境中进行强化学习。组织可以通过NVIDIA NeMo和基于Python的管道来调整模型。当地部署也使他们能够根据自己的基础设施和配置，对敏感信息进行更大的控制。Super VL可通过Hugging Face、OpenRouter和ModelScope获得，NVIDIA也通过其部署生产人工智能服务的平台NIM提供该模型，而Bolt
74B-A9B则在Hugging Face上可用。开发者可以使用Ollama或LM Studio等工具运行该模型。
这些模型的表现如何，尤其是在基准测试之外，仍然是个大问题。它们的吸引力最终将取决于本地硬件是否能在不需要过多内存或牺牲响应速度的情况下提供可靠的结果。
项目 规格 Nemotron 3.5 Super VL 1200亿参数 Bolt 74B-A9B 24GB内存占用 Bolt E4B 4GB内存占用
NVIDIA模型对本地AI应用的影响
NVIDIA的Nemotron 3.5 Super VL模型不仅具备强大的处理能力，还能在本地硬件上运行，这对于许多企业来说具有重要意义。随着对数据隐私和安全性的关注增加，企业希望能在自己的基础设施上运行AI模型，从而减少对云服务的依赖。此外，开发者能够在专有信息上进行进一步训练，这样可以针对特定需求进行优化，提升工作效率。这些功能使得Super VL成为企业自动化和数据处理的理想选择。