- NVIDIA 推出三款開放式 AI 模型，核心為 Nemotron 3.5 Super VL。
- Super VL 能解釋視覺資訊，速度是競爭者的五倍。
- 開發者可在專有資訊上訓練模型，改善專項任務表現。
- 多個組織已開始自定義 Super VL，應用於不同領域。
NVIDIA 宣佈推出三款開放式人工智能模型，旨在將自主代理引入更多計算環境。這系列的核心為 Nemotron 3.5 Super VL，這是一個擁有 1200 億參數的模型，專為複雜任務而設。兩個較小的變體則針對希望在本地硬件上運行人工智能代理的用戶。這次發布擴大了 NVIDIA 對可自定義人工智能的推廣，讓組織能夠在自己的基礎設施上運行人工智能，並解決了開發者的一個實際挑戰：在不將每個請求發送至雲服務的情況下運行有能力的代理。
Super VL 的強大能力
Super VL 針對複雜工作流程，Nemotron 3.5 Super VL 能夠處理超出生成文本的任務。它可以解釋視覺資訊並遵循指令，同時使用外部工具來完成多步工作流程。NVIDIA 宣稱，該模型完成任務的速度是同類競爭者的五倍。該公司還表示，儘管參數數量約為最大推理模型的五分之一，但其準確度接近 NVIDIA 最大的推理模型。這些能力可以幫助企業自動化涉及長時間研究或詳細文檔分析的工作。
開發者還可以在專有資訊上進一步訓練模型，以改善其在專項任務上的表現。
NVIDIA Nemotron 3.5 Super VL 是一款結合推理和工具使用的開放模型，具備文本、圖像、文檔及影片理解能力，適合長期運行的人工智能代理。該模型擁有 1200 億總參數，其中 120 億為活躍參數。若要了解更多，可以參考 NVIDIA 的推特。
自定義應用的實例
多個組織已經開始自定義 Super VL。Scale AI 將其改編為 Skydance 的供應商信用融資代理，並為安永的併購盡職調查代理開發了另一個版本。AfterQuery 針對 Hebbia 的信貸協議分析自定義了該模型。其他項目則集中於網絡安全領域，AI21 和 Alice 在攻擊韌性方面進行了合作。Mercor 亦為編碼任務進行了後期訓練，該任務涉及 APEX-SWE 基準測試。
Nemotron 3.5 Bolt 針對具有較少內存的硬件，其兩個變體提供了不同的運行人工智能代理的方法，無需依賴遠程基礎設施。較大的 Bolt 74B-A9B 使用原生 2 位量化，能夠在 24GB 的內存範圍內運行。這樣的內存佔用允許兼容系統在運行該模型的同時，執行其他應用。開發者可以利用它進行本地編碼輔助或將網絡研究委派給代理框架。NVIDIA 在 PinchBench 上將該模型排名為其類別中的開放模型第一，並聲稱在 BrowseComp 中排名第二。
Bolt E4B 擁有更小的 4GB 內存佔用，NVIDIA 專為需要快速響應的對話代理設計。潛在應用包括語音助手和互動角色。該模型還針對運行於 NVIDIA Jetson 硬件上的物理人工智能系統進行設計。Bolt E4B 預定於 10 月 23 日推出，而較大的 Bolt 模型則已經上市。
NVIDIA 正在釋出 Super VL，並附上開放權重和支援訓練材料。其訓練過程涵蓋約 26 兆個標記。後期訓練涉及約 380 萬個樣本，並在多個環境中進行強化學習。組織可以通過 NVIDIA NeMo 和基於 Python 的管道來調整模型。當地部署也使他們能夠根據自己的基礎設施和配置，對敏感資訊進行更大的控制。Super VL 可透過 Hugging Face、OpenRouter 和 ModelScope 獲得，NVIDIA 也通過其部署生產人工智能服務的平台 NIM 提供該模型，而 Bolt
74B-A9B 則在 Hugging Face 上可用。開發者可以使用 Ollama 或 LM Studio 等工具運行該模型。
這些模型的表現如何，尤其是在基準測試之外，仍然是個大問題。它們的吸引力最終將取決於本地硬件是否能在不需要過多內存或犧牲響應速度的情況下提供可靠的結果。
項目 規格 Nemotron 3.5 Super VL 1200 億參數 Bolt 74B-A9B 24GB 內存佔用 Bolt E4B 4GB 內存佔用
NVIDIA 模型對本地 AI 應用的影響
NVIDIA 的 Nemotron 3.5 Super VL 模型不僅具備強大的處理能力，還能在本地硬件上運行，這對於許多企業來說具有重要意義。隨著對數據隱私和安全性的關注增加，企業希望能在自己的基礎設施上運行 AI 模型，從而減少對雲服務的依賴。此外，開發者能夠在專有資訊上進行進一步訓練，這樣可以針對特定需求進行優化，提升工作效率。這些功能使得 Super VL 成為企業自動化和數據處理的理想選擇。