- NVIDIAは3つのオープンAIモデルを発表し、コアはNemotron 3.5 Super VL。
- Super VLは視覚情報を解釈し、速度は競合他社の5倍。
- 開発者は専有情報でモデルをトレーニングし、特定のタスクのパフォーマンスを向上させることができる。
- 複数の組織がSuper VLをカスタマイズし、さまざまな分野で応用を開始している。
NVIDIAは、自己代理をより多くの計算環境に導入することを目的とした3つのオープンな人工知能モデルを発表した。このシリーズのコアはNemotron 3.5 Super VLであり、これは1200億パラメータを持つモデルで、複雑なタスクのために設計されている。2つの小型バリエーションは、ローカルハードウェア上でAI代理を実行したいユーザーを対象としている。今回の発表は、NVIDIAのカスタマイズ可能なAIの推進を拡大し、組織が自らのインフラ上でAIを運用できるようにし、開発者が直面する実際の課題、すなわちすべてのリクエストをクラウドサービスに送信することなく、有能な代理を運用することを解決した。
Super VLの強力な能力
Super VLは複雑なワークフローに対応しており、Nemotron 3.5 Super VLは生成テキストを超えるタスクを処理できる。視覚情報を解釈し、指示に従い、外部ツールを使用して複数のステップのワークフローを完了することができる。NVIDIAは、このモデルがタスクを完了する速度は同類の競合他社の5倍であると主張している。また、パラメータの数は最大推論モデルの約5分の1であるにもかかわらず、その正確性はNVIDIAの最大の推論モデルに近いと述べている。これらの能力は、企業が長時間の研究や詳細な文書分析を含む作業を自動化するのに役立つ。
開発者は、専有情報でモデルをさらにトレーニングし、特定のタスクのパフォーマンスを向上させることができる。
NVIDIA Nemotron 3.5 Super VLは、推論とツール使用を組み合わせたオープンモデルであり、テキスト、画像、文書、動画の理解能力を備え、長期間の運用に適したAI代理である。このモデルは1200億の総パラメータを持ち、そのうち120億はアクティブパラメータである。詳細については、NVIDIAのTwitterを参照できる。
カスタマイズアプリケーションの例
複数の組織がSuper VLをカスタマイズし始めている。Scale AIは、Skydanceのサプライヤー信用融資代理としてそれを改編し、安永のM&Aデューデリジェンス代理のために別のバージョンを開発した。AfterQueryは、Hebbiaの信用契約分析のためにこのモデルをカスタマイズした。他のプロジェクトはサイバーセキュリティ分野に焦点を当て、AI21とAliceが攻撃耐性に関して協力している。MercorもAPEX-SWEベンチマークテストに関連するコーディングタスクのために後期トレーニングを行った。
Nemotron 3.5 Boltは、メモリが少ないハードウェア向けに設計されており、その2つのバリエーションは、リモートインフラに依存せずにAI代理を運用する異なる方法を提供する。より大きなBolt 74B-A9Bは、ネイティブ2ビット量子化を使用し、24GBのメモリ範囲内で運用可能である。このメモリ使用量により、互換性のあるシステムはこのモデルを運用しながら他のアプリケーションを実行できる。開発者はこれを利用してローカルコーディング支援を行ったり、ネットワーク研究を代理フレームワークに委任したりすることができる。NVIDIAはPinchBenchでこのモデルをそのカテゴリのオープンモデルの中で1位にランク付けし、BrowseCompでは2位であると主張している。
Bolt E4Bは、より小さな4GBのメモリ使用量を持ち、NVIDIAは迅速な応答が必要な対話型代理のために設計した。潜在的なアプリケーションには音声アシスタントやインタラクティブキャラクターが含まれる。このモデルは、NVIDIA Jetsonハードウェア上で運用される物理的なAIシステムにも対応している。Bolt E4Bは10月23日に発売予定であり、より大きなBoltモデルはすでに市場に出ている。
NVIDIAはSuper VLをリリースし、オープンな重みとトレーニング資料を提供している。そのトレーニングプロセスは約26兆のマークをカバーしている。後期トレーニングには約380万のサンプルが含まれ、複数の環境で強化学習が行われた。組織はNVIDIA NeMoとPythonベースのパイプラインを通じてモデルを調整できる。ローカルデプロイメントにより、彼らは自らのインフラや設定に基づいて敏感な情報に対するより大きな制御を行うことができる。Super VLはHugging Face、OpenRouter、ModelScopeを通じて入手可能であり、NVIDIAはそのデプロイメント生産AIサービスプラットフォームNIMを通じてこのモデルを提供している。Bolt
74B-A9BはHugging Faceで利用可能である。開発者はOllamaやLM Studioなどのツールを使用してこのモデルを運用できる。
これらのモデルのパフォーマンス、特にベンチマークテスト以外でのパフォーマンスは依然として大きな問題である。最終的には、ローカルハードウェアが過剰なメモリを必要とせず、応答速度を犠牲にすることなく信頼性のある結果を提供できるかどうかに依存する。
項目 仕様 Nemotron 3.5 Super VL 1200億パラメータ Bolt 74B-A9B 24GBメモリ使用量 Bolt E4B 4GBメモリ使用量
NVIDIAモデルのローカルAIアプリケーションへの影響
NVIDIAのNemotron 3.5 Super VLモデルは、強力な処理能力を持つだけでなく、ローカルハードウェア上で運用できるため、多くの企業にとって重要な意義を持つ。データプライバシーとセキュリティへの関心が高まる中、企業は自らのインフラ上でAIモデルを運用することを望んでおり、これによりクラウドサービスへの依存を減らすことができる。また、開発者は専有情報でさらなるトレーニングを行うことができ、特定のニーズに応じて最適化し、作業効率を向上させることができる。これらの機能により、Super VLは企業の自動化とデータ処理に理想的な選択肢となっている。