英偉達が Underdog アプリを発表、ローカル AI モデルの管理と運用を促進

·著者 Henderson·AI
英偉達が Underdog アプリを発表、ローカル AI モデルの管理と運用を促進

英偉達は最近、Underdog アプリを発表し、ローカル AI モデルの管理と運用を簡素化することを目的としている。このアプリは RTX Spark デバイス専用に設計されており、専用の推論エンジンを通じてコンピュータ上で AI タスクを処理でき、クラウドに接続する必要がなく、関連データはユーザーのデバイスに保持される。英偉達 RTX Spark ノートパソコンは 10 月 16 日に発売され、Arm アーキテクチャに基づくシステムオンチップを搭載し、Windows システムを運行しており、主にローカルの大規模言語モデルなどの高負荷 AI アプリケーションを対象としている。現在、ASUS、Dell、HP、Lenovo、Microsoft、MSI が関連製品を発売しており、Acer のモデルも準備中である。

Underdog は特定のモデル向けに設計された Husky 推論エンジンを採用しており、ユーザーは RTX Spark デバイス上でローカル AI モデルを直接実行できる。推論プロセスはクラウドサービスに依存しないため、ユーザーデータは外部サーバーにアップロードされる必要がなく、データがローカルデバイスから離れることによるプライバシーリスクを低減できる。

Underdog アプリがローカル AI モデルの管理効率を向上

英偉達はまた、ローカル推論ツールの性能更新を発表した。llama.cpp は Qwen 3.8 Flash Next に対する MTP 推測デコードのサポートを追加した。RTX Pro 6000 Blackwell を搭載したデバイスで実行する場合、エンドツーエンドのインテリジェントタスクの処理速度は約 1.4 倍向上する。さらに、英偉達は Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、FLUX 3 Klein 拡散モデルが初期サポートを受けることを発表した。

これは、関連モデルがリリースされた後、適合するデバイス上ですぐに使用できることを意味し、ユーザーは後続の互換性更新を待つ必要がない。Underdog は、上記のサポートプランとともに RTX Spark デバイスのローカル AI ソフトウェア環境をさらに充実させている。

利益声明:この記事には提携企業の製品リンクが含まれています。リンクを通じて購入した場合、TechRitual は手数料収入を得る可能性がありますが、製品の評価や推奨には影響しません。詳細についてはプライバシーポリシーをご覧ください。

H
著者について
Henderson