Nvidia 推出面向企業代理與本機 AI PC 的開放模型

前言

Nvidia 推出了一組新的開放權重模型，專為兩種日益重要的 AI 環境設計：企業代理系統，以及可在本機執行模型的運算裝置。這項公告涵蓋一款用於商業任務的大型模型，以及數款專為 AI PC 和工作站設計的小型模型。這些模型共同展現了一項策略：將 Nvidia 的軟體產品與硬體結合，同時回應組織對於掌控 AI 工作負載執行位置的關注。該公司表示，這些模型可支援文件分析、會計、研究和工具使用等任務；本機模型則可能讓使用者將日常工作負載留在自己的裝置上，而非傳送至雲端服務。Nvidia 對效能和採用情況的說法屬於公司主張，但此次發布也呈現出更廣泛的趨勢：AI 供應商不只在模型能力上競爭，也在部署選項、隱私和基礎設施彈性上較勁。

懶人包

Nvidia 的新產品陣容將面向企業的 Nemotron 3.5 Super VL，與適用於本機 AI PC 和工作站的輕量 Bolt 模型搭配推出。該公司表示，Super VL 以少於 Nemotron 3 Ultra 的參數量，提供強大的代理能力；Bolt 模型則用於推理、工具呼叫、瀏覽和對話等裝置端任務。核心概念是提供部署選擇：組織可以利用自己的資料和基礎設施調整模型，而 PC 使用者則能在本機執行代理，不必依賴雲端處理。Super VL 和 Bolt 74B-A9B 現已推出；Bolt E4B 預計於本月稍晚推出。

正文

Nvidia 宣布推出一系列新的開放權重 AI 模型，旨在支援常駐執行的代理、企業應用程式和邊緣運算。此次推出的模型涵蓋不同規模，反映出 AI 部署的一項實際挑戰：強大的模型能處理複雜任務，但可能需要大量運算資源；較小的模型則更容易在靠近使用者和資料的位置執行。Nvidia 的產品陣容旨在涵蓋這兩端，從用於商業工作流程的大型模型，到適用於本機裝置的精巧選項。

此次發布中最大型的模型是 Nemotron 3.5 Super VL，這是一款面向企業代理、擁有 120-billion 個參數的模型。Nvidia 將其定位為可遵循指示並使用工具完成多步驟工作的系統。該公司表示，儘管 Super VL 的參數量少於其 Nemotron 3 Ultra 模型，在遵循指示和使用工具的任務上仍可達到相近的準確度。參數量是衡量模型規模的一種方式，但單憑這項指標，無法確定模型在所有使用情境中的表現。結果可能取決於任務、資料、模型調整方式以及評估方法。

Nvidia 也表示，當模型針對特定代理工作負載進行後訓練時，Super VL 完成任務的速度可超越 Anthropic 和 OpenAI 的競爭模型——Opus 5、GPT 6.1 Sol、Luna 和 Astra。Nvidia 列舉的範例包括文件智能、財務會計、科學實驗、醫療保險理賠，以及抵禦安全攻擊。這些都是專業領域，AI 代理可能需要解讀資訊、逐步推理並與軟體工具互動。由於這項速度比較是由 Nvidia 提出，因此應視為公司主張，而非獨立研究結果。實際效能可能因工作負載、配置和部署環境而異。

為佐證採用情況，Nvidia 列出數家據稱正在使用 Super VL 的組織：Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。來自不同產業的企業出現在名單中，顯示該模型意圖服務的企業活動範圍。然而，列出使用者並不能證明系統的部署規模有多廣，或各組織取得了哪些成果。這項公告顯示市場對模型抱持興趣並已有使用案例，但未提供個別實作的細節。

除了 Super VL，Nvidia 也推出兩款針對本機部署的小型 Bolt 模型。該公司表示，這些模型適用於搭載 Nvidia RTX Spark 晶片的新款 AI PC，以及搭載 DGX Spark 的工作站。這類系統的目標使用者包括消費者、程式設計師和企業知識工作者。Nvidia 表示，這些 PC 正透過 Microsoft 和 Dell 等合作夥伴上市。本機運算的定位使 Bolt 模型有別於依賴遠端雲端基礎設施的服務：視模型能力和可用硬體而定，裝置端模型可以直接在電腦上處理某些要求。

其中一款小型模型 Nemotron 3.5 Bolt 74B-A9B 24GB，擁有 74-billion 個參數，專為本機代理任務設計。Nvidia 表示，這款模型旨在兼顧速度與推理能力，並能處理多步驟推理、工具呼叫和網頁瀏覽。這些功能對需要依序執行一連串動作，而非只回答單一提示的代理而言相當重要。例如，系統可能會先解讀要求、判斷需要哪些資訊或工具，再使用該工具完成任務。此類模型是否實用，取決於回應品質、與應用程式的相容性，以及在本機硬體上的效能。

此次發布中最小的模型是 Bolt E4B，Nvidia 表示其目標是對話型代理。較小的模型可能很適合重視回應速度和本機運作的互動任務，不過模型大小本身並不能決定對話品質。Nvidia 表示，Super VL 和 Bolt 74B-A9B 現已推出，而 Bolt E4B 預計於本月稍晚推出。不同的發布時程讓開發人員和組織有機會先評估較大型模型，再等候最小型模型推出。

Nvidia 此次公告也延續了其更廣泛的 Nemotron 產品組合。該公司已推出適用於多模態人工智慧、推理、程式設計、數學和企業自動化等領域的開放權重模型。這些產品使 Nvidia 更直接地與專有 AI 實驗室競爭，即使這些實驗室仍是更廣泛產業中的客戶和投資夥伴。開放權重模型可提供比封閉系統更高的彈性，但實際可行的使用方式與責任，仍取決於模型授權和部署條款。

Nvidia 面臨的一項重要策略課題是，AI 開發者正探索 GPU 以外的運算基礎設施。企業正在考慮其他晶片和系統，包括 AWS 的 Trainium 和 Cerebras，也有企業自行開發晶片。在這種情況下，提供針對 Nvidia 硬體最佳化的模型，讓該公司多了一種將 AI 軟體與自家基礎設施相連結的方式。這項策略不僅限於銷售運算能力，也鼓勵組織在自己掌控的環境中建置和執行 AI 系統。

Nvidia 開放模型與軟體副總裁 Kari Briski 在公司的公告中說明了這項企業方案。她寫道，組織可以使用自己的資料對 Super VL 進行後訓練、將其部署在自己的基礎設施上，並擁有自己打造的成果。這與完全依賴透過外部服務存取的封閉前沿模型形成對比。對企業而言，本機掌控可能有助於滿足客製化、治理和資料處理方面的要求。同時，在內部運作模型需要合適的硬體、技術專業知識、持續評估，以及確保準確性、安全性和負責任使用的防護措施。

Bolt 模型也回應了消費者對能代為執行任務的 AI 助理日益增加的興趣。助理可能需要存取個人情境資訊，包括家庭、健康或財務相關資訊，因此隱私會是重要考量。在本機執行代理可能減少將部分工作負載傳送至雲端的需求，但本機執行並不會自動解決所有隱私或安全問題。使用者和組織仍須了解應用程式會存取哪些資料、如何儲存資訊，以及是否會與外部系統通訊。

Briski 寫道，PC 使用者可以委派日常專案，而不必將這些工作負載傳送至雲端。這說明了 Nvidia 為本機模型及搭載這些模型的 PC 設定的用途。這項策略可能透過提供直接在裝置上執行 AI 的獨特理由，帶動搭載 Nvidia 晶片的電腦需求。這個市場是否會成長，取決於本機代理的可靠性與實用性、相容應用程式的供應情況、裝置成本，以及使用者是否願意將任務交由 AI 系統處理。

整體而言，這系列新產品結合了企業級模型能力與面向本機運作的小型選項。Super VL 被定位為適合尋求代理功能，並希望在自有環境中調整和部署系統的組織。Bolt 模型則將同樣的整體理念延伸至 PC 和工作站，著重於本機推理和對話。Nvidia 對速度、準確度和採用情況的主張，仍須在具體環境中驗證；但此次發布清楚強調了 AI 部署選擇日益多元：雲端服務、由企業掌控的基礎設施，或是在本機裝置上靠近使用者執行的模型。

重點整理表