NVIDIA GTC 2025：NVIDIA 開放式推理 AI 模型系列，供企業建構代理型 AI 平台

NVIDIA 今日宣布推出具有推理能力的開放式 Llama Nemotron 模型系列，為開發人員和企業提供商業就緒的基礎，以建立可獨立作業或是組隊解決複雜任務的先進 AI 代理。

NVIDIA Llama Nemotron 推理模型系列以 Llama 模型為基礎，其隨選AI 推理功能為一全新推理模型，可強化後期訓練以改善多步驟數學、程式撰寫、推理和複雜決策。

與基礎模型相比，新模型準確度提高了 20%，而與其他領先的開放式推理模型相比，推論速度高出五倍。推論表現提高代表模型可以處理更複雜的推理任務，有著強大的決策能力，降低企業的經營成本。目前包括埃森哲（Accenture）、Amdocs、Atlassian、Box、Cadence、CrowdStrike、德勤（Deloitte）、IQVIA、微軟、SAP 和 ServiceNow，皆與 NVIDIA 合作開發全新的推理模型和軟體。

NVIDIA 創辦人暨執行長黃仁勳表示：「推理與代理型 AI 的採用程度令人難以置信。NVIDIA 的開放式推理模型、軟體和工具為世界各地的開發人員與企業提供了建立加速代理型 AI 團隊的基礎。」

代理型平台與 NVIDIA 合作強化產業推理能力 

代理型 AI 平台產業領導業者使用 Llama Nemotron 推理模型，為企業提供進階推理功能。其中，微軟將 Llama Nemotron 推理模型與 NIM 微服務整合至 Microsoft Azure AI Foundry中。這將擴大 Azure AI Foundry 模型目錄，提供客戶不同選擇，以增強適用於 Microsoft 365 之 Azure AI Agent Service 等服務。SAP則使用 Llama Nemotron 模型來推動開發 SAP Business AI 解決方案及 SAP 的 AI copilot Joule。SAP 還使用 NVIDIA NIM 與 NeMo™ 微服務來提升 SAP ABAP 程式語言模型的程式碼完成準確度。

資料來源：NVIDIA