NVIDIA推出企業級生成式AI微服務

NVIDIA日前宣布推出一款生成式人工智慧微服務，讓企業能夠將客製化大型語言模型與企業資料連結，為企業的人工智慧應用程式提供高度準確的回應。

NVIDIA 創辦人暨執行長黃仁勳表示：「具有檢索增強生成功能的生成式人工智慧應用程式將是企業的下一個殺手級應用程式。透過 NVIDIA NeMo Retriever，開發人員可以創建客製化的生成式人工智慧聊天機器人、副駕駛（copilot）和摘要工具，這些工具可以存取他們企業的資料，透過準確且有價值的生成式人工智慧的智慧來提高生產力。」

NVIDIA NeMo™ Retriever 是 NVIDIA NeMo 系列框架和工具中的新產品，用於建置、客製化和部署生成式人工智慧模型，可協助組織透過企業級檢索增強生成（RAG）功能增強生成式人工智慧應用程式。而作為一個語意檢索微服務，NeMo Retriever透過NVIDIA最佳化的演算法，幫助生成式人工智慧應用程式提供更準確的回應。

使用微服務的開發人員可以將其人工智慧應用程式連接到位於雲端和資料中心的業務資料。它將經過 NVIDIA 最佳化的檢索增強生成功能添加至人工智慧代工服務中，並且是 NVIDIA AI Enterprise 軟體平台的一部分，可在 AWS Marketplace 中獲得，包括Cadence、Dropbox、SAP 和 ServiceNow 是與 NVIDIA 合作此項目的先驅，他們將生產就緒的檢索增強生成功能建置到其客製化生成人工智慧應用程式和服務中。

Cadence總裁暨執行長Anirudh Devgan表示：「生成式人工智慧引入了創新方法來滿足客戶需求，例如在設計過程早期發現潛在缺陷的工具。我們的研究人員正在與NVIDIA合作，使用Retriever進一步提高生成式人工智慧應用程式的準確性和相關性，以揭示問題並幫助客戶更快地將高品質的產品推向市場。」

企業使用 NeMo Retriever 可以將其大型語言模型連接到多個資料來源和知識庫，使用者可以輕鬆地與資料互動，並使用簡單的對話提示獲得準確、及時的答案。使用 Retriever 驅動應用程式的企業可以讓使用者安全地獲取跨多種資料模式的訊息，例如文字、PDF、圖像和影片。企業能夠使用 NeMo Retriever 以更少的訓練獲得更準確的結果，加快上市時間並支援生成式人工智慧應用程式開發中的能源效率。

資料來源、照片來源：NVIDIA