NVIDIA NIM 智能體藍圖助力 AI 應用打造數字人機交互界面

Wed, 25 Sep 2024 09:58:13 +0000

為客戶提供高質量的服務仍然是各行各業企業的首要任務，從回答問題和解決問題到促進在線訂單。隨著企業在全球范圍內擴展運營并擴展產品以競爭，對無縫客戶服務的需求呈指數級增長搜索知識庫文章或瀏覽復雜的電話樹可能是一種有用資源，但客戶通常必須解析的信息密度會導致保留率不佳。隨著生成式 AI 、對話式 AI 和視覺 AI 等技術的融合，應用開發團隊正在尋找方法來提高與自助客戶應用的互動，從而提高整體滿意度和保留率。現在，您可以添加數字人界面來個性化聊天機器人應用，而不是基于文本的聊天機器人。此外，您還可以使用檢索增強生成技術 (RAG) 實現流暢的人機交互。本文將介紹如何使用 NVIDIA NIM Agent 藍圖實現這一目標，該藍圖將 NVIDIA NIM 微服務與參考代碼和文檔相結合。

Source

]]>

使用 Llama 3.1 和 NVIDIA NeMo Retriever NIM 構建基于代理的 RAG 流程模型

Tue, 23 Jul 2024 00:50:29 +0000

采用檢索增強生成（RAG)是一種有效策略，可以確保大型語言模型（LLM)響應保持最新且不會產生幻覺。雖然各種檢索策略可以改善文檔的生成調用，但沒有一種通用的方法。檢索流程取決于您的數據，從超參數如塊大小和返回的文檔數量，到檢索算法如語義搜索或圖形檢索等。檢索策略可能有所不同，但在現代 RAG 系統中，越來越常見的做法是在檢索系統上添加智能體框架。此框架可以處理對檢索到的數據的推理、決策和反射。智能體是一個系統，可以使用大語言模型來推理解決問題，創建解決問題的計劃，并借助一組工具執行計劃。例如，眾所周知，LLMs 在解決數學問題方面表現不佳。為 LLM 提供一個計算器“工具”，它可以用來執行數學任務，同時它通過計算公司收入的同比增長來推理，這可以說是一種代理工作流。隨著生成式 AI系統開始向能夠執行代理任務的實體過渡，我們需要經過訓練的強大模型，這些模型能夠分解任務、

Source

]]>

Vinay Bagade – NVIDIA 技術博客

NVIDIA NIM 智能體藍圖助力 AI 應用打造數字人機交互界面

使用 Llama 3.1 和 NVIDIA NeMo Retriever NIM 構建基于代理的 RAG 流程模型