想象一下,在每次互動中,您都能讓最優秀的銷售人員站在每位客戶面前。您的最優秀的銷售人員會提供產品推薦和操作方法指導,并解釋客戶可能沒有考慮過的相關產品。
本文中介紹的 NVIDIA 零售購物顧問是一種預構建的端到端 AI 工作流程。它提供了一個參考設計,演示如何開發具有大型語言模型(LLMs)的檢索增強生成(RAG)應用程序,該應用程序可以提取產品目錄數據,并使用一些最新的生成式 AI 功能提供差異化體驗,為客戶的查詢和推薦請求提供符合上下文準確且類似人類的答案。
零售購物顧問 AI 工作流程
此零售購物顧問 AI 工作流程為企業提供了從試點到實現商業價值的快速先進的方法。它包括一切所需的元素,以創建對話式、精確和準確的消費者購物體驗。

零售購物顧問參考架構包含一個 RAG 模型,該模型可以在回答客戶問題時利用最新的產品數據。此外,還包含來自 NVIDIA Employee Gear Store 的產品數據樣本集,該數據集表示產品目錄。您可以使用此參考示例將自己的產品目錄和相關數據添加到其中,為您的企業創建交互式購物顧問。
NVIDIA AI Enterprise 中包含 NVIDIA NIM 微服務,可確保快速的企業級部署和優化的模型性能。NIM 微服務的 NVIDIA NeMo Retriever 集合通過有效使用廣泛的企業數據來增強傳統的 LLM 功能。這只是開發者在構建購物顧問應用程序時可以從 NVIDIA 選擇的軟件套件中的一小部分。
NVIDIA NIM旨在簡化生成式AI應用的部署,同時確保安全性和可擴展性(這是企業成功采用的關鍵)。NIM封裝了模型和集成代碼,這些模型和代碼通過Kubernetes Helm圖表部署。這些模型和代碼可以部署在選擇的基礎架構上(本地或通過云服務提供商)。NIM的設置提供了一條路徑,可將生成式AI應用從概念驗證提升到生產,從而“在短短5分鐘內即可實現零推理”。
NeMo Retriever 包含先進的商用模型,用于檢索嵌入和重新排序。通過 NVIDIA API 目錄訪問這些微服務。NVIDIA 零售購物顧問使用 GPU 優化的 Milvus 數據庫來存儲向量嵌入。
借助 NVIDIA NIM 和 NeMo Retriever 微服務,您可以構建自己的零售購物顧問應用程序,該應用程序可以實時訪問數據,并且經過優化,與嚴格的開源框架相比,可實現更高的調用率。NVIDIA NIM 的性能優勢簡化了解決客戶在對更長的搜索查詢獲取高質量響應這一重大問題。
關注 Jupyter Notebook
此工作流程中包含一個 JupyterLab Notebook 服務器,其中包含一個展示解決方案功能的示例 Notebook,因此您可以快速對自己的數據進行原型設計和實驗。具體來說,它涵蓋了如何:
- 使用 LLM
- 將 LLM 與零售產品數據結合使用
- 根據產品信息創建嵌入
- 使用這些嵌入檢索與給定查詢最相似的產品
- 助力 LLM 做出決策,例如正常響應,或使用搜索或購物車 API 等工具
- 將這些組件收集到單個 Productebook 實用程序類中
- 將其部署在 FastAPI 后端,并通過 React 應用程序中的聊天框與該后端交互
開始使用
詳細了解如何構建自己的零售購物顧問。當您準備好開始后,您可以申請 90 天免費訂閱,免費訪問零售購物顧問 NVIDIA AI 工作流程。要體驗其他 NVIDIA NIM 微服務,請訪問 NVIDIA API 目錄。
有關 NVIDIA 如何幫助零售商應對新用例的更多詳細信息,請查看 GTC 點播會議“How NVIDIA Accelerates Retailers on the Gen AI Journey”。
如需了解有關在企業中構建 RAG 應用的更多信息,請訪問 GitHub 上的 NVIDIA/GenerativeAIExamples。這些示例將幫助您創建自己的購物顧問,以便使用最可行的信息準確回答有關企業產品的特定領域的問題。
?
?