Chris Krapu – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Wed, 22 Jan 2025 06:07:42 +0000 zh-CN hourly 1 196178272 構建 AI 銷售助理的經驗教訓 http://www.open-lab.net/zh-cn/blog/lessons-learned-from-building-an-ai-sales-assistant/ Tue, 21 Jan 2025 06:00:25 +0000 http://www.open-lab.net/zh-cn/blog/?p=12684 Continued]]> 在 NVIDIA,銷售運營團隊為銷售團隊提供將先進的硬件和軟件推向市場所需的工具和資源。通過 NVIDIA 的各種技術來管理這一點是許多企業都面臨的復雜挑戰。 通過與我們的銷售團隊合作,我們發現他們依賴于內部和外部文檔,通常會瀏覽多個存儲庫來查找信息。現在想象一下,一款 AI 銷售工具可以幫您完成所有這些工作。 本文將探討 NVIDIA 如何使用 大語言模型 (LLMs) 和 檢索增強生成 (RAG) 技術構建 AI 銷售助理,以簡化銷售工作流,并解決挑戰、核心解決方案組件和關鍵經驗教訓。有關更多信息,請參閱 Explore Retrieval Models 。 了解如何打造出色的 AI 銷售助理。 從直觀的多回合聊天平臺開始,該平臺由 Llama 3.1 70B 等功能強大的 LLM 提供支持。通過 Perplexity API 實現 RAG 和…

Source

]]>
12684
NVIDIA 中構建 RAG 基問答大語言模型工作流程 http://www.open-lab.net/zh-cn/blog/creating-rag-based-question-and-answer-llm-workflows-at-nvidia/ Mon, 28 Oct 2024 05:35:37 +0000 http://www.open-lab.net/zh-cn/blog/?p=11785 Continued]]> 利用檢索增強生成(RAG)技術快速開發解決方案,助力問答 LLM 工作流程,由此催生出新型系統架構。NVIDIA 將 AI 用于內部運營,并在系統功能與用戶期望之間取得了多項重要發現。 我們發現,無論預期的范圍或用例如何,用戶通常都希望能夠執行非 RAG 任務,例如執行文檔翻譯、編輯電子郵件甚至編寫代碼。一個普通的 RAG 應用程序可能會這樣實現:對每個消息執行檢索管道,從而導致令牌的過度使用,并由于包含不相關的結果而導致不必要的延遲。 我們還發現,即使應用程序專為訪問內部私有數據而設計,用戶也非常喜歡訪問 Web 搜索和摘要功能。我們使用 Perplexity 的搜索 API 來滿足這一需求。 在本文中,我們分享了用于解決這些問題的基本架構,即使用路由和多源 RAG 生成能夠回答各種問題的聊天應用程序。這是我們已用于 NVIDIA 生產的應用程序的精簡版本,

Source

]]>
11785
人人超碰97caoporen国产