Storage Networking & Security – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Tue, 30 Jul 2024 01:56:53 +0000
zh-CN
hourly
1
196178272 -
使用 NVIDIA Bluefield-3 DPU 與 DDN 存儲集成加速 AI 基礎架構
http://www.open-lab.net/zh-cn/blog/accelerate-ai-infrastructure-using-an-nvidia-bluefield-3-dpu-integration-with-ddn-storage/
Tue, 23 Jul 2024 10:39:38 +0000
http://www.open-lab.net/zh-cn/blog/?p=10746
Continued]]>
隨著 AI 成為組織創新和競爭優勢不可或缺的一部分,對高效且可擴展的基礎設施的需求比以往任何時候都更加迫切。NVIDIA 和 DDN Storage 之間的合作正在該領域樹立新的標準。通過將 NVIDIA BlueField 數據處理器 集成到 DDN EXAScaler 和 DDN Infinia,并以創新方式使用,DDN Storage 正在改變以數據為中心的工作負載。 NVIDIA 先進的數據處理與 DDN 強大的存儲解決方案的協同作用可以優化 AI 工作流程、增強運營、提高資源利用率,并在 AI 環境中支持多租戶。 在本文中,我們將重點介紹 Infinia 的集成優勢。 DDN Infinia 是一個軟件定義數據平臺,利用 BlueField-3 DPU 的強大功能來有效管理以數據為中心的工作負載,尤其是在加速計算和生成式人工智能方面。這種集成增強了多租戶,
Source
]]>
10746
-
借助加速以太網網絡和網絡存儲擴展企業 RAG
http://www.open-lab.net/zh-cn/blog/scaling-enterprise-rag-with-accelerated-ethernet-networking-and-networked-storage/
Mon, 18 Mar 2024 04:50:31 +0000
http://www.open-lab.net/zh-cn/blog/?p=9282
Continued]]>
在生成式人工智能中,機器不僅可以從數據中學習,還可以生成類似人類的文本、圖像、視頻等。檢索增強生成 (RAG) 是一種突破性的方法。 RAG 工作流程基于 大型語言模型(LLM),可以理解查詢并生成響應。但是,LLM 存在局限性,包括訓練復雜性和缺乏當前 (有時是專有) 信息。此外,當未根據特定數據進行訓練以回答提示時,它們往往會產生幻覺并合成事實錯誤的信息。RAG 通過向 LLM 提供企業特定信息來增強查詢,以幫助克服這些限制。 在本文中,我們討論了 RAG 如何助力企業為各種企業用例創建高質量、相關且引人入勝的內容。我們深入探討了擴展 RAG 以處理大量數據和用戶所面臨的技術挑戰,以及如何使用由 NVIDIA GPU 計算、加速以太網網絡、網絡存儲和 AI 軟件提供支持的可擴展架構來應對這些挑戰。 典型的 RAG 工作流程使用 向量數據庫,
Source
]]>
9282
人人超碰97caoporen国产