智能網卡 – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Thu, 05 Jun 2025 05:33:39 +0000 zh-CN hourly 1 196178272 NVIDIA ConnectX-8 SuperNIC 通過 PCIe6.0總線升級 AI 平臺架構 http://www.open-lab.net/zh-cn/blog/nvidia-connectx-8-supernics-advance-ai-platform-architecture-with-pcie-gen6-connectivity/ Sun, 18 May 2025 06:34:44 +0000 http://www.open-lab.net/zh-cn/blog/?p=13955 Continued]]> 從 大語言模型 (LLM) 到 代理式 AI 推理和 物理 AI ,隨著 AI 工作負載的復雜性和規模不斷增加,人們對更快、擴展性更高的計算基礎設施的需求空前強烈。滿足這些需求就要從基礎開始重新思考系統架構。 NVIDIA 正在通過 NVIDIA ConnectX-8 SuperNIC 升級平臺架構。NVIDIA ConnectX-8 SuperNIC 是業內首款在單個設備中集成 PCIe6.0 交換機和超高速網絡的 SuperNIC。ConnectX-8 專為現代 AI 基礎架構設計,可提供更高的吞吐量,同時簡化系統設計,并提高能效和成本效益。 在基于 PCIe 連接的平臺中,尤其是配備 8 個或更多 GPU 的平臺,PCIe 交換機對于最大化 GPU 間通信帶寬和實現可擴展的 GPU 拓撲至關重要。現有設計依賴于獨立的 PCIe 交換機,這通常會增加設計復雜性,

Source

]]>
13955
借助 NVIDIA DOCA 2.7 增強 AI 云數據中心和 NVIDIA Spectrum-X http://www.open-lab.net/zh-cn/blog/enhancing-ai-cloud-data-centers-and-nvidia-spectrum-x-with-nvidia-doca-2-7/ Thu, 23 May 2024 04:51:03 +0000 http://www.open-lab.net/zh-cn/blog/?p=10093 Continued]]> 我們通過 NVIDIA DOCA 加速框架,為開發者提供了豐富的庫、驅動和 API,以創建高性能應用程序和服務,支持 NVIDIA BlueField 數據處理器 (DPU) 和 SuperNIC。DOCA 2.7 是一個功能豐富的全面版本,進一步擴展了 DOCA 軟件框架的范圍和價值,提供了多個新的庫、一站式應用和功能齊全的服務。 DOCA 2.7 擴展了 BlueField DPU 在數據中心內卸載、加速和隔離網絡、存儲、安全和管理基礎設施方面的能力。該版本還進一步增強了 AI 云數據中心,并通過 NVIDIA Spectrum-X 網絡平臺,為 AI 工作負載提供了卓越的性能。 本文中詳細介紹的版本亮點包括: DOCA 2.7 為以太網 AI 云部署啟用 NVIDIA Spectrum-X 1.0.1 (SPC-X 1.0.1) 參考架構。此架構經過嚴格測試,

Source

]]>
10093
人人超碰97caoporen国产