BlueField DPU – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Thu, 10 Jul 2025 06:31:51 +0000
zh-CN
hourly
1
196178272 -
使用 DPU 加速的 Kubernetes 服務代理增強 AI 工廠
http://www.open-lab.net/zh-cn/blog/turbocharging-ai-factories-with-dpu-accelerated-service-proxy-for-kubernetes/
Mon, 07 Jul 2025 06:08:52 +0000
http://www.open-lab.net/zh-cn/blog/?p=14535
Continued]]>
隨著 AI 借助代理式 AI 向規劃、研究和推理發展,工作流變得越來越復雜。為了高效部署代理式 AI 應用,AI 云需要軟件定義、硬件加速的應用交付控制器 (ADC) 。這實現了動態負載均衡、強大的安全性、云原生多租戶和豐富的可觀測性。適用于 Kubernetes 的 F5 BIG-IP ADC 由 NVIDIA BlueField-3 數據處理器 (DPU) 提供支持,可簡化 Kubernetes 應用交付和代理式 AI 的部署,同時憑借運營效率和最佳功耗降低總體擁有成本。 自 2022 年推出 OpenAI 的 ChatGPT 以來,AI 發展迅速。最初,AI 專注于使用 GPU 進行模型訓練,以處理大型數據集并優化性能。如今,研究重點已擴展到分布式推理,包括大語言模型 (LLM) 回答查詢、通過檢索增強生成 (RAG) 集成企業數據,以及開發 DeepSeek R1 等推理模型。
Source
]]>
14535
-
NVIDIA DOCA 3.0 助力 AI 平臺開啟網絡新紀元
http://www.open-lab.net/zh-cn/blog/powering-the-next-frontier-of-networking-for-ai-platforms-with-nvidia-doca-3-0/
Wed, 25 Jun 2025 04:24:05 +0000
http://www.open-lab.net/zh-cn/blog/?p=14474
Continued]]>
NVIDIA DOCA 框架已發展成為新一代 AI 基礎設施的重要組成部分。從初始版本到備受期待的 NVIDIA DOCA 3.0 發布,每個版本都擴展了 NVIDIA BlueField DPU 和 ConnectX SuperNIC 的功能,從而實現了前所未有的 AI 平臺可擴展性和性能。 通過豐富的庫和服務生態系統, DOCA充分利用 BlueField DPU 和 SuperNIC,實現了在超過 10 萬個 GPU 上的超大規模部署,同時保持嚴格的租戶隔離并優化資源利用率。DOCA 的安全功能可為容器化 AI 工作負載提供硬件級威脅檢測,而不會對性能造成影響。DOCA 的智能數據加速功能解決了 AI 數據流水線中的關鍵瓶頸,而其編排功能則簡化了復雜的 DPU 加速服務部署。 本文將介紹 DOCA 3.0,它代表了這些進步的最終成果。DOCA 3.0…
Source
]]>
14474
-
NVIDIA ConnectX-8 SuperNIC 通過 PCIe6.0總線升級 AI 平臺架構
http://www.open-lab.net/zh-cn/blog/nvidia-connectx-8-supernics-advance-ai-platform-architecture-with-pcie-gen6-connectivity/
Sun, 18 May 2025 06:34:44 +0000
http://www.open-lab.net/zh-cn/blog/?p=13955
Continued]]>
從 大語言模型 (LLM) 到 代理式 AI 推理和 物理 AI ,隨著 AI 工作負載的復雜性和規模不斷增加,人們對更快、擴展性更高的計算基礎設施的需求空前強烈。滿足這些需求就要從基礎開始重新思考系統架構。 NVIDIA 正在通過 NVIDIA ConnectX-8 SuperNIC 升級平臺架構。NVIDIA ConnectX-8 SuperNIC 是業內首款在單個設備中集成 PCIe6.0 交換機和超高速網絡的 SuperNIC。ConnectX-8 專為現代 AI 基礎架構設計,可提供更高的吞吐量,同時簡化系統設計,并提高能效和成本效益。 在基于 PCIe 連接的平臺中,尤其是配備 8 個或更多 GPU 的平臺,PCIe 交換機對于最大化 GPU 間通信帶寬和實現可擴展的 GPU 拓撲至關重要。現有設計依賴于獨立的 PCIe 交換機,這通常會增加設計復雜性,
Source
]]>
13955
-
借助 NVIDIA DOCA 平臺框架,助力新一代 DPU 加速云基礎設施
http://www.open-lab.net/zh-cn/blog/powering-the-next-wave-of-dpu-accelerated-cloud-infrastructures-with-nvidia-doca-platform-framework/
Mon, 13 Jan 2025 08:06:11 +0000
http://www.open-lab.net/zh-cn/blog/?p=12623
Continued]]>
越來越多的企業組織開始采用加速計算來滿足生成式 AI、5G 電信和主權云的需求。NVIDIA 發布了 DOCA 平臺框架 (DPF),該框架提供了基礎構建塊來釋放 NVIDIA BlueField DPU 的強大功能,并優化 GPU 加速的計算平臺。作為一種編排框架和實施藍圖,DPF 使開發者、服務提供商和企業能夠無縫創建 BlueField 加速的云原生軟件平臺。 通過簡化 DPU 調配、生命周期管理和服務編排,DPF 使 BlueField DPU 可在 Kubernetes 環境中廣泛使用,以加速 AI 和其他現代工作負載。此外,DPF 還強化了由 BlueField 加速的應用和服務組成的生態系統,推動可擴展云平臺的發展。 NVIDIA 對 CPU-GPU-DPU 三功能的承諾眾所周知,隨著 DPF 的推出,NVIDIA 正在此架構的 DPU 方面實現大膽的飛躍。
Source
]]>
12623
-
NVIDIA BlueField DPU 與 WEKA Client 的集成提升 AI 工作負載效率
http://www.open-lab.net/zh-cn/blog/integration-of-nvidia-bluefield-dpus-with-weka-client-boosts-ai-workload-efficiency/
Thu, 12 Dec 2024 05:51:34 +0000
http://www.open-lab.net/zh-cn/blog/?p=12353
Continued]]>
WEKA 是可擴展軟件定義數據平臺的先驅,NVIDIA 正在攜手合作,將 WEKA 的先進數據平臺解決方案與功能強大的 NVIDIA BlueField DPU 相結合。 WEKA 數據平臺高級存儲軟件可充分發揮 AI 和性能密集型工作負載的潛力,而 NVIDIA BlueField DPU 則徹底改變了數據的訪問、移動和安全性。這些前沿技術的集成將開創數據管理效率和速度前所未有的新時代,并有望重塑高性能數據訪問的格局。 AI 的迅速崛起推動了計算能力和網絡速度的指數級增長,對存儲資源提出了非常高的需求。NVIDIA GPU 可提供令人驚嘆的可擴展、高效計算能力,同時還需要高速數據訪問。 WEKA 與 NVIDIA 的合作應對了這一挑戰。它們共同滿足了對 PB 級數據進行高帶寬網絡訪問以執行模型訓練和推理任務 (包括 檢索增強型生成 (RAG)) 的關鍵需求。
Source
]]>
12353
-
NVIDIA DOCA 2.9 借助新性能和安全功能強化人工智能和云計算基礎設施
http://www.open-lab.net/zh-cn/blog/nvidia-doca-2-9-enhances-ai-and-cloud-computing-infrastructure-with-new-performance-and-security-features/
Thu, 14 Nov 2024 07:22:47 +0000
http://www.open-lab.net/zh-cn/blog/?p=12041
Continued]]>
NVIDIA DOCA 通過為開發者提供全面的軟件框架來利用硬件加速來增強 NVIDIA 網絡平臺的功能,從而提高性能、安全性和效率。它的 API、庫和工具生態系統可簡化數據中心基礎設施的開發,實現工作負載卸載、加速和隔離,以支持現代、高效的數據中心。 如今,許多主要的 CSP 和 NVIDIA 云合作伙伴(NCP)都在使用 DOCA,并為快速開發和部署創新解決方案提供了標準化平臺。這種方法可縮短上市時間、降低成本,并使合作伙伴能夠在使用 NVIDIA 硬件加速的同時專注于自身的核心優勢。 DOCA 培育的開放生態系統促進了協作和互操作性,創造了各種互補解決方案。合作伙伴可以探索 AI 驅動的網絡、高級安全性和高性能存儲等新興市場,將自己定位在數據中心創新前沿。 DOCA 2.9 的最新版本標志著 AI 計算結構和云計算基礎設施的重大進步。這次全面更新引入了許多新功能和改進,
Source
]]>
12041
-
在 SONiC 中通過安全啟動保護您的網絡
http://www.open-lab.net/zh-cn/blog/protect-your-network-with-secure-boot-in-sonic/
Tue, 29 Oct 2024 05:18:29 +0000
http://www.open-lab.net/zh-cn/blog/?p=11772
Continued]]>
NVIDIA 技術可幫助組織構建和維護安全、可擴展和高性能的網絡基礎設施。以 NVIDIA 為前沿的人工智能技術的進步每天都在推動安全方面的進步。NVIDIA 采取更直接的方法之一是通過安全的網絡操作系統(NOS)。 安全網絡操作系統(NOS)是一種專門類型的 NOS,專注于強大的安全功能,以保護網絡基礎設施免受各種威脅。 不同的系統 提供各種安全功能。有些系統提供內置防火墻、VPN 或監控工具。有些系統提供高級威脅檢測和響應功能。有些系統在啟動級別提供強化的安全性,甚至在操作系統加載之前就能防止攻擊。其中一項功能稱為 Secure Boot。 越來越多的 NVIDIA 平臺支持安全標準 Secure Boot。Secure Boot 是一項安全 UEFI(統一可擴展固件接口)功能,旨在防止在啟動過程和固件更新期間運行未經授權的固件或軟件。
Source
]]>
11772
-
NVIDIA SuperNIC 驅動新一代 AI 網絡發展
http://www.open-lab.net/zh-cn/blog/powering-next-generation-ai-networking-with-nvidia-supernics/
Tue, 15 Oct 2024 04:39:33 +0000
http://www.open-lab.net/zh-cn/blog/?p=11675
Continued]]>
在生成式 AI 時代,加速網絡對于為大規模分布式 AI 工作負載構建高性能計算結構至關重要。NVIDIA 在該領域繼續保持領先地位,提供先進的以太網和 InfiniBand 解決方案,可最大限度地提高 AI 工廠和云數據中心的性能和效率。 這些解決方案的核心是 NVIDIA SuperNIC,一種經過優化的新型網絡加速器,可為超大規模 AI 工作負載提供支持。這些 SuperNIC 是 NVIDIA Spectrum-X 以太網和 Quantum-X800 InfiniBand 網絡平臺的關鍵組件,旨在提供前所未有的可擴展性和性能。 NVIDIA SuperNIC 產品組合中的最新成員 ConnectX-8 SuperNIC 與 BlueField-3 SuperNIC 一起,共同推動加速的大規模 AI 計算結構的新一輪創新浪潮。
Source
]]>
11675
-
借助 NVIDIA DOCA-OFED 讓您的網絡堆棧面向未來
http://www.open-lab.net/zh-cn/blog/future-proof-your-networking-stack-with-nvidia-doca-ofed/
Tue, 15 Oct 2024 04:33:41 +0000
http://www.open-lab.net/zh-cn/blog/?p=11672
Continued]]>
NVIDIA DOCA 軟件平臺 釋放了 NVIDIA BlueField 網絡平臺 的潛力,并為 NVIDIA BlueField 和 ConnectX 設備提供了所需的所有主機驅動程序。DOCA 針對峰值性能進行了優化,使用戶能夠滿足日益復雜的工作負載的需求。其模塊化結構提供了適應新興技術和更高數據吞吐量所需的靈活性。 在最近發布的網絡軟件版本中,NVIDIA 從 MLNX_OFED 驅動和工具套件(適用于 InfiniBand 和 Ethernet 解決方案)過渡到 DOCA-OFED ,標志著獨立 MLNX_OFED 版本的結束。這一轉變反映了向集成在 NVIDIA DOCA 框架中的更加統一、可擴展和可編程的網絡堆棧的轉變。MLNX_OFED 的輕量級子集 MLNX_EN 的最終版本也將發布,未來功能將只能通過 DOCA 訪問。
Source
]]>
11672
-
將 AI-RAN 引入您附近的電信公司
http://www.open-lab.net/zh-cn/blog/bringing-ai-ran-to-a-telco-near-you/
Tue, 08 Oct 2024 07:54:36 +0000
http://www.open-lab.net/zh-cn/blog/?p=11453
Continued]]>
生成式 AI 和 AI 智能體的推理將推動 AI 計算基礎設施從邊緣分配到中央云的需求。 IDC 預測 ,“商業 AI (消費者除外) 將為全球經濟貢獻 19.9 萬億美元,并占 GDP 的 3.5% 直到 2030 年。” 5G 網絡還必須不斷發展,以服務于新傳入的人工智能流量。在此過程中,電信公司有機會成為托管企業人工智能工作負載的本地人工智能計算基礎設施,獨立于網絡連接,同時滿足其數據隱私和主權要求。這是加速計算基礎設施的亮點所在,能夠加速無線電信號處理和人工智能工作負載。最重要的是,相同的計算基礎設施可用于處理人工智能和無線電接入網(RAN)服務。這種組合被電信行業稱為 AI-RAN 。 NVIDIA 正在推出 Aerial RAN Computer-1,這是全球首個 AI-RAN 部署平臺,可以在通用加速基礎設施上同時服務 AI 和 RAN 工作負載。
Source
]]>
11453
-
聚焦:NVIDIA BlueField DPU 助力 Vast 數據平臺優化 AI 工作負載
http://www.open-lab.net/zh-cn/blog/spotlight-nvidia-bluefield-dpus-power-the-vast-data-platform-for-ai-workload-optimization/
Tue, 06 Aug 2024 03:18:08 +0000
http://www.open-lab.net/zh-cn/blog/?p=10919
Continued]]>
隨著對復雜 AI 功能的需求不斷增加,VAST Data 推出了 VAST Data Platform,該平臺現已通過 NVIDIA BlueField DPU 進行增強。這項創新專為滿足 AI 驅動的數據中心的嚴格要求而量身打造,并優化了 AI 工作負載和數據管理。 本文介紹了 BlueField DPU 如何為 VAST 帶來顯著的性能和效率提升,確保更快的數據訪問和處理速度,同時降低功耗和空間需求。 優化 AI 工作負載需要管理大量非結構化數據,確保高速數據訪問,并保持穩健的數據安全性。傳統的數據存儲和處理系統通常難以解決延遲、低效和可擴展性問題,這些問題可能會影響 AI 應用程序的性能。此外,對實時數據處理和嚴格安全性的需求增加了有效管理 AI 工作負載的復雜性。 NVIDIA BlueField-3 DPU 使組織能夠滿足現代 AI 工作負載的苛刻要求,
Source
]]>
10919
-
使用 NVIDIA Bluefield-3 DPU 與 DDN 存儲集成加速 AI 基礎架構
http://www.open-lab.net/zh-cn/blog/accelerate-ai-infrastructure-using-an-nvidia-bluefield-3-dpu-integration-with-ddn-storage/
Tue, 23 Jul 2024 10:39:38 +0000
http://www.open-lab.net/zh-cn/blog/?p=10746
Continued]]>
隨著 AI 成為組織創新和競爭優勢不可或缺的一部分,對高效且可擴展的基礎設施的需求比以往任何時候都更加迫切。NVIDIA 和 DDN Storage 之間的合作正在該領域樹立新的標準。通過將 NVIDIA BlueField 數據處理器 集成到 DDN EXAScaler 和 DDN Infinia,并以創新方式使用,DDN Storage 正在改變以數據為中心的工作負載。 NVIDIA 先進的數據處理與 DDN 強大的存儲解決方案的協同作用可以優化 AI 工作流程、增強運營、提高資源利用率,并在 AI 環境中支持多租戶。 在本文中,我們將重點介紹 Infinia 的集成優勢。 DDN Infinia 是一個軟件定義數據平臺,利用 BlueField-3 DPU 的強大功能來有效管理以數據為中心的工作負載,尤其是在加速計算和生成式人工智能方面。這種集成增強了多租戶,
Source
]]>
10746
-
構建網絡語言模型以解鎖新的網絡安全功能
http://www.open-lab.net/zh-cn/blog/building-cyber-language-models-to-unlock-new-cybersecurity-capabilities/
Tue, 09 Jul 2024 07:13:54 +0000
http://www.open-lab.net/zh-cn/blog/?p=10596
Continued]]>
通用型大型語言模型 (LLM) 已證明其在各個領域的效用,在文本生成和復雜問題解決等應用中提供了巨大的優勢。但是,在某些情況下,開發定制語言模型不僅是有益的,而且至關重要。在以獨特的詞匯表和內容為特征的專業領域中,這種需求尤其明顯,這些詞匯表和內容不同于典型的語言結構。 在網絡安全領域中,一般的 LLM 限制變得顯而易見,尤其是在處理原始日志時。自然語言的本質與機器生成的日志的結構化格式截然不同。直接將傳統的 LLM 應用于此類數據是不切實際的。這些模型難以處理機器日志的特征,這些特征與自然語言的結構有很大不同。 使用自然語言文本、關聯代碼和機器日志語料庫預訓練的 LLM 缺乏在真實環境中有效解析、理解和構建網絡安全數據所需的特定性,從而導致應用程序在應對網絡安全挑戰方面受到嚴重限制。 必須使用經過原始網絡日志訓練的網絡語言模型來生成特定于企業環境的日志,
Source
]]>
10596
-
聚焦:思科借助 NVIDIA BlueField-3 DPU 提高工作負載安全性和運營效率
http://www.open-lab.net/zh-cn/blog/spotlight-cisco-enhances-workload-security-and-operational-efficiency-with-nvidia-bluefield-3-dpus/
Mon, 10 Jun 2024 06:59:14 +0000
http://www.open-lab.net/zh-cn/blog/?p=10346
Continued]]>
隨著網絡攻擊變得越來越復雜,組織必須不斷采用先進的解決方案來保護其關鍵資產。其中一種解決方案是Cisco Secure Workload,這是一種全面的安全解決方案,旨在保護跨不同基礎設施、位置和外形尺寸的應用程序工作負載。 Cisco 最近發布了 Cisco Secure Workload 3.9 版,該版本將企業的安全性和運營效率提升到了新的水平。它提供了新的功能來緩解威脅和漏洞,并為部署 microsegmentation 提供了更大的靈活性。現在,它還擴展到NVIDIA BlueField-3 數據處理器,其專用 Arm 核心可以加速硬件任務并隔離特定操作,從而確保高效數據處理和強大的安全性,從而打造更精簡、更安全的基礎設施。 思科安全工作負載可為每次工作負載交互提供出色的可見性,并利用 AI 的強大功能自動執行人類管理員無法完成的任務,從而保護應用程序工作負載。
Source
]]>
10346
-
借助 NVIDIA DOCA 2.7 增強 AI 云數據中心和 NVIDIA Spectrum-X
http://www.open-lab.net/zh-cn/blog/enhancing-ai-cloud-data-centers-and-nvidia-spectrum-x-with-nvidia-doca-2-7/
Thu, 23 May 2024 04:51:03 +0000
http://www.open-lab.net/zh-cn/blog/?p=10093
Continued]]>
我們通過 NVIDIA DOCA 加速框架,為開發者提供了豐富的庫、驅動和 API,以創建高性能應用程序和服務,支持 NVIDIA BlueField 數據處理器 (DPU) 和 SuperNIC。DOCA 2.7 是一個功能豐富的全面版本,進一步擴展了 DOCA 軟件框架的范圍和價值,提供了多個新的庫、一站式應用和功能齊全的服務。 DOCA 2.7 擴展了 BlueField DPU 在數據中心內卸載、加速和隔離網絡、存儲、安全和管理基礎設施方面的能力。該版本還進一步增強了 AI 云數據中心,并通過 NVIDIA Spectrum-X 網絡平臺,為 AI 工作負載提供了卓越的性能。 本文中詳細介紹的版本亮點包括: DOCA 2.7 為以太網 AI 云部署啟用 NVIDIA Spectrum-X 1.0.1 (SPC-X 1.0.1) 參考架構。此架構經過嚴格測試,
Source
]]>
10093
人人超碰97caoporen国产