Tim Lustig – NVIDIA 技術博客

NVIDIA BlueField DPU 與 WEKA Client 的集成提升 AI 工作負載效率

Thu, 12 Dec 2024 05:51:34 +0000

WEKA 是可擴展軟件定義數據平臺的先驅，NVIDIA 正在攜手合作，將 WEKA 的先進數據平臺解決方案與功能強大的 NVIDIA BlueField DPU 相結合。 WEKA 數據平臺高級存儲軟件可充分發揮 AI 和性能密集型工作負載的潛力，而 NVIDIA BlueField DPU 則徹底改變了數據的訪問、移動和安全性。這些前沿技術的集成將開創數據管理效率和速度前所未有的新時代，并有望重塑高性能數據訪問的格局。 AI 的迅速崛起推動了計算能力和網絡速度的指數級增長，對存儲資源提出了非常高的需求。NVIDIA GPU 可提供令人驚嘆的可擴展、高效計算能力，同時還需要高速數據訪問。 WEKA 與 NVIDIA 的合作應對了這一挑戰。它們共同滿足了對 PB 級數據進行高帶寬網絡訪問以執行模型訓練和推理任務 (包括檢索增強型生成 (RAG)) 的關鍵需求。

Source

]]>

聚焦：NVIDIA BlueField DPU 助力 Vast 數據平臺優化 AI 工作負載

Tue, 06 Aug 2024 03:18:08 +0000

隨著對復雜 AI 功能的需求不斷增加，VAST Data 推出了 VAST Data Platform，該平臺現已通過 NVIDIA BlueField DPU 進行增強。這項創新專為滿足 AI 驅動的數據中心的嚴格要求而量身打造，并優化了 AI 工作負載和數據管理。本文介紹了 BlueField DPU 如何為 VAST 帶來顯著的性能和效率提升，確保更快的數據訪問和處理速度，同時降低功耗和空間需求。優化 AI 工作負載需要管理大量非結構化數據，確保高速數據訪問，并保持穩健的數據安全性。傳統的數據存儲和處理系統通常難以解決延遲、低效和可擴展性問題，這些問題可能會影響 AI 應用程序的性能。此外，對實時數據處理和嚴格安全性的需求增加了有效管理 AI 工作負載的復雜性。 NVIDIA BlueField-3 DPU 使組織能夠滿足現代 AI 工作負載的苛刻要求，

Source

]]>

使用 NVIDIA Bluefield-3 DPU 與 DDN 存儲集成加速 AI 基礎架構

Tue, 23 Jul 2024 10:39:38 +0000

隨著 AI 成為組織創新和競爭優勢不可或缺的一部分，對高效且可擴展的基礎設施的需求比以往任何時候都更加迫切。NVIDIA 和 DDN Storage 之間的合作正在該領域樹立新的標準。通過將 NVIDIA BlueField 數據處理器集成到 DDN EXAScaler 和 DDN Infinia，并以創新方式使用，DDN Storage 正在改變以數據為中心的工作負載。 NVIDIA 先進的數據處理與 DDN 強大的存儲解決方案的協同作用可以優化 AI 工作流程、增強運營、提高資源利用率，并在 AI 環境中支持多租戶。在本文中，我們將重點介紹 Infinia 的集成優勢。 DDN Infinia 是一個軟件定義數據平臺，利用 BlueField-3 DPU 的強大功能來有效管理以數據為中心的工作負載，尤其是在加速計算和生成式人工智能方面。這種集成增強了多租戶，

Source

]]>

借助加速網絡實現數據中心現代化

Tue, 30 Jan 2024 04:05:10 +0000

加速網絡將 CPU、GPU、DPU（數據處理單元）或 SuperNIC 組合成加速計算結構，專門設計用于優化網絡工作負載。它使用專用硬件來卸載要求嚴苛的任務，以增強服務器功能。隨著 AI 和其他新工作負載的復雜性和規模不斷增加，對加速網絡的需求變得至關重要。數據中心作為計算的新單元，隨著網絡服務對CPU壓力的增加，現代工作負載對網絡基礎設施提出了新的挑戰。網絡基礎設施需要具備敏捷性、自動化和可編程性，并配備加速器和卸載功能，這些是充分發揮人工智能技術潛力和推動創新的關鍵。本文將探討加速網絡技術在數據中心中的優勢和實施策略，并重點介紹其在提升性能、可擴展性和效率方面的作用。網絡加速需要優化網絡的各個方面，包括處理器、網絡接口卡 (NIC)、交換機、線纜、光學和網絡加速軟件。利用無損網絡、遠程直接內存訪問 (RDMA)、動態路由、擁塞控制、性能隔離和網絡計算，

Source

]]>

利用 NVIDIA DOCA Flow 的 DPU 加速數據包引導邏輯

Wed, 23 Aug 2023 04:58:55 +0000

NVIDIA DOCA 是一個框架，旨在簡化 NVIDIA BlueField DPUs 和 ConnectX SmartNICs 的編程和應用程序開發。它通過 SDK、運行時二進制文件和高級 API 提供與網絡應用程序相關的高級抽象構建塊，使開發人員能夠快速創建應用程序和服務。 NVIDIA DOCA Flow 是 DOCA 框架中最新更新的一組軟件驅動程序和一個引導庫。它在用戶空間中運行，并能夠從 CPU 卸載與網絡相關的操作。這反過來又使應用程序能夠以低延遲處理高數據包吞吐量的工作負載，從而節省 CPU 資源并降低功耗。 DOCA Flow 還有效地優化了 BlueField DPU 和 ConnectX SmartNIC 的利用率。 DOCA 是釋放 BlueField 加速引擎潛力的關鍵，而 DOCA Flow 允許快速訪問加速引擎以實現數據包導向邏輯。

Source

]]>

使用 VMware vSphere 8 和 NVIDIA BlueField DPU 加速 Redis 性能

Fri, 05 May 2023 03:24:40 +0000

向現代分布式工作負載的轉變，以及更高的網絡速度，增加了基礎設施服務的開銷。為企業提供動力的應用程序可用的 CPU 周期較少。部署數據處理器（ DPU ）來卸載和加速這些基礎設施服務可以提供更快的性能、更低的 CPU 利用率和更好的能源效率。許多現代工作負載是分布式的，這意味著它們不再只適用于一臺服務器。相反，它們在多個服務器上同時運行，以實現更大的可擴展性和可用性。此類工作負載包括網絡和電子商務應用程序，如 NoSQL 數據庫、分析、人工智能和 Redis 等關鍵價值商店。許多公司在 vSphere 企業工作負載平臺上運行這些分布式工作負載。隨著應用程序的不同部分在虛擬機和主機之間進行通信， vSphere 必須投入越來越多的 CPU 功率來管理數據移動和網絡等基礎架構工作負載。在 CPU 和 DPU 上運行網絡和安全基礎設施服務，

Source

]]>

使用 NVIDIA LaunchPad 在 NVIDIA BlueField DPU 上直接訪問 VMware 的 vSphere

Tue, 30 Aug 2022 02:35:00 +0000

越來越多地采用云本地工作負載正在導致基礎架構發生重大變化，以支持 AI 和大數據等下一代應用程序。基礎架構必須不斷發展，以使用虛擬化、容器或裸機服務器提供可組合性和靈活性。傳統的軟件定義基礎架構提供了靈活性，但受到性能和可擴展性的限制，因為多達 30% 的服務器 CPU 核心可能會被網絡、存儲和安全等工作負載消耗。 VMware 將此視為增強 vSphere 基礎架構的一個機會，并對其進行了重新設計，以采用基于硬件的分解方法。基礎設施軟件堆棧現在與硬件堆棧緊密耦合。結果是 VMware vSphere 分布式服務引擎 ( VMware 項目 Monterey ) ，它與 NVIDIA BlueField DPU 為數據中心、云和邊緣提供演進的體系結構方法。它解決了下一代和云本機工作負載不斷變化的需求。為了幫助組織在 BlueField DPU 上測試…

Source

]]>

使用 DPU 加速的下一代防火墻實現企業網絡安全保護

Thu, 28 Jul 2022 06:23:00 +0000

網絡攻擊越來越復雜，并提出了一個日益嚴峻的挑戰。遠程勞動力連接的增加推動了邊緣和核心安全隧道流量的增長，聯邦政府和醫療保健網絡流量加密任務的擴展，以及視頻流量的增加，加劇了這一挑戰。此外， 5G 速度的引入和數十億連接設備的增加正在增加移動和物聯網流量。這些趨勢正在創造新的安全挑戰，需要網絡安全的新方向來維持充分的保護。 IT 部門和防火墻必須檢查成倍增加的數據，并深入查看流量，以應對新的威脅。他們必須能夠檢查在同一主機上運行的虛擬機和容器之間的流量，這些流量是傳統防火墻設備無法看到的。運營商必須部署足夠的防火墻，能夠處理總流量，但在不犧牲性能的情況下這樣做的成本可能極其高昂。這是因為通用處理器（服務器 CPU ）未針對數據包檢查進行優化，無法處理更高的網絡速度。這導致性能欠佳、可擴展性差，并增加了昂貴的 CPU 內核的消耗。下一代防火墻（ NGFW…

Source

]]>