數據處理器 – NVIDIA 技術博客

借助加速網絡實現數據中心現代化

Tue, 30 Jan 2024 04:05:10 +0000

加速網絡將 CPU、GPU、DPU（數據處理單元）或 SuperNIC 組合成加速計算結構，專門設計用于優化網絡工作負載。它使用專用硬件來卸載要求嚴苛的任務，以增強服務器功能。隨著 AI 和其他新工作負載的復雜性和規模不斷增加，對加速網絡的需求變得至關重要。數據中心作為計算的新單元，隨著網絡服務對CPU壓力的增加，現代工作負載對網絡基礎設施提出了新的挑戰。網絡基礎設施需要具備敏捷性、自動化和可編程性，并配備加速器和卸載功能，這些是充分發揮人工智能技術潛力和推動創新的關鍵。本文將探討加速網絡技術在數據中心中的優勢和實施策略，并重點介紹其在提升性能、可擴展性和效率方面的作用。網絡加速需要優化網絡的各個方面，包括處理器、網絡接口卡 (NIC)、交換機、線纜、光學和網絡加速軟件。利用無損網絡、遠程直接內存訪問 (RDMA)、動態路由、擁塞控制、性能隔離和網絡計算，

Source

]]>

借助 NVIDIA DOCA 2.5 提供高效、高性能的 AI 云

Wed, 24 Jan 2024 04:06:54 +0000

作為面向數據中心基礎設施開發者的全面軟件框架， NVIDIA DOCA 已被領先的 AI、云、企業和 ISV 創新者采用。DOCA 2.5 的發布標志著其發布的第三個周年。此外，由于代碼庫的穩定性和可靠性，以及多項網絡和平臺升級，DOCA 2.5 是首個面向 AI 云部署的 NVIDIA BlueField-3 長期支持 (LTS) 版本。 DOCA 2.5 與 NVIDIA 交換機、BlueField DPU 和 SuperNIC 一起，是為支持要求嚴苛的 AI 工作負載而共同設計的平臺的重要元素。作為 NVIDIA 全棧架構的一部分， NVIDIA 的網絡組件可提供出色的應用程序性能以及安全性和數據中心效率。當與 NVIDIA 計算平臺和軟件工具一起部署時，它們可以提供更多的優勢和協同作用。以下是 NVIDIA 的一些新網絡產品，以及 DOCA 2.5…

Source

]]>

利用 NVIDIA DOCA Flow 的 DPU 加速數據包引導邏輯

Wed, 23 Aug 2023 04:58:55 +0000

NVIDIA DOCA 是一個框架，旨在簡化 NVIDIA BlueField DPUs 和 ConnectX SmartNICs 的編程和應用程序開發。它通過 SDK、運行時二進制文件和高級 API 提供與網絡應用程序相關的高級抽象構建塊，使開發人員能夠快速創建應用程序和服務。 NVIDIA DOCA Flow 是 DOCA 框架中最新更新的一組軟件驅動程序和一個引導庫。它在用戶空間中運行，并能夠從 CPU 卸載與網絡相關的操作。這反過來又使應用程序能夠以低延遲處理高數據包吞吐量的工作負載，從而節省 CPU 資源并降低功耗。 DOCA Flow 還有效地優化了 BlueField DPU 和 ConnectX SmartNIC 的利用率。 DOCA 是釋放 BlueField 加速引擎潛力的關鍵，而 DOCA Flow 允許快速訪問加速引擎以實現數據包導向邏輯。

Source

]]>

使用 NVIDIA BlueField -3 DPU 為下一波應用程序提供動力

Thu, 11 May 2023 05:37:10 +0000

ChatGPT 、 Stable Diffusion 、 DALL-E 和類似的應用程序喚醒了世界生成式人工智能。 ChatGPT 是歷史上增長最快的應用程序。其易用性和令人印象深刻的功能在短短幾個月內吸引了超過一億用戶。世代人工智能為公司重新構想其產品和商業模式創造了一種緊迫感。正如 NVIDIA 首席執行官黃仁勛（ Jensen Huang ）在其GTC 2023 Keynote，人工智能的 iPhone 時代已經到來。 NVIDIA 加速計算通過解決普通計算機無法解決的問題，幫助世界企業利用人工智能。 NVIDIA 加速計算技術堆棧使每個行業都能利用人工智能的力量，提供運行下一波應用程序所需的性能、規模和效率水平。? 加速計算主要基于三個基本要素：? 在現代軟件定義的數據中心中，執行虛擬化、網絡、

Source

]]>