ChatGPT 、 Stable Diffusion 、 DALL-E 和類似的應用程序喚醒了世界生成式人工智能。 ChatGPT 是歷史上增長最快的應用程序。其易用性和令人印象深刻的功能在短短幾個月內吸引了超過一億用戶。
世代人工智能為公司重新構想其產品和商業模式創造了一種緊迫感。正如 NVIDIA 首席執行官黃仁勛（ Jensen Huang ）在其GTC 2023 Keynote，人工智能的 iPhone 時代已經到來。 NVIDIA 加速計算通過解決普通計算機無法解決的問題，幫助世界企業利用人工智能。
NVIDIA BlueField DPU 功率加速計算
NVIDIA 加速計算技術堆棧使每個行業都能利用人工智能的力量，提供運行下一波應用程序所需的性能、規模和效率水平。?
加速計算主要基于三個基本要素：?
- CPU ，用于串行處理和運行超線程應用程序。
- GPU 擅長并行處理，并針對加速現代工作負載進行了優化。
- DPU ，非常適合基礎設施計算任務；用于卸載、加速和隔離數據中心網絡、存儲、安全和可管理性工作負載。
在現代軟件定義的數據中心中，執行虛擬化、網絡、存儲和安全的操作系統可能會消耗數據中心 CPU 核心和相關電源的近一半。數據中心必須加速每個工作負載以回收電力，并為創收工作負載釋放 CPU
NVIDIA BlueField 數據處理器 (DPUs)卸載并加速數據中心操作系統和基礎設施軟件。
NVIDIA 正在其數據中心計算系統中集成 BlueField -3 ，包括第三代NVIDIA OVX 系統，用于創建和操作NVIDIA Omniverse數據中心規模的應用程序。有關詳細信息，請參閱Omniverse at Scale: NVIDIA Announces Third-Generation OVX Computing Systems to Power Industrial Metaverse Applications.
使用 DPU 的領先企業
Oracle Cloud Infrastructure (OCI)在 GTC 2023 發布公告后，最近公布了將 NVIDIA BlueField -3 DPU 集成到其網絡堆棧中的計劃。該計劃旨在通過將網絡和安全任務從 CPU 卸載到 DPU 來優化數據中心性能，從而實現更快、更高效的處理
通過利用 BlueField -3 DPU 的力量， OCI 準備增強其基礎設施，為客戶提供無縫的云體驗。有關更多詳細信息，請參閱Oracle Cloud Infrastructure Chooses NVIDIA BlueField Data Center Acceleration Platform.
此外，包括 Check Point 、 Cisco 、 DDN 、 Dell EMC 、 Juniper 、 Palo Alto Networks 、 Red Hat 和 VMWare 在內的二十多個生態系統合作伙伴使用 BlueField 數據中心加速技術來更高效地運行其軟件平臺
NVIDIA 〔 BlueField 〕 -3 平臺概述
NVIDIABlueField-3，擁有 220 億個晶體管，是第三代 NVIDIA DPU 。這是一款芯片上系統（ SoC ）設備，可提供高達 400 Gbps 的以太網和 InfiniBand 連接。 BlueField -3 最多支持四個不同的 MAC 地址，可以提供各種端口配置，從運行 400 Gbps 的單個端口（ PAM4 112 的四個通道）到運行速度為 25 、 50 或 100 Gbps 的四個端口。
與上一代相比， BlueField -3 具有 2 倍的網絡帶寬、 4 倍的計算能力和幾乎 5 倍的內存帶寬，同時通過NVIDIA DOCA軟件框架
這些關鍵的進步使 BlueField -3 能夠以高達 8 倍的速度運行工作負載，同時降低 TCO 并提高數據中心的能效。例如， BlueField -3 從 CPU 中卸載了 HPC / AI MPI 集體操作，速度提高了近 20% ，這意味著大型超級計算機節省了 1800 萬美元的成本。有關詳細信息，請參閱Take the Green Train: NVIDIA BlueField DPUs Drive Data Center Efficiency.
BlueField -3 DPU 由三個主要區塊組成：
- 網絡：最新一代 NVIDIAConnectX-7 SmartNIC具有集成的網絡和安全硬件加速器。
- 可編程計算機：一個由 16 ARM A78 v8 . 2 組成的強大集群，具有針對控制平面應用優化的完全一致的低延遲網狀互連。數據平面可編程性是通過加速流水線和新的可編程數據路徑加速器（ DPA ）實現的。 DPA 是一種 I / O 和數據包處理器，由 16 個超線程內核組成，專門用于 IO 密集型、低計算任務，如設備仿真、擁塞控制、自定義協議等。?
- 記憶力：雙 64 位 DDR5-5600 內存接口（ 80 GB 帶寬）和集成 32 通道 PCIe Gen 5 . 0 交換機。 PCIe 接口可以分叉并用作服務器托管（端點）或自托管（根復合體），以管理 GPU 或直連 SSD 設備。
作為“服務器前面的服務器”， BlueField -3 是唯一一個具有集成 ASPEED AST2600 基板管理控制器（ BMC ）的 DPU 平臺。 BlueField BMC 是一個專用處理器，用于監控 DPU 板的物理狀態，并使系統管理員能夠通過獨立連接管理平臺。這增強了系統的安全性、可靠性、可用性和可維護性。
DPU BMC 是一個受信任的實體，具有自己的外部信任根，以確保其固件的安全。它能夠通過單獨的帶外管理網絡提供和管理 BlueField DPU ，使用標準接口和 Redfish 協議來管理 DPU 的整個生命周期
BMC 的一些功能包括：
- 控制臺接口訪問 BlueField DPU
- 設置 BlueField UEFI 配置
- 監測 BlueField DPU 及其資源
- 更新和恢復 BlueField DPU 固件
- 復位控制（即使 BlueField 操作系統停止）
BlueField -3 綜合投資組合
NVIDIA 提供廣泛的 BlueField -3 平臺，旨在滿足各種行業和用例的獨特計算、內存和性能需求。這使客戶能夠選擇符合其特定要求的 BlueField -3 產品，同時享受先進的功能和尖端的性能
目標市場和旗艦平臺
BlueField -3 DPU 用于幾個關鍵旗艦平臺和目標市場，具體如下
超大型 HPC / AI
HPC 和 AI 工作負載是第一個采用 400 Gbps （ NDR InfiniBand 和 400 GbE ）網絡速度的工作負載，因為 HPC 是關于最大性能和巨大規模的。 BlueField 通過利用其 Arm 內核從系統主機 CPU 卸載消息傳遞接口（ MPI ）庫的元素，擴展了 NVIDIA 的網絡計算能力，并實現了非阻塞的集體操作。這使得系統主機 CPU 能夠執行具有峰值重疊的計算。
B3240 ：擁有滿足最具挑戰性的超大規模 HPC / AI 需求的性能和網絡能力。這個 BlueField -3 平臺為以下系統提供動力NVIDIA DGX H100承擔科學研究或生成人工智能的工作量。它使用雙 400 Gbps NDR 連接、 32 GB DDR5 內存子系統和 2 . 3 GHz 的 Arm 內核速度
b3140 小時：具有半高半長（ HHHL ）的外形尺寸，使其與大多數企業服務器兼容。該設備提供單個 400 Gbps 端口和 16 GB DDR5 內存，同時在低功耗范圍內運行。這使其成為 HPC / AI 環境的理想選擇，這些環境需要在有限空間或電源可用性的限制下實現可擴展性能。
云計算
云行業正在經歷的快速增長要求云提供商不斷創新和定制服務以滿足客戶需求。現代云平臺使用基于虛擬機監控程序的虛擬化，以最大限度地增加在計算和數據中心級別分配給租戶的虛擬實例數量。? BlueField -3 支持多達 4096 個虛擬功能，使云提供商能夠在云計算平臺上托管比上一代多 4-8 倍的虛擬實例。?
? B3220 ：B3220 提供雙 200 Gbps 支持、 32 GB DDR5 內存子系統和 2 . 3 GHz 的 Arm 內核速度 具有滿足最具挑戰性的云需求的性能和網絡功能。這就是為什么超大型 Oracle 云基礎設施（ OCI ）在其網絡堆棧中添加了 BlueField -3 ，旨在提供最先進、可持續的云基礎設施，并具有極高的性能。 B3220 平臺還為NVIDIA OVX 3.0系統，實現更高的性能、零信任安全，并在云中無限擴展工業元宇宙應用程序。
B3210 ：B3210 的速度為 100 Gbps ，最適合滿足領先企業數據中心的需求。 B3210 是運行企業工作負載平臺的目標 DPUVMware vSphere，為成千上萬的公司提高性能、效率和安全性。
儲存
b3220 什：B3220SH 自托管平臺針對具有集成 NVMe oF 或 NVMe / TCP 或靜止數據加速器的 NVMe 存儲系統進行了優化。 B3220SH 可以使用其 x32 PCIe Gen 5 . 0 接口托管多達 16 個 SSD 。
業界領先的網絡性能
BlueField -3 比其前代產品提供了顯著的性能改進，使其成為需要高性能網絡的數據密集型人工智能工作負載的理想解決方案。圖 3 顯示了基準測試結果，證明了領先的 BlueField -3 網絡性能。
使用 NVIDIA BlueField -3 DPU 為您的應用程序供電
在云主導企業 IT 的時代，生成人工智能、數據科學和元宇宙應用程序等現代工作負載正在蓬勃發展。? 為了解決對人工智能飆升的需求，云計算制造商主要轉向 NVIDIA 加速計算 GPU 和 DPU 。? ?
? NVIDIA BlueField -3 DPU ，由供電NVIDIA DOCA software，將傳統計算環境轉變為高效、高性能、安全和可持續的數據中心，從而實現下一波應用程序的交付。有關更多信息，請查看BlueField-3 datasheet和Networking Resources.
?
