NVIDIA NGC 目錄是 GPU 優化深度學習、機器學習和 HPC 應用程序的中心。借助高性能軟件containers、預訓練模型、特定于行業的 SDK 和 Helm 圖表,目錄中的可用內容有助于簡化和加速端到端工作流。
NGC 目錄的一些新增內容和軟件更新包括:
NVIDIA NeMo
NVIDIA NeMo (神經模塊)是用于對話人工智能的開源工具包。它是為數據科學家和研究人員設計的,可以通過可連接的 API 兼容構建塊輕松構建新的最先進的語音和 NLP 網絡。
NeMo 的最新版本增加了對 Conformer ONNX 轉換和長 AU 文件流式推斷的支持,并提高了說話人聚類、驗證和重分類的性能。此外,它還為 NMT 添加了多個數據集,從右到左的模型、嘈雜的信道重新排列和加密。它還提高了 NMT 培訓效率,并為 NMT 數據清理和預處理添加了教程筆記本。
NVIDIA HPC SDK
NVIDIA HPC SDK是一套全面的編譯器、庫和工具,對于最大限度地提高開發人員的生產力、性能和 HPC 應用程序的可移植性至關重要。
最新版本包括對 NVIDIA ARM HPC 顯影劑套件和 CUDA 11 . 4 的全面支持。它還提供具有 ARM 特定性能增強功能的 HPC 編譯器,包括改進的矢量化和優化的數學函數。
NVIDIA 數據中心基礎設施芯片架構( NVIDIA DOCA )
NVIDIA DOCA SDK 使開發人員能夠在 BlueField 數據處理單元( DPU s )之上快速創建應用程序和服務。
NVIDIA DOCA 容器 和資源有助于在 BlueField NVIDIA 上部署 NVIDIA DOCA 應用程序和開發設置。此部署基于 Kubernetes 和此資源包,這些資源包可隨時使用不同 DOCA 容器所需的.yaml 配置文件。
NVIDIA 系統管理( NVSM )
NVSM是一個用于監控數據中心中DGX節點的軟件框架,提供活動運行狀況監控、系統警報和日志生成。 NVSM 向 DGX 站提供系統運行狀況和診斷信息。
深度學習軟件
我們最流行的培訓和推理深度學習框架每月更新一次。拉取以下內容的最新版本( v21 . 07 ):
PyTorch Lightning
PyTorch Liightning 是一個輕量級框架,用于在多 GPU 多節點配置上大規模培訓模型。它在不更改代碼的情況下執行此操作,并通過切換標志來啟用高級培訓優化。
v1.4.0增加了對完全分片并行性的支持,并將更大的模型安裝到多個 GPU 內存中,在 A100 上達到 400 多億個參數。
此外,它還支持新的 DeepSpeed Infinity 插件和新的群集環境,包括 KubeflownEnvironment 和 LsfenEnvironment 。
查看新v1 . 4 . 0 功能>>
NGC 團隊正在舉辦一場網絡研討會,現場問答將深入探討如何使用 PyTorch Lightning 構建人工智能模型,這是一個基于 NGC 目錄 PyTorch 構建的人工智能框架。
使用 PyTorch Lightning 、 NGC 和 AWS 簡化并加速 AI 模型開發
9 月 2 日,太平洋時間上午 10 時
現在注冊>>
NVIDIA Magnum IO 開發環境
NVIDIA Magnum IO是構成現代數據中心 I / O 子系統的 I / O 技術的集合,支持大規模應用。
Magnum IO 開發人員環境容器有兩個主要用途:
- 允許開發人員開始在筆記本電腦、臺式機、工作站或云中擴展應用程序。
- 作為本地或 CI / CD 系統中生成容器的基礎。
訪問NGC 目錄了解 GPU 優化軟件如何幫助簡化工作流程和加快解決方案時間。