Nsight 深度學習設計器 2021 . 1
今天 NVIDIA 宣布了 Nsight DL Designer –第一個支持應用內推理的深度神經網絡高效設計的同類集成開發環境。 現在可下載 !
本 SDK 旨在通過在過程的每個階段提供有效的支持,簡化為應用內推理設計深度神經網絡模型的經常迭代過程。
Nsight DL Designer 是一種基于 GUI 的模型設計工具,具有基于 GPU 指標的集成評測功能。它提供了一種將模型導入 PyTorch 進行培訓的便捷方法。可視化分析模式允許開發人員以交互方式實時深入推理過程,并提供靈活的選項導出最終的推理部署模式。
端到端 Nsight DL Designer 工作流
開發人員首先在 Nsight DL Designer 中設計他們的深層神經網絡模型,使用 NVIDIA 實現的一組內置高級神經網絡層作為 神經推理機。創建模型后,可以進行性能分析,以了解模型是否滿足分配的時間預算。分析可以提前完成,甚至在您花時間培訓網絡之前。
對于培訓階段, Nsight DL Designer 提供了各種 Python 腳本,可以自動將 Nsight DL Designer 模型轉換為 PyTorch 模型,該模型可以輕松添加到培訓循環中。訓練完成后,您可以將學習到的權重數據從模型保存到 NumPy 文件中。您可以返回 DL Designer ,加載權重文件并進入分析模式以檢查推斷結果。分析模式還允許開發人員深入推理過程,直觀地檢查每個推理步驟中發生的事情。此反饋可能會指導開發人員優化其網絡模型,以提高質量和性能。
一旦您對模型的質量和性能都感到滿意,就到了部署的時候了。 Nsight DL Designer 提供了幾種支持部署模型的方法。一種方法是將模型導出為 ONNX 文件。使用 ONNX 文件,您可以在任何運行 ONNX 的平臺上部署您的模型
要了解更多信息,請觀看 SIGGRAPH 課程: 宣布 Nsight Deep Learning Designer –優化您的神經網絡以獲得高質量和高性能 .

此版本的主要功能包括:
- 基于 GUI 的神經推理機模型設計
- 使用 GPU 度量的推理性能評測
- 與培訓框架的接口– PyTorch
- 推理過程的交互式可視化分析
- 用于部署的自動化模型導出和代碼生成
Resources:
?