在推出 ChatGPT 后,全球各地的企業開始意識到 AI 的優勢和功能,并競相將其應用到工作流程中。
隨著這種采用的加速,企業不僅必須跟上 AI 的快速發展,而且還必須解決優化、可擴展性和安全性等相關挑戰。
企業 AI 開發之旅通常從數據 ETL (提取、轉換、加載)階段開始,在此期間準備用于訓練的數據。接下來是訓練 AI 模型。模型完成訓練后,接下來的步驟包括部署和運行推理。企業需要在每個階段使用經過優化的安全軟件來構建生產就緒型 AI 應用。
使用 NGC 目錄加速 AI 開發
NVIDIA NGC 目錄 通過以容器形式提供一系列 GPU 優化的軟件和 SDK,幫助企業加速其 AI 開發。
目錄中的一些熱門容器包括用于數據 ETL 階段的 RAPIDS,以及用于模型開發階段的 TensorFlow 和 PyTorch。此外,還有用于模型部署階段的 NVIDIA TensorRT 和 NVIDIA Triton 推理服務器。
圖 1 展示了可用于 NLP、物體檢測、推薦等多種用例的不同容器。探索 NGC 目錄以找到適合您用例的軟件。

NGC 容器的優勢
目錄中的所有容器都經過優化,可在最新的 NVIDIA 加速計算堆棧上運行,并定期更新,以在相同硬件上提供增強的性能。這些容器經過測試,可確保各種 NVIDIA GPU 的兼容性和性能。
企業可以在任何地方部署這些容器,包括本地以及多云和混合云環境。這些容器可以與各種容器編排系統一起部署,包括廣泛使用的開源平臺 Kubernetes.此外,該目錄提供了一系列 Helm 圖表,以促進在 Kubernetes 集群上部署和管理容器。
安全和信任也是目錄中可用的容器和模型不可或缺的一部分。所有*容器都會掃描 CVE,并為其分配安全評級,以便企業可以對所下載的軟件充滿信心。圖 2 顯示容器的不同安全評級。

一般來說,容器還具有其他一些優勢,例如:
- 依賴項封裝:容器封裝了所有依賴項(例如庫和其他軟件組件),以確保應用程序可以在任何環境中可靠運行,而無需額外配置。
- 可再現性:容器包含了運行應用程序所需的所有內容,因此無論部署在何處,容器都將以相同的方式運行。這減少了與特定環境配置相關的問題的可能性。
- 節省時間和資源:通過簡化部署流程并確保跨環境的一致性,容器可節省大量時間和資源,而這些時間和資源原本只能用于手動設置和故障排除。
使用目錄軟件,企業開發者可以開始構建 POC 并測試其解決方案。當企業準備投入生產時,他們需要確保滿足將 AI 集成到其業務應用程序中的要求。
這些要求包括企業級安全性、軟件堆棧穩定性、企業級支持和可管理性。擁有清晰的路徑來協助從開發到生產的過渡是成功實現價值所需時間的一部分。
從開發到生產的無縫過渡
多樣化的軟件組件和相關的相互依賴性使得維護安全、可靠的 AI 軟件堆棧成為一項艱巨的任務,尤其是在需要將 AI 部署并集成到企業應用程序中時。NGC 目錄通過提供基于社區的開發軟件和用于生產的企業級軟件分支,使企業開發者能夠無縫過渡。
例如,目錄提供了多個容器,包括NVIDIA Triton 推理服務器(圖 3)。NVIDIA Triton 推理服務器功能分支是按月發布的最新版本,可讓開發者訪問最新功能和性能優化。

NVIDIA Triton 推理服務器生產分支專為 NVIDIA AI Enterprise?獨家提供,主要構建任務關鍵型 AI 應用程序提供穩定性和安全環境而設計。生產分支每 6 個月發布一次,生命周期為 9 個月,確保 API 的穩定性。在 9 個月的生命周期內,NVIDIA 持續跟蹤關鍵漏洞,每月發布 CVE 補丁和錯誤修復,而不破壞軟件堆棧。
借助不同的優化 AI 軟件選項,企業開發者可以利用目錄選擇適當的軟件包,以支持給定的 AI 工作流,同時保持安全性。
借助 NVIDIA AI Enterprise 實現出色的不間斷 AI
安全性、可靠性和可管理性對于企業級 AI 至關重要。為應對這些挑戰,NVIDIA 推出了 NVIDIA AI Enterprise,這是一個企業級軟件平臺,可加速數據科學流程并簡化生產級 AI 應用的開發和部署。
NVIDIA AI Enterprise 基于開源構建,并由 NVIDIA 精心策劃、優化和提供支持,可提供多個受支持的分支(生產、功能和長期支持)。它還包括通過 NGC 在整個 AI 旅程中提供的企業級安全性、穩定性、可管理性和支持。
總結
NGC 目錄和 NVIDIA AI Enterprise 為企業提供了必要的工具,以跟上 AI 的快速發展,同時解決優化、可擴展性和安全性等相關挑戰。
訪問 NGC 目錄,瀏覽數百個預訓練模型、容器、Helm 圖表和 Jupyter Notebooks. 要開始使用 NVIDIA AI Enterprise,申請 90 天免費試用.
?