Kristina Joos – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。Tue, 17 Jun 2025 09:15:30 +0000zh-CN
hourly
1 196178272使用 NVIDIA NIM 安全部署 AI 模型
http://www.open-lab.net/zh-cn/blog/securely-deploy-ai-models-with-nvidia-nim/
Wed, 11 Jun 2025 09:12:36 +0000http://www.open-lab.net/zh-cn/blog/?p=14306Continued]]>想象一下，您正在領導大型企業的安全工作，并且您的團隊渴望將 AI 用于越來越多的項目。不過，這是一個問題。與任何項目一樣，您必須平衡創新的前景和回報與合規性、風險管理和安全態勢要求等嚴峻現實。 安全領導者在評估 AI 模型 (例如為代理式 AI 或檢索增強生成 (RAG) 提供支持的 AI 模型) 時面臨著一個關鍵挑戰：如何在提供這些前沿創新的同時保持對其基礎設施和數據的完全控制。 這正是 NVIDIA NIM 微服務和 NVIDIA AI Enterprise 的用武之地。借助隨 NVIDIA AI Enterprise 許可證提供的 NIM 微服務，企業能夠根據自己的條件部署生成式 AI，同時保持對開源模型的安全性、信任和控制。NVIDIA AI Enterprise 提供了一種選擇：您可以在本地、私有云甚至空氣間隙環境中安全地運行 AI 工作負載。
]]>14306借助 NVIDIA AI Enterprise 推進生產級 AI 發展
http://www.open-lab.net/zh-cn/blog/advancing-production-ai-with-nvidia-ai-enterprise/
Thu, 25 Jan 2024 04:22:00 +0000http://www.open-lab.net/zh-cn/blog/?p=8872Continued]]>盡管許多企業將利用人工智能的潛力作為優先事項，但開發和部署人工智能模型需要時間和精力。通常，必須克服將模型投入生產的挑戰，這對于任務關鍵型業務運營尤為重要。根據IDC 研究，只有 18% 的受訪企業能夠在一個月內將 AI 模型投入生產。 本文探討了降低 AI 部署速度的挑戰，并介紹了使用一致、安全且可靠的平臺加速將 AI 投入生產之旅的優勢。 開源軟件（OSS）在推動人工智能（AI）的采用方面發揮著至關重要的作用。根據2023 年 10 月的現狀報告，與生成式 AI 相關的公共 GitHub 項目在 2023 年達到了 65000 個，同比增長了 249%。盡管開源社區推動了 AI 時代的發展，但在構建 AI 應用程序中使用的各種 OSS 使得維護可靠的企業級 AI 軟件堆棧成為一項復雜且資源密集型的工作，類似于維護開源操作系統的難度。 例如，