Shruthii Sathyanarayanan – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Wed, 30 Apr 2025 08:55:00 +0000 zh-CN hourly 1 196178272 NVIDIA NIM Operator 2.0 借助 NVIDIA NeMo 微服務支持提高 AI 部署效率 http://www.open-lab.net/zh-cn/blog/nvidia-nim-operator-2-0-boosts-ai-deployment-with-nvidia-nemo-microservices-support/ Tue, 29 Apr 2025 08:49:35 +0000 http://www.open-lab.net/zh-cn/blog/?p=13672 Continued]]> NVIDIA 的首個版本 NIM 運算符 簡化了推理工作流的部署和生命周期管理 NVIDIA NIM 微服務，減少 MLOps、LLMOps 工程師和 Kubernetes 管理員的工作負載。它支持在 Kubernetes 集群上輕松快速地部署、自動擴展和升級 NIM。 詳細了解首個版本 。 我們的客戶和合作伙伴一直在使用 NIM Operator 來高效管理其應用的推理流程，例如聊天機器人、代理式 RAG 和虛擬藥物研發。我們 Cisco Compute Solutions 團隊的合作伙伴正在使用 NIM Operator 部署適用于 RAG 的 NVIDIA AI Blueprint ，作為 Cisco Validated Design 的一部分。 “ 我們戰略性地將 NVIDIA NIM Operator 與 思科驗證設計 (CVD) 集成到我們的 AI…

Source

]]> 13672 使用 NVIDIA AI Workbench 簡化本地和云系統之間的協作 http://www.open-lab.net/zh-cn/blog/streamline-collaboration-across-local-and-cloud-systems-with-nvidia-ai-workbench/ Wed, 05 Feb 2025 04:39:30 +0000 http://www.open-lab.net/zh-cn/blog/?p=12877 Continued]]> NVIDIA AI Workbench 是一款免費的開發環境管理器 ，用于在 GPUs 上開發、定制 AI 應用并對其進行原型設計。AI Workbench 為 AI、數據科學和機器學習 (ML) 項目提供跨 PCs、工作站、服務器和云的順暢體驗。用戶體驗包括： 本文詳細介紹了 2025 年 1 月發布的 NVIDIA AI Workbench，包括以下新集成和功能： 根據最近 Dell 和 NVIDIA HackAI Hackathon 的反饋，用戶希望通過 AI Workbench 輕松訪問云 GPU。這一切現已成為可能，得益于 NVIDIA AI Workbench 和 NVIDIA Brev 之間的合作。NVIDIA Brev 是一個 AI 開發平臺，可讓您在云端運行、構建、訓練和部署 ML 模型。 此 AI Workbench 版本首次與 Brev…

Source

]]> 12877 借助 NVIDIA AI Workbench 實現混合環境下的無縫協作和快速原型設計 http://www.open-lab.net/zh-cn/blog/frictionless-collaboration-and-rapid-prototyping-in-hybrid-environments-with-nvidia-ai-workbench/ Mon, 04 Nov 2024 06:25:17 +0000 http://www.open-lab.net/zh-cn/blog/?p=11830 Continued]]> NVIDIA AI Workbench 是一款免費的開發環境管理器，可簡化所選系統上的數據科學、AI 和機器學習（ML）項目。其目標是提供一種無縫的方式，以便在 PC、工作站、數據中心和云上以及跨 PC、工作站、數據中心和云進行創建、計算和協作。基本用戶體驗非常簡單： 本文將探討 10 月發布的 NVIDIA AI Workbench 的亮點，這是自 GTC 2024 大會上推出產品以來最重要的一次發布，也是朝著完整產品愿景邁出的一大步。 本節將詳細介紹最新版本中的主要新功能和用戶請求的更新。 主要的新功能包括： 用戶請求的更新： 以前，AI Workbench 只支持主分支上的單個整體式提交。用戶必須手動管理分支和合并，這就造成了各種類型的混淆，尤其是在解決合并沖突方面。現在，用戶可以直接在 Desktop App 和 CLI 中管理分支、

Source

]]> 11830 借助 NVIDIA 云原生堆棧實現 AI 應用開發簡化 http://www.open-lab.net/zh-cn/blog/simplify-ai-application-development-with-nvidia-cloud-native-stack/ Wed, 16 Oct 2024 06:55:42 +0000 http://www.open-lab.net/zh-cn/blog/?p=11727 Continued]]> 在快速發展的 AI 和數據科學領域，對可擴展、高效且靈活的基礎設施的需求從未如此高。傳統基礎設施通常難以滿足現代 AI 工作負載的需求，從而導致開發和部署流程中的瓶頸。隨著組織努力大規模部署 AI 模型和數據密集型應用，云原生技術已成為游戲規則的變革性變革。 為了幫助組織完成其人工智能應用程序開發流程， NVIDIA 開發并驗證了 NVIDIA 云原生堆棧（CNS），這是一種開源參考架構，NVIDIA 用于測試和認證所有支持的人工智能軟件。 借助 CNS，您可以運行和測試由 Kubernetes 編排的容器化 GPU 加速應用程序，并在支持這些功能的平臺上輕松訪問諸如 Multi-Instance GPU（MIG）和 GPUDirect RDMA 等功能。CNS 用于開發和測試目的，但在 CNS 上開發的應用程序隨后可以在基于企業 Kubernetes 的平臺上在生產環境中運行。

Source

]]> 11727 NVIDIA AI Workbench 讓 Windows 上的 GPU 使用更加簡便 http://www.open-lab.net/zh-cn/blog/nvidia-ai-workbench-simplifies-using-gpus-on-windows/ Mon, 26 Aug 2024 07:48:59 +0000 http://www.open-lab.net/zh-cn/blog/?p=11115 Continued]]> NVIDIA AI Workbench 是一款免費的、用戶友好型開發環境管理器，可在您選擇的系統（PC、工作站、數據中心或云）上簡化數據科學、ML 和 AI 項目。在 Windows、macOS 和 Ubuntu 上，您可以本地開發、測試項目和構建項目原型，并在系統（本地和遠程）之間輕松傳輸開發環境和計算工作，以優化成本、可用性和規模。 AI Workbench 專注于簡化開發者體驗，而不會阻礙高級用戶所需的自定義類型。那是 AI Workbench 處理容器的主要原因。它們是提供和修改 GPU 加速工作所需環境的最簡單方法。 這一重點還意味著與生態系統合作伙伴合作，以改善用戶體驗。例如，與 Canonical 的協作有助于使用 Ubuntu WSL 發行版在 Windows 上安裝 AI Workbench。 最近，NVIDIA 與 Docker Desktop…

Source

]]> 11115 借助 Hybrid RAG 實現 AI 模型高性能與數據隱私保護 http://www.open-lab.net/zh-cn/blog/optimize-ai-model-performance-and-maintain-data-privacy-with-hybrid-rag/ Thu, 11 Jul 2024 05:48:10 +0000 http://www.open-lab.net/zh-cn/blog/?p=10667 Continued]]> 快速發展的生成式 AI 領域專注于構建可以創建逼真內容（例如文本、圖像、音頻和合成數據）的神經網絡。生成式 AI 正在多個行業中引發革命，通過快速創建內容、為智能知識助手提供支持、增強軟件開發以編碼副駕駛，以及跨多個領域自動執行復雜任務。 然而，生成式 AI 模型基于有限數據進行訓練，只知道數據能告訴他們的內容。實際上，這是一個問題：確保生成內容的準確性和相關性，特別是對于模型訓練數據中沒有的信息。這些“知識差距”可能是時間方面的（例如，所有訓練數據都在 2023 年 4 月之前），也可能是領域方面的（例如，您的任何專有數據都未用于訓練模型）。 這正是檢索增強生成（RAG）發揮作用的地方。RAG 利用外部信息來源增強生成式模型（例如大型語言模型（LLM）），以有效地為模型提供它不知道的“事實”。這樣做將導致響應更加準確且與上下文相關，具體取決于外部信息的質量和模型的質量。

Source

]]> 10667 使用現已推出 Beta 版的 NVIDIA AI Workbench 來創建、共享和擴展企業 AI 工作流程 http://www.open-lab.net/zh-cn/blog/create-share-and-scale-enterprise-ai-workflows-with-nvidia-ai-workbench-now-in-beta/ Tue, 30 Jan 2024 03:49:20 +0000 http://www.open-lab.net/zh-cn/blog/?p=8855 Continued]]> NVIDIA AI Workbench 現已進入測試階段，帶來了豐富的新功能，可簡化企業開發者創建、使用和共享 AI 和機器學習 (ML) 項目的方式。在 SIGGRAPH 2023 上發布的 NVIDIA AI Workbench，使開發者能夠在支持 GPU 的環境中輕松創建、協作和遷移 AI 工作負載。欲了解更多信息，請參閱借助 NVIDIA AI Workbench 無縫開發和部署可擴展的生成式 AI 模型。 本文介紹了 NVIDIA AI Workbench 如何幫助簡化 AI 工作流程，并詳細介紹了測試版的新功能。本文還介紹了編碼副駕駛參考示例，該示例使您能夠使用 AI Workbench 在所選平臺上創建、測試和自定義預訓練的生成式 AI 模型。 借助 AI Workbench，開發者和數據科學家可以在 PC 或工作站上靈活地在本地啟動 AI 或 ML 項目，

Source

]]> 8855 使用 NVIDIA AI Enterprise 3.0 優化生產 AI 性能和效率 http://www.open-lab.net/zh-cn/blog/optimizing-production-ai-performance-and-efficiency-with-nvidia-ai-enterprise-3-0/ Wed, 22 Feb 2023 03:05:48 +0000 http://www.open-lab.net/zh-cn/blog/?p=6343 Continued]]> NVIDIA AI Enterprise 是一個端到端、安全的云原生 AI 軟件套件。最近發布的 NVIDIA AI Enterprise 3.0 引入了新功能，以幫助優化生產 AI 的性能和效率。本文提供了以下新功能及其工作原理的詳細信息。 NVIDIA AI Enterprise 3.0 版本中的新 AI 工作流有助于縮短生產 AI 的開發時間。這些工作流是常見 AI 用例的參考應用程序，包括聯絡中心智能虛擬助理、音頻轉錄和數字指紋。 未加密的預訓練模型也首次包括在內，確保了 AI 的可解釋性，并使開發人員能夠查看模型的權重和偏差，了解模型偏差。 NVIDIA AI Enterprise 現在支持 NGC catalog 中發布的所有 NVIDIA 人工智能軟件。開始 NGC 之旅的開發者現在可以無縫過渡到 NVIDIA AI Enterprise 訂閱，

Source

]]> 6343 人人超碰97caoporen国产