Kasikrit Chantharuang – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Fri, 09 Aug 2024 05:38:05 +0000 zh-CN hourly 1 196178272 使用 NVIDIA NIM 和 NVIDIA NeMo Guardrails 保護生成式 AI 部署 http://www.open-lab.net/zh-cn/blog/securing-generative-ai-deployments-with-nvidia-nim-and-nvidia-nemo-guardrails/ Mon, 05 Aug 2024 05:31:24 +0000 http://www.open-lab.net/zh-cn/blog/?p=10934 Continued]]> 隨著企業采用由大型語言模型(LLMs)提供支持的生成式 AI 應用,越來越需要實施護欄以確保安全并符合可靠 AI 原則。 NVIDIA NeMo Guardrails 提供可編程護欄,可確保對話的安全性、可控性和可靠性,同時防止常見的 LLM 漏洞。除了構建更安全的應用程序外,安全、高效和可擴展的部署流程是充分發揮生成式 AI 潛力的關鍵。 NVIDIA NIM 為開發者提供了一套易于使用的微服務,旨在跨數據中心、工作站和云安全、可靠地部署高性能 AI 模型推理。NIM 是 NVIDIA AI Enterprise 的一部分。 通過將 NeMo Guardrails 與用于最新 AI 模型的 NIM 微服務集成,開發者可以更輕松地構建和部署可控 LLM 應用,并提高準確性和性能。NIM 提供行業標準 API,可與應用和熱門開發工具快速集成。

Source

]]>
10934
人人超碰97caoporen国产