Kasikrit Chantharuang – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Fri, 09 Aug 2024 05:38:05 +0000
zh-CN
hourly
1
196178272 -
使用 NVIDIA NIM 和 NVIDIA NeMo Guardrails 保護生成式 AI 部署
http://www.open-lab.net/zh-cn/blog/securing-generative-ai-deployments-with-nvidia-nim-and-nvidia-nemo-guardrails/
Mon, 05 Aug 2024 05:31:24 +0000
http://www.open-lab.net/zh-cn/blog/?p=10934
Continued]]>
隨著企業采用由大型語言模型(LLMs)提供支持的生成式 AI 應用,越來越需要實施護欄以確保安全并符合可靠 AI 原則。 NVIDIA NeMo Guardrails 提供可編程護欄,可確保對話的安全性、可控性和可靠性,同時防止常見的 LLM 漏洞。除了構建更安全的應用程序外,安全、高效和可擴展的部署流程是充分發揮生成式 AI 潛力的關鍵。 NVIDIA NIM 為開發者提供了一套易于使用的微服務,旨在跨數據中心、工作站和云安全、可靠地部署高性能 AI 模型推理。NIM 是 NVIDIA AI Enterprise 的一部分。 通過將 NeMo Guardrails 與用于最新 AI 模型的 NIM 微服務集成,開發者可以更輕松地構建和部署可控 LLM 應用,并提高準確性和性能。NIM 提供行業標準 API,可與應用和熱門開發工具快速集成。
Source
]]>
10934
人人超碰97caoporen国产