AI 智能體 – NVIDIA 技術博客

利用 NVIDIA AI Blueprint 搭建視頻搜索和摘要智能代理

Mon, 04 Nov 2024 06:33:13 +0000

本文最初于 2024 年 7 月 29 日發布，但已根據 NVIDIA AI Blueprint 信息進行了大量修改。傳統的視頻分析應用及其開發工作流通常基于功能固定的、有限的模型構建，這些模型旨在僅檢測和識別一組預定義的對象。借助生成式 AI 、NVIDIA NIM 微服務和基礎模型，您現在可以使用更少的模型構建具有廣泛感知和豐富上下文理解的應用程序。新型生成式 AI 模型，即視覺語言模型（VLM），為視覺 AI 智能體提供支持，這些智能體可以理解自然語言提示并執行視覺問答。通過結合 VLM、LLM 和最新的 Graph-RAG 技術，您可以構建功能強大的視覺 AI 智能體，從而實現對視頻的長篇理解。這些可視化 AI 智能體將部署在工廠、倉庫、零售商店、機場、交叉路口等地。它們將幫助運營團隊利用從自然交互中生成的更豐富的見解做出更明智的決策。

Source

]]>

基于 NVIDIA NIM 的多模態視覺 AI 智能體構建解決方案

Thu, 31 Oct 2024 09:20:00 +0000

視覺數據（從圖像到 PDF 再到流式視頻）呈指數級增長，這使得人工審查和分析幾乎不可能實現。組織正在努力將這些數據大規模轉換為切實可行的見解，從而導致錯失機會并增加風險。為了應對這一挑戰，視覺語言模型（VLMs）正在成為強大的工具，將圖像和視頻的視覺感知與基于文本的推理相結合。與僅處理文本的傳統大語言模型（LLMs）不同，VLMs 使您能夠構建視覺 AI 智能體，以便理解和處理復雜的多模態數據，并對其采取行動，從而實現實時決策和自動化。想象一下，擁有一個智能 AI 智能體，它可以分析遠程攝像頭鏡頭以檢測野火的早期跡象，或者掃描業務文檔以提取隱藏在圖表、表格和圖像中的關鍵信息——這一切都可以自動完成。借助 NVIDIA NIM 微服務，構建這些先進的視覺 AI 智能體比以往更容易、更高效。NIM 微服務提供靈活的自定義、簡化的 API 集成和流暢的部署，

Source

]]>

NVIDIA AI Enterprise 助力 AI 智能體安全升級和簡化部署

Tue, 29 Oct 2024 05:27:00 +0000

AI 智能體逐漸成為企業組織提高效率、提高生產力和加速創新的新方式。這些智能體比之前的 AI 應用更為先進，能夠自動推理任務、調用其他工具，以及整合企業數據和員工知識，以產生寶貴的業務成果。它們被嵌入到根據每個企業組織的需求定制的應用中。 NVIDIA AI Enterprise 的最新版本包括多項新功能，有助于提升 AI 代理的安全性、穩定性和易部署性。新推出的 NVIDIA NIM Operator 可簡化用于在 Kubernetes 上部署 AI 工作流的 NIM 微服務的部署和管理。NIM Operator 可自動部署 AI 工作流，并借助智能模型預緩存等功能增強性能，降低初始推理延遲，并加快自動擴展速度。您可以根據 CPU、GPU 或 NIM 特定的指標（例如 NIM 最大請求、KVcache 等）選擇自動擴展。

Source

]]>