]]>9038借助 NVIDIA Metropolis 微服務和 API 構建邊緣視覺 AI 應用
http://www.open-lab.net/zh-cn/blog/how-to-build-vision-ai-applications-at-the-edge-with-nvidia-metropolis-microservices-and-apis/
Tue, 23 Jan 2024 08:49:52 +0000http://www.open-lab.net/zh-cn/blog/?p=8824Continued]]>通過 NVIDIA Metropolis 微服務,開發者可以利用功能強大的云原生 API 和微服務來構建和定制視覺 AI 應用和解決方案。該框架現已與 NVIDIA Jetson 相結合,使得開發者能夠在邊緣快速開發高性能、成熟的視覺 AI 應用,并實現產品化。 API 通過實現不同應用和服務之間的無縫通信和集成,提高了軟件開發的靈活性、互操作性和效率。用于構建視頻分析應用的兩個常見功能是視頻流和基于 AI 的見解和分析生成。 本文介紹了用于構建視覺 AI 應用并將其集成到任何客戶端應用中的 API 工作流程。我們將介紹構建應用的三個關鍵步驟: 適用于 Jetson 的 NVIDIA Metropolis 微服務提供了一個模塊化架構,該架構包含大量可自定義、可重復使用的微服務,這些微服務用于構建視覺 AI 應用。該套件還為基礎設施功能和參考云提供了平臺服務。
]]>8824宣布推出適用于 Jetson 的 NVIDIA Metropolis 微服務,助力 Rapid Edge AI 開發
http://www.open-lab.net/zh-cn/blog/announcing-metropolis-microservices-on-nvidia-jetson-orin-for-rapid-edge-ai-development/
Tue, 23 Jan 2024 08:10:37 +0000http://www.open-lab.net/zh-cn/blog/?p=8818Continued]]>為邊緣構建視覺 AI 應用通常需要漫長且昂貴的開發周期。與此同時,快速開發原生云、靈活且安全的邊緣 AI 應用比以往任何時候都更加重要。現在,新的 NVIDIA Metropolis 微服務可提供強大而簡單的 API 驅動的邊緣 AI 開發工作流。 NVIDIA Metropolis 微服務 是一套可定制的云原生構建塊,用于開發視覺 AI 應用和解決方案。此版本在 NVIDIA Jetson 平臺上可進一步加速邊緣視覺 AI 應用的開發和部署。 這些新的 Jetson 微服務使開發者能夠實現 AI 應用程序堆棧的現代化,簡化流程,并為未來的應用程序提供保護。您可以輕松地將最新的 生成式 AI 進展集成到您的應用程序中,這些進展是通過 API 和微服務實現的,例如視頻存儲和管理、預構建的 AI 感知流程、跟蹤算法、系統監控、用于安全邊緣到云連接的物聯網服務等。
]]>8593使用 NVIDIA Holoscan for Media 進行軟件定義廣播
http://www.open-lab.net/zh-cn/blog/software-defined-broadcast-with-nvidia-holoscan-for-media/
Thu, 14 Sep 2023 05:55:10 +0000http://www.open-lab.net/zh-cn/blog/?p=7896Continued]]>廣播行業正在經歷內容創建、管理、分發和消費方式的轉變。這一轉變包括從受固定功能設備約束的傳統線性工作流程轉變為靈活和混合的軟件定義系統,從而實現直播的未來。 開發人員現在可以申請加入 NVIDIA Holoscan for Media,這是一個軟件定義的平臺,用于在本地、云端和邊緣開發和部署媒體應用程序。 使用 Holoscan for Media,廣播公司和解決方案提供商可以利用最新的 IT 和資源調配技術,以及現代的基于容器的開發、編排和交付方法。 Holoscan for Media 是一個基于 IP 的解決方案,基于行業標準和 API,包括 SMPTE ST 2110、AMWA NMOS、RIST、SRT 和 NDI。 該平臺集成了開源和無處不在的技術,打破了基于 SDI 和 FPGA 的系統的專有性和靈活性。它還可以將最新的功能,例如 生成性 AI,
]]>7896使用 DLA 在 NVIDIA Jetson Orin 上最大限度地提高深度學習性能
http://www.open-lab.net/zh-cn/blog/maximizing-deep-learning-performance-on-nvidia-jetson-orin-with-dla/
Wed, 16 Aug 2023 04:30:08 +0000http://www.open-lab.net/zh-cn/blog/?p=7592Continued]]>NVIDIA Jetson Orin 是同類中最好的嵌入式人工智能平臺。 Jetson Orin SoC 模塊以 NVIDIA Ampere 架構 GPU 為核心,但 SoC 上有更多計算: NVIDIA Orin SoC 功能強大,擁有 275 個峰值 AI TOPs,是最好的嵌入式和汽車 AI 平臺。你知道嗎,這些 AI TOPs 中幾乎 40% 來自 NVIDIA Orin 上的兩個 DLA? NVIDIA Ampere GPU 的吞吐量是同類產品中最好的,而第二代 DLA 的功率效率卻是同類產品中最佳的。近年來,隨著人工智能應用的快速增長,對更高效計算的需求也在增長。在電源效率始終是關鍵 KPI 的嵌入式方面尤其如此。 這就是 DLA 的用武之地。DLA 是專門為深度學習推理設計的,可以比 CPU 更有效地執行卷積等計算密集型深度學習操作。
]]>7490利用 NVIDIA AI 企業在 Azure 機器學習上的力量
http://www.open-lab.net/zh-cn/blog/harnessing-the-power-of-nvidia-ai-enterprise-on-azure-machine-learning/
Fri, 02 Jun 2023 07:08:18 +0000http://www.open-lab.net/zh-cn/blog/?p=7171Continued]]>人工智能正在改變行業,實現流程自動化,并在快速發展的技術格局中為創新開辟新的機會。隨著越來越多的企業認識到將人工智能融入運營的價值,他們面臨著高效、有效和可靠地實施這些技術的挑戰 NVIDIA AI Enterprise 是一個綜合軟件套件,旨在幫助組織大規模實施企業級 AI 、機器學習( ML )和數據分析,并提供安全性、可靠性、 API 穩定性和企業級支持。 部署人工智能解決方案可能很復雜,需要專門的硬件和軟件,以及開發和維護這些系統的專業知識。 NVIDIA AI Enterprise 通過提供針對企業環境量身定制的工具、庫、框架和支持服務的完整生態系統來應對這些挑戰 憑借 GPU – 加速計算能力, NVIDIA AI Enterprise 使企業能夠更高效、更經濟高效地大規模運行人工智能工作負載。 NVIDIA AI Enterprise 建立在…