]]>14264NVIDIA JetPack 6.2 為 NVIDIA Jetson Orin Nano 和 Jetson Orin NX 模塊引入超級模式
http://www.open-lab.net/zh-cn/blog/nvidia-jetpack-6-2-brings-super-mode-to-nvidia-jetson-orin-nano-and-jetson-orin-nx-modules/
Thu, 16 Jan 2025 06:11:18 +0000http://www.open-lab.net/zh-cn/blog/?p=12690Continued]]>NVIDIA Jetson Orin Nano 超級開發者套件 的推出為小型邊緣設備開啟了 生成式 AI 的新時代。新的 超級模式 在開發者套件上實現了前所未有的生成式 AI 性能提升,最高可達 1.7 倍,使其成為最經濟實惠的生成式 AI 超級計算機。 JetPack 6.2 現已支持 Jetson Orin Nano 和 Jetson Orin NX 生產模組的超級模式,可將生成式 AI 模型的性能提升高達 2 倍。現在,您可以為新的和現有的機器人和邊緣 AI 應用釋放更多價值并降低總體擁有成本。 本文討論了 Super Mode 的詳細信息,包括新的功率模式、Jetson Orin Nano 和 Orin NX 模組上熱門生成式 AI 模型的基準測試、文檔更新,以及對支持 Super Mode 的 NPN 合作伙伴的見解。 JetPack 6.2…
]]>10258視覺語言智能與 Edge AI 2.0
http://www.open-lab.net/zh-cn/blog/visual-language-intelligence-and-edge-ai-2-0/
Fri, 03 May 2024 07:12:18 +0000http://www.open-lab.net/zh-cn/blog/?p=9874Continued]]>VILA 是 NVIDIA Research 和麻省理工學院共同開發的一系列高性能視覺語言模型。這些模型的參數規模從 ~3B 到 ~40B 不等。值得注意的是,VILA 是完全開源的,包括模型檢查點、訓練代碼和訓練數據。 在這篇文章中,我們描述了 VILA 在交付邊緣 AI 2.0 時如何與其他模型進行比較。 邊緣人工智能的初始版本涉及將壓縮的人工智能模型部署到邊緣設備上。這個階段被稱為 Edge AI 1.0,專注于特定任務的模型。這種方法的挑戰在于需要用不同的數據集訓練不同的模型,在這些數據集中,負樣本很難收集,異常情況也很難處理。這一過程非常耗時,凸顯了對適應性更強、通用性更強的人工智能解決方案的需求。 Edge AI 2.0 標志著由基礎視覺語言模型(VLM)推動的向增強泛化的轉變。 像 VILA 這樣的 VLM 表現出令人難以置信的多功能性,
]]>9874借助 NVIDIA AI Enterprise IGX 為任務關鍵型邊緣 AI 提供支持
http://www.open-lab.net/zh-cn/blog/powering-mission-critical-ai-at-the-edge-with-ai-enterprise-igx/
Wed, 20 Mar 2024 04:55:55 +0000http://www.open-lab.net/zh-cn/blog/?p=9322Continued]]>NVIDIA SDK 在加速智慧城市、醫療和機器人等一系列用例中的 AI 應用方面發揮了重要作用。但是,要實現可在邊緣部署的生產級 AI 解決方案,以支持安全可靠的人機協作,就需要針對企業需求量身定制的高質量硬件和軟件。 NVIDIA 再次加速邊緣任務關鍵型 AI 應用程序。 NVIDIA AI Enterprise IGX 是一款企業級軟件解決方案,用于在 NVIDIA IGX 平臺上運行邊緣 AI。 NVIDIA IGX 為您的工業級硬件提供超快的 AI 性能,在邊緣所需的大小和功率范圍內實現高吞吐量數據處理,以及強大的邊緣安全性、遠程管理性和內置安全機制。 NVIDIA IGX 與 NVIDIA AI Enterprise 的集成使邊緣 AI 更易于訪問、更高效且更便于企業使用。 AI 堆棧由許多第三方應用程序和開源軟件 (OSS) 組成,