Suhas Hariharapura Sheshadri – NVIDIA 技術博客

NVIDIA Jetson Orin Nano 開發者套件得到“超級”提升

Tue, 17 Dec 2024 04:52:28 +0000

生成式 AI 格局正在迅速發展，新的大語言模型 (LLMs)、視覺語言模型 (VLMs) 和視覺語言動作 (VLAs) 模型每天都在涌現。為了在這個變革時代站在前沿，開發者需要一個足夠強大的平臺，通過使用 CUDA 的優化推理和開放 ML 框架，將最新模型從云端無縫部署到邊緣。為了支持機器人和多模態智能體中生成式 AI 工作負載的新興應用，NVIDIA 正在通過軟件更新來更新 NVIDIA Jetson Orin Nano 開發者套件，以 249 美元的驚人新價格將性能提升高達 1.7 倍。為表彰 Jetson Orin Nano 開發者套件在性能和可訪問性方面的出色提升，我們將 Jetson Orin Nano 開發者套件更名為 NVIDIA Jetson Orin Nano Super Developer Kit。只需更新軟件，

Source

]]>

借助 NVIDIA JetPack 6.0 助力邊緣云原生微服務，現已正式發布

Tue, 04 Jun 2024 07:34:51 +0000

NVIDIA JetPack SDK 為 NVIDIA Jetson 模組提供支持，為構建端到端加速的人工智能應用提供全面的解決方案。JetPack 6 通過微服務和一系列新功能擴展了 Jetson 平臺的靈活性和可擴展性。這是 JetPack 2024 年下載次數最多的版本。隨著 JetPack 6.0 正式發布，開發者可以滿懷信心地將這些新功能引入更先進的嵌入式 AI 和機器人應用。本文重點介紹了主要功能和新的 AI 工作流程。 JetPack 6 支持在 Jetson 上擴展一系列基于 Linux 的發行版。其中包括 Canonical 的 Ubuntu 服務器、Redhat 的 RHEL 9.4、SUSE、Wind River Linux、Redhawk Real Time OS 以及各種基于 Yocto 的發行版。這些基于 Linux 的發行版在 Jetson…

Source

]]>

NVIDIA IGX 平臺上的生產就緒型企業級軟件，支持 NVIDIA RTX 6000 ADA 等

Sun, 02 Jun 2024 08:50:30 +0000

實時邊緣 AI 對于醫療、工業和科學計算至關重要，因為這些任務關鍵型應用程序需要即時數據處理、低延遲和高可靠性，以確保及時準確的決策。這些挑戰不僅涉及硬件平臺上的高帶寬傳感器處理和 AI 計算，而且還需要企業級 AI 軟件來支持整個邊緣計算軟件堆棧。專門為工業和醫療環境設計，NVIDIA IGX 為組織提供邊緣人工智能所需的性能、可靠性、安全性和可維護性。IGX 無需花費數年時間設計自定義系統和定制人工智能模型，而是借助 NVIDIA AI Enterprise 上的 GPU 加速計算，加速各行業先進的人工智能解決方案的開發，從而大幅減少時間和成本。在 COMPUTEX 2024 上，IGX 通過生產就緒型 NVIDIA AI Enterprise IGX、對 NVIDIA RTX 6000 Ada dGPU 的支持、IGX 系統的擴展等，對平臺進行了重大更新。

Source

]]>

借助 NVIDIA AI Enterprise IGX 為任務關鍵型邊緣 AI 提供支持

Wed, 20 Mar 2024 04:55:55 +0000

NVIDIA SDK 在加速智慧城市、醫療和機器人等一系列用例中的 AI 應用方面發揮了重要作用。但是，要實現可在邊緣部署的生產級 AI 解決方案，以支持安全可靠的人機協作，就需要針對企業需求量身定制的高質量硬件和軟件。 NVIDIA 再次加速邊緣任務關鍵型 AI 應用程序。 NVIDIA AI Enterprise IGX 是一款企業級軟件解決方案，用于在 NVIDIA IGX 平臺上運行邊緣 AI。 NVIDIA IGX 為您的工業級硬件提供超快的 AI 性能，在邊緣所需的大小和功率范圍內實現高吞吐量數據處理，以及強大的邊緣安全性、遠程管理性和內置安全機制。 NVIDIA IGX 與 NVIDIA AI Enterprise 的集成使邊緣 AI 更易于訪問、更高效且更便于企業使用。 AI 堆棧由許多第三方應用程序和開源軟件 (OSS) 組成，

Source

]]>

與 NVIDIA Jetson AGX Orin Industrial 攜手邁向工業級邊緣 AI 的未來

Sun, 28 May 2023 05:48:36 +0000

嵌入式邊緣人工智能通過將智能和實時處理引入最具挑戰性的環境，正在改變工業環境。邊緣人工智能越來越多地被用于農業、建筑、能源、航空航天、衛星、公共部門等。借助 NVIDIA Jetson 邊緣人工智能和機器人平臺，您可以在這些復雜的環境中部署人工智能和計算用于傳感器融合。在 COMPUTEX 2023 上， NVIDIA 宣布了新的 Jetson AGX Orin 工業模塊，該模塊為惡劣環境帶來了新的計算水平。此新模塊擴展了上一代 NVIDIA Jetson AGX Xavier 工業和商用 Jetson AGX Orin 模塊的功能，為加固系統帶來了服務器級性能。許多應用，包括那些為農業、工業制造、采礦、建筑和運輸設計的應用，必須承受極端環境和長期沖擊和振動。例如，堅固的硬件對于廣泛的農業應用至關重要，因為它使機械能夠承受繁重的工作量，

Source

]]>

使用 NVIDIA Isaac ROS 開發人員預覽版 3 構建高性能機器人應用程序

Tue, 18 Apr 2023 03:11:56 +0000

機器人的復雜性正在增加，具有更高的自主性、更多的傳感器數量和多樣性，以及更多基于傳感器融合的算法。硬件加速對于運行這些日益復雜的工作負載至關重要，從而使機器人應用程序能夠以更高的速度和能效運行更大的工作負載。 NVIDIA Isaac ROS的使命一直致力于為 ROS 開發人員提供開發高性能、節能機器人應用所需的加速計算包和工具 NVIDIA 還在 ROS2 中開創了加速計算的先河，并在每個版本中不斷改進。在過去的兩年里，已經添加了 20 多個硬件加速 ROS 包，并支持最新的 ROS 2 分發。該團隊去年與 Open Robotics 合作，包括自適應和類型協商，以提高提供硬件加速器的計算平臺上的 ROS 性能。他們還實施了 ISAAC ROS 的適應和類型協商，稱為 NITROS (NVIDIA Isaac Transport for ROS).

Source

]]>

使用 NVIDIA Jetson Orin Nano 開發套件開發人工智能機器人、智能視覺系統等

Tue, 21 Mar 2023 08:47:51 +0000

NVIDIA Jetson Orin Nano Developer Kit 為創建入門級人工智能機器人、智能無人機和智能視覺系統設定了一個新標準，如 NVIDIA announced 和 NVIDIA GTC 2023 。它還簡化了 NVIDIA Jetson Orin Nano 系列的入門。緊湊的設計、眾多的連接器和高達 40 項人工智能性能，使這款開發套件成為將您富有遠見的概念轉化為現實的理想選擇。該開發套件由一個 Jetson Orin Nano 8GB模塊和一個參考承載板組成，該承載板可容納所有 NVIDIA Jetson Orin Nano-和 NVIDIA ZVK4]Orin NX模塊，為下一代邊緣人工智能產品的原型設計提供了理想的平臺。 Jetson Orin Nano 8 GB 模塊采用 NVIDIA Ampere architecture GPU ，

Source

]]>

簡化 NVIDIA Jetson 用戶的 CUDA 升級

Tue, 04 Oct 2022 09:28:00 +0000

NVIDIA JetPack 為 Jetson 平臺邊緣的硬件加速 AI 提供了一個完整的開發環境。以前， NVIDIA JetPack 的獨立版本支持單一版本的 CUDA ，您無法在給定的 NVIDIA JetPack 版本上升級 CUDA 。 NVIDIA JetPack 以滾動步調發布，使用單一版本的 CUDA ，通常在每個主要發布周期中都受支持（例如， NVIDIA JetPack 4.x 或 NVIDIA JetPack 5.x ）。從 CUDA Toolkit 11.8 開始， NVIDIA JetPack 5.0 和更高版本上的 Jetson 用戶可以升級到最新的 CUDA 版本，而無需更新 NVIDIA JetPack 版本或 Jetson Linux BSP （ Board Support Package ）。您可以與 CUDA 桌面版本保持一致。

Source

]]>

簡化 NVIDIA Jetson 用戶的 CUDA 升級

Tue, 04 Oct 2022 07:28:00 +0000

Source

]]>

利用一個開發工具包的強大功能為所有六個 NVIDIA Jetson Orin 模塊開發

Thu, 22 Sep 2022 07:51:00 +0000

隨著本周在 GTC 的 Jetson Orin Nano 發表推出，整個 Jetson Orin 模塊陣容現已揭曉。 Orin Nano 模塊擁有多達 40 個 AI 性能 TOPS ，為入門級 AI 設定了新標準，正如 Jetson AGX Orin 已經通過 275 個服務器級計算 TOPS 重新定義了機器人和其他自主邊緣用例一樣。所有 Jetson Orin 模塊和 Jetson AGX Orin Developer Kit 基于單個 SoC 架構，帶有 NVIDIA 安培架構 GPU 、高性能 CPU 和最新加速器。這種共享架構意味著您可以為一個 Jetson Orin 模塊開發軟件，然后輕松地將其部署到任何其他模塊。您可以使用 Jetson AGX Orin 開發工具包立即開始開發任何 Jetson Orin 模塊。

Source

]]>

使用 NVIDIA Jetson Orin 在邊緣提供服務器級性能

Fri, 08 Apr 2022 09:09:00 +0000

人工智能驅動的機器人和其他自動機器的開發和部署速度繼續快速增長。下一代應用程序需要大幅提高 AI 計算性能，以實時處理并發運行的多模式 AI 應用程序。在零售空間、食品配送、醫院、倉庫、工廠地板和其他商業應用中，人機交互越來越多。這些自主機器人必須同時執行 3D 感知、自然語言理解、路徑規劃、避障、姿勢估計，以及許多其他操作，這些操作需要顯著的計算性能和高精度的訓練神經模型。 NVIDIA Jetson AGX ORIN 模塊是 NVIDIA Jetson 家族中表現最高和最新成員。這些模塊提供了卓越的性能和一流的能效。他們運行全面的 NVIDIA 人工智能軟件棧，為下一代要求苛刻的邊緣人工智能應用提供動力。在 GTC 2022 年春季，我們宣布四個 Jetson Orin 模塊將于 2022 年第 4 季度上市。

Source

]]>

使用 NVIDIA Triton 推理服務器簡化邊緣 AI 模型部署

Tue, 14 Sep 2021 04:15:00 +0000

人工智能機器學習（ ML ）和深度學習（ DL ）正在成為解決機器人、零售、醫療保健、工業等領域各種計算問題的有效工具。對低延遲、實時響應和隱私的需求使運行 AI 應用程序處于邊緣。然而，在邊緣的應用程序和服務中部署 AI 模型對基礎設施和運營團隊來說可能是一項挑戰。不同的框架、端到端延遲要求以及缺乏標準化實施等因素可能會使 AI 部署具有挑戰性。在這篇文章中，我們將探討如何應對這些挑戰，并在邊緣生產中部署 AI 模型。以下是部署推理模型的最常見挑戰： NVIDIA Triton 推理服務器是一款開源推理服務軟件，通過解決這些復雜性簡化了推理服務。 NVIDIA Triton 提供了一個單一的標準化推理平臺，可支持在多框架模型和不同部署環境（如數據中心、云、嵌入式設備、，以及虛擬化環境。它通過高級批處理和調度算法支持不同類型的推理查詢，并支持實時模型更新。

Source

]]>

推出終極入門 AI 計算機，NVIDIA Jetson Nano 2GB 開發人員套件

Mon, 05 Oct 2020 11:04:00 +0000

今天， NVIDIA 宣布了 Jetson Nano 2GB 開發者套件，這是一個理想的教學、學習和開發人工智能和機器人應用的實踐平臺。六年前推出的 NVIDIA Jetson 平臺通過將人工智能的力量傳遞給邊緣計算設備，徹底改變了嵌入式計算。 NVIDIA Jetson 如今廣泛應用于機器人、零售、工業、農業和人工智能 OT 等各個領域。 2019 年 3 月， NVIDIA 推出了最初的 Jetson NANO開發者工具包，使開發者、學生和愛好者能夠學習、探索和構建邊緣設備的人工智能應用程序。狂熱者社區的迅速采用使它成為我們最喜愛的開發工具包，并引發了一場 Jetson 運動。新的 NVIDIA Jetson Nano 2GB 開發工具包的價格為 59 美元，這使得它對于學習人工智能和機器人技術來說更加實惠。這款開發工具包是終極的入門級人工智能電腦，

Source

]]>

使用 NVIDIA Jetson-Xavier NX 開發工具包，為邊緣人工智能設備帶來原始云般的靈活性

Thu, 14 May 2020 09:48:00 +0000

今天， NVIDIA 發布了基于 Jetson Xavier NX 模塊的 NVIDIA Jetson Xavier NX 開發工具包。 Jetson Xavier NX 以低于 15W 的功率，以緊湊的外形提供多達 21 臺計算之巔，為邊緣 AI 設備和自主機器帶來服務器級性能和云原生工作流。借助 Jetson Xavier NX 開發者工具包，您可以創建令人驚嘆的人工智能驅動應用程序，并快速將深度神經網絡（ DNN ）模型和流行的機器學習框架部署到該領域。 NVIDIA JetPack 4 . 4 開發者預覽版的初始軟件支持包括 CUDA Toolkit 10 . 2 和 cuDNN 8 . 0 、 TensorRT 7 . 1 和 DeepStream 5 . 0 的預覽版，以及用于機器學習的新 Docker 容器和預訓練的 DNN 模型。

Source

]]>