Jetson ソフトウェア
NVIDIA? Jetson? ã®å„モジュールã¯åŒã˜ NVIDIA ã®ã‚½ãƒ•トウェア スタックã§ã‚µãƒãƒ¼ãƒˆã•れã¦ã„ã‚‹ãŸã‚ã€ä¸€åº¦é–‹ç™ºã™ã‚Œã°ã‚ã‚‰ã‚†ã‚‹å ´æ‰€ã«å±•é–‹ã§ãã¾ã™ã€‚Jetson Software ã¯ã€AI アプリケーションã«ã‚¨ãƒ³ãƒ‰ãƒ„ーエンドã®é«˜é€ŸåŒ–ã‚’æä¾›ã—ã€å¸‚å ´æŠ•å…¥ã¾ã§ã®æ™‚é–“ã‚’çŸç¸®ã™ã‚‹ã‚ˆã†ã«è¨è¨ˆã•れã¦ã„ã¾ã™ã€‚データセンターã¨ã‚¯ãƒ©ã‚¦ãƒ‰ã®å±•開を強化ã™ã‚‹ã®ã¨åŒã˜å¼·åŠ›ãª NVIDIA テクノãƒã‚¸ãƒ¼ã‚’エッジã«ã‚‚ãŸã‚‰ã—ã¾ã™ã€‚
Jetson ソフトウェアスタックã¯ã€å®Œå…¨ãªé–‹ç™ºç’°å¢ƒã‚’æä¾›ã—ã€é–‹ç™ºã‚’é–‹å§‹ã™ã‚‹ãŸã‚ã® CUDA-X アクセラレーションライブラリやãã®ä»–ã® NVIDIA テクノãƒã‚¸ãƒ¼ã‚’å«ã‚€ NVIDIA JetPack? SDKã‹ã‚‰å§‹ã¾ã‚Šã¾ã™ã€‚
JetPack ã¯ã€AI アプリケーションを構築ã™ã‚‹ãŸã‚ã®æœ€ã‚‚包括的ãªã‚½ãƒªãƒ¥ãƒ¼ã‚·ãƒ§ãƒ³ã§ã™ã€‚AI アプリケーションをエンドツーエンドã§é«˜é€ŸåŒ–ã™ã‚‹ãŸã‚ã«ã€AI 推論を高速化ã™ã‚‹ãŸã‚ã® TensorRT 㨠cuDNNã€ä¸€èˆ¬çš„ãªã‚³ãƒ³ãƒ”ューティングを高速化ã™ã‚‹ãŸã‚ã® CUDAã€ã‚³ãƒ³ãƒ”ュータービジョンã¨ç•«åƒå‡¦ç†ã‚’高速化ã™ã‚‹ãŸã‚ã® VPIã€ãƒžãƒ«ãƒãƒ¡ãƒ‡ã‚£ã‚¢ã‚’高速化ã™ã‚‹ãŸã‚ã® Jetson Multimedia APIã€ã‚«ãƒ¡ãƒ©ã‚’高速化ã™ã‚‹ãŸã‚ã® libArgus 㨠V4l2 ãŒå«ã¾ã‚Œã¦ã„ã¾ã™ã€‚
JetPack ã«ã¯ã€Jetson プラットフォーム用㮠Linux カーãƒãƒ«ã€ãƒ–ートãƒãƒ¼ãƒ€ãƒ¼ã€NVIDIA ドライãƒãƒ¼ã€ãƒ•ラッシュユーティリティã€ã‚µãƒ³ãƒ—ルファイルシステムã€ãŠã‚ˆã³ãƒ„ールãƒã‚§ãƒ¼ãƒ³ã‚’æä¾›ã™ã‚‹ Jetson Linux ドライãƒãƒ¼ãƒ‘ッケージãŒå«ã¾ã‚Œã¦ã„ã¾ã™ã€‚ã¾ãŸã€ã‚»ã‚ュリティ機能ã€ç„¡ç·šæ›´æ–°æ©Ÿèƒ½ãªã©ã‚‚å«ã¾ã‚Œã¦ã„ã¾ã™ã€‚
JetPack ã«ã¯ NVIDIA コンテナランタイムãŒå«ã¾ã‚Œã¦ãŠã‚Šã€ã‚¨ãƒƒã‚¸ã§ã‚¯ãƒ©ã‚¦ãƒ‰ ãƒã‚¤ãƒ†ã‚£ãƒ– テクノãƒã‚¸ãƒ¼ã¨ãƒ¯ãƒ¼ã‚¯ãƒ•ãƒãƒ¼ã‚’実ç¾ã—ã¾ã™ã€‚AI アプリケーションをコンテナ化ã—ã€ã‚¯ãƒ©ã‚¦ãƒ‰ãƒã‚¤ãƒ†ã‚£ãƒ–テクノãƒã‚¸ãƒ¼ã‚’使用ã—ã¦å¤§è¦æ¨¡ã«ç®¡ç†ã™ã‚‹ã“ã¨ã§ã€ã‚½ãƒ•トウェアã®é–‹ç™ºã¨ãƒ‡ãƒ—ãƒã‚¤ã®ã‚¨ã‚¯ã‚¹ãƒšãƒªã‚¨ãƒ³ã‚¹ã‚’変é©ã—ã¾ã™ã€‚
以下ã®ãƒªãƒ³ã‚¯ã‚’ãŸã©ã£ã¦ã€Jetpackã€Jetson Linuxã€ãŠã‚ˆã³ Jetson 上ã®Cloud-Native ã®è©³ç´°ã‚’ã”覧ãã ã•ã„。
JetPack SDK ????Jetson Linux ????Jetson ã®ã‚¯ãƒ©ã‚¦ãƒ‰ãƒã‚¤ãƒ†ã‚£ãƒ–
NVIDIA TAO ã¯ã€ãƒ‡ãƒ¼ã‚¿ã®æº–å‚™ã‹ã‚‰ãƒˆãƒ¬ãƒ¼ãƒ‹ãƒ³ã‚°ã€æœ€é©åŒ–ã¾ã§ã€ãƒ‡ã‚£ãƒ¼ãƒ—ラーニングワークフãƒãƒ¼ã®æ™‚é–“ã®ã‹ã‹ã‚‹éƒ¨åˆ†ã‚’ç°¡ç´ åŒ–ã—ã€å®Œæˆã¾ã§ã®æ™‚é–“ã‚’çŸç¸®ã—ã¾ã™ã€‚ NVIDIA NGC? ã‚«ã‚¿ãƒã‚° ã‹ã‚‰æœ¬ç•ªç’°å¢ƒã§äº‹å‰ã«ãƒˆãƒ¬ãƒ¼ãƒ‹ãƒ³ã‚°ã•れ㟠AI モデルã§å§‹ã‚れã°ã€é–‹ç™ºã‚’ 10 å€é«˜é€ŸåŒ–ã§ãã¾ã™ã€‚ã“れらã®ãƒ¢ãƒ‡ãƒ«ã¯ã€ã‚³ãƒ³ãƒ”ューター ãƒ“ã‚¸ãƒ§ãƒ³ã€æœƒè©±åž‹ AIã€morex ãªã©ã®ãƒ‰ãƒ¡ã‚¤ãƒ³å‘ã‘ã«é«˜ç²¾åº¦ã«ãƒˆãƒ¬ãƒ¼ãƒ‹ãƒ³ã‚°ã•れã¦ã„ã¾ã™ã€‚
データã®åŽé›†ã¨ã‚¿ã‚°ä»˜ã‘ã¯ã€è²»ç”¨ã¨æ‰‹é–“ãŒã‹ã‹ã‚‹ãƒ—ãƒã‚»ã‚¹ã§ã™ã€‚シミュレーションã¯ã€ãƒ‡ãƒ¼ã‚¿ã®å¿…è¦æ€§ã‚’埋ã‚ã‚‹ã®ã«å½¹ç«‹ã¡ã¾ã™ã€‚NVIDIA Omniverse Replicator ã¯ã€ã‚·ãƒŸãƒ¥ãƒ¬ãƒ¼ã‚·ãƒ§ãƒ³ã‚’使用ã—ã¦ã€å®Ÿéš›ã®ãƒ‡ãƒ¼ã‚¿ã‚ˆã‚Šã‚‚ 1 æ¡é€Ÿãã€å®‰ä¾¡ã«ä½œæˆã§ãã‚‹åˆæˆãƒ‡ãƒ¼ã‚¿ã‚’生æˆã—ã¾ã™ã€‚Omniverse Replicator を使用ã™ã‚‹ã¨ã€AI モデルをトレーニングã™ã‚‹ãŸã‚ã®å¤šæ§˜ã§å¤§è¦æ¨¡ã§æ£ç¢ºãªãƒ‡ãƒ¼ã‚¿ã‚»ãƒƒãƒˆã‚’ã™ã°ã‚„ã作æˆã§ãã¾ã™ã€‚
NVIDIA Triton? Inference Server ã¯ã€AI モデルã®å¤§è¦æ¨¡ãªå±•é–‹ã‚’ç°¡ç´ åŒ–ã—ã¾ã™ã€‚Triton Inference Server ã¯ã‚ªãƒ¼ãƒ—ンソースã§ã‚りã€ãƒ‡ãƒ¼ã‚¿ã‚»ãƒ³ã‚¿ãƒ¼ã€ã‚¯ãƒ©ã‚¦ãƒ‰ã€çµ„è¾¼ã¿ãƒ‡ãƒã‚¤ã‚¹ã€ä»®æƒ³åŒ–環境ãªã©ã®ã•ã¾ã–ã¾ãªå±•é–‹ã§ãƒžãƒ«ãƒ ãƒ•ãƒ¬ãƒ¼ãƒ ãƒ¯ãƒ¼ã‚¯ãƒ¢ãƒ‡ãƒ«ã®æŽ¨è«–ã‚’ã‚µãƒãƒ¼ãƒˆã§ãã‚‹å˜ä¸€ã®æ¨™æº–化ã•ã‚ŒãŸæŽ¨è«–ãƒ—ãƒ©ãƒƒãƒˆãƒ•ã‚©ãƒ¼ãƒ ã‚’æä¾›ã—ã¾ã™ã€‚高度ãªãƒãƒƒãƒå‡¦ç†ãŠã‚ˆã³ã‚¹ã‚±ã‚¸ãƒ¥ãƒ¼ãƒªãƒ³ã‚° アルゴリズムを通ã˜ã¦ã•ã¾ã–ã¾ãªã‚¿ã‚¤ãƒ—ã®æŽ¨è«–ã‚¯ã‚¨ãƒªã‚’ã‚µãƒãƒ¼ãƒˆã—ã€ãƒ©ã‚¤ãƒ–ãƒ¢ãƒ‡ãƒ«ã®æ›´æ–°ã‚’サãƒãƒ¼ãƒˆã—ã¾ã™ã€‚
NVIDIA Riva ã¯ã€ã‚¨ãƒ³ãƒ‰ãƒ„ーエンドã®ãƒ‡ã‚£ãƒ¼ãƒ—ラーニング パイプラインを使用ã—ã¦ãƒžãƒ«ãƒ モーダル會話型 AI アプリケーションを構築ã™ã‚‹ãŸã‚ã«é«˜é€ŸåŒ–ã•れ㟠SDK ã§ã™ã€‚Riva SDK ã«ã¯ã€äº‹å‰ãƒˆãƒ¬ãƒ¼ãƒ‹ãƒ³ã‚°ã•ã‚ŒãŸæœƒè©±åž‹ AI モデルã€NVIDIA TAO Toolkitã€ãŠã‚ˆã³éŸ³è²ã€è¦–覚ã€è‡ªç„¶è¨€èªžå‡¦ç†ï¼ˆ NLP ï¼‰ã‚¿ã‚¹ã‚¯ç”¨ã«æœ€é©åŒ–ã•れãŸã‚¨ãƒ³ãƒ‰ãƒ„ーエンドã®ã‚¹ã‚ルãŒå«ã¾ã‚Œã¦ã„ã¾ã™ã€‚
NVIDIA ã® DeepStream SDK ã¯ã€AI ベースã®ãƒžãƒ«ãƒã‚»ãƒ³ã‚µãƒ¼å‡¦ç†ã€ãƒ“デオãŠã‚ˆã³ç•«åƒç†è§£ã®ãŸã‚ã®ã‚¹ãƒˆãƒªãƒ¼ãƒŸãƒ³ã‚°åˆ†æžãƒ„ールã‚ット一å¼ã‚’æä¾›ã—ã¾ã™ã€‚DeepStream ã¯ã€ãƒ”クセル データやセンサー データを実用的ãªã‚¤ãƒ³ã‚µã‚¤ãƒˆã«å¤‰æ›ã™ã‚‹ã‚¨ãƒ³ãƒ‰ãƒ„ーエンドã®ã‚µãƒ¼ãƒ“スやソリューションを構築ã™ã‚‹ãŸã‚ã®ãƒ—ラットフォームã€NVIDIA Metropolis ã«ä¸å¯æ¬ ãªéƒ¨åˆ†ã§ã™ã€‚
NVIDIA Isaac ROS GEM ã¯ã€ROS 開発者㌠NVIDIA ãƒãƒ¼ãƒ‰ã‚¦ã‚§ã‚¢ä¸Šã§é«˜æ€§èƒ½ã‚½ãƒªãƒ¥ãƒ¼ã‚·ãƒ§ãƒ³ã‚’ç°¡å˜ã«æ§‹ç¯‰ã§ãるよã†ã«ã™ã‚‹ãƒãƒ¼ãƒ‰ã‚¦ã‚§ã‚¢ アクセラレーションパッケージã§ã™ã€‚Omniverse ã‚’æè¼‰ã—㟠NVIDIA Isaac Simã¯ã€ã‚¹ã‚±ãƒ¼ãƒ©ãƒ–ルãªãƒãƒœãƒƒãƒˆã‚·ãƒŸãƒ¥ãƒ¬ãƒ¼ã‚·ãƒ§ãƒ³ã‚¢ãƒ—リケーションã§ã™ã€‚ã“れã«ã¯ã€çŸ¥è¦šãƒ¢ãƒ‡ãƒ«ã‚’トレーニングã™ã‚‹ãŸã‚ã®å¤šæ§˜ãªåˆæˆãƒ‡ãƒ¼ã‚¿ã‚»ãƒƒãƒˆã‚’生æˆã™ã‚‹ãƒ„ールã§ã‚るレプリケーターãŒå«ã¾ã‚Œã¦ã„ã¾ã™ã€‚Isaac Sim ã¯ã€AI ベースã®ãƒãƒœãƒƒãƒˆã‚’開発ã€ãƒ†ã‚¹ãƒˆã€ãŠã‚ˆã³ç®¡ç†ã™ã‚‹ãŸã‚ã®ã€ãƒ•ォト リアリスティックã§ç‰©ç†çš„ã«æ£ç¢ºãªä»®æƒ³ç’°å¢ƒã‚’強化ã™ã‚‹ãƒ„ールã§ã‚‚ã‚りã¾ã™ã€‚
開発者ツール
Jetson プラットフォームå‘ã‘開発者ツールã«ã¤ã„ã¦ã¯ã€Develop → Tools ã§ã”確èªãã ã•ã„。