Cecilia Bi – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Mon, 05 Dec 2022 10:54:06 +0000
zh-CN
hourly
1
196178272 -
自動駕駛的最優 AI 推理流水線設計
http://www.open-lab.net/zh-cn/blog/designing-an-optimal-ai-inference-pipeline-for-autonomous-driving/
Wed, 30 Nov 2022 10:52:00 +0000
http://www.open-lab.net/zh-cn/blog/?p=5788
Continued]]>
自動駕駛汽車必須能夠快速準確地檢測物體，以確保其駕駛員和道路上其他駕駛員的安全。由于自動駕駛（ AD ）和視覺檢查用例中對實時處理的需求，具有預處理和后處理邏輯的多個 AI 模型 組合在流水線中，并用于 機器學習 （ ML ）推理。 流水線的每一步都需要加速，以確保低延遲工作流。延遲是獲取推理響應所需的時間。更快地處理 AD 數據將能夠更有效地分析和使用信息，創造更安全的駕駛環境。任何一個方面的延遲都會降低整個管道的速度。 為了實現低延遲推理工作流，電動汽車制造商 NIO 將 NVIDIA Triton 推理服務器集成到其 AD 推理管道中。 NVIDIA Triton 推理服務器是一個開源的多幀推理服務軟件。 這篇文章解釋了 NIO 如何在 GPU 上使用 NVIDIA Triton 協調其圖像預處理、后處理和 AI 模型的管道。它還展示了 NIO 如何減少網絡傳輸，
Source
]]>
5788
人人超碰97caoporen国产