DLI – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Wed, 30 Apr 2025 08:36:50 +0000 zh-CN hourly 1 196178272 構建應用程序以安全使用 KV 緩存 http://www.open-lab.net/zh-cn/blog/structuring-applications-to-secure-the-kv-cache/ Tue, 29 Apr 2025 08:32:44 +0000 http://www.open-lab.net/zh-cn/blog/?p=13663 Continued]]> 在與基于 Transformer 的模型 (如 大語言模型 (LLM) 和 視覺語言模型 (VLM)) 交互時,輸入結構會塑造模型的輸出。但提示通常不僅僅是簡單的用戶查詢。在實踐中,它們通過動態組合來自系統指令、上下文數據和用戶輸入等各種來源的數據來優化響應。 在多租戶環境中,多個用戶共享同一應用程序基礎設施,這種動態提示結構可能會帶來意外的安全風險。其中一個風險來自 prefix caching 優化,如果處理不當,可能會跨用戶邊界泄露信息。 本文將探討提示結構與緩存的交集,以及它們的交互如何在 LLM 驅動的應用中造成細微漏洞。通過了解這些機制,開發者可以設計出更安全的系統。 如果您僅以聊天機器人用戶的身份與 LLM 進行交互,您可能會將提示視為如下所示: 但在大多數真實應用中,此用戶查詢只是更大規模的動態構建輸入(即應用提示)的 一部分。

Source

]]>
13663
如何使用 OpenUSD http://www.open-lab.net/zh-cn/blog/how-to-use-openusd/ Thu, 30 Jan 2025 05:14:44 +0000 http://www.open-lab.net/zh-cn/blog/?p=12901 Continued]]> 通用場景描述(Universal Scene Description) 是開放、可擴展的框架和生態系統,具有用于在 3D 虛擬世界中合成、編輯、查詢、渲染、協作和仿真的 API。 本文介紹了如何使用現有資產和工具立即開始使用 OpenUSD,以及可以采取哪些步驟以迭代方式提升 USD 工作流程的水平。 要以交互方式全面介紹 OpenUSD 的基本概念、詞匯和最佳實踐,請探索 NVIDIA Deep Learning Institute 提供的 免費 Learn OpenUSD 學習路徑 。 OpenUSD 不會取代您現有的工具或數據格式。顧名思義,Universal Scene Description 提供了一種常用方法來表示網格和 PBR 材質等許多 3D 概念的數據。它不斷發展,以支持其他概念,例如 physics 和 B-reps。

Source

]]>
12901
NVIDIA 深度學習培訓中心發布全新生成式 AI 教學套件 http://www.open-lab.net/zh-cn/blog/nvidia-deep-learning-institute-releases-new-generative-ai-teaching-kit/ Wed, 04 Sep 2024 04:46:59 +0000 http://www.open-lab.net/zh-cn/blog/?p=11183 Continued]]> 生成式 AI 由先進的機器學習模型和深度神經網絡提供動力支持,通過生成新內容并驅動醫療、金融和娛樂等領域的創新來變革各行各業。 NVIDIA 正憑借其先進的 GPU 架構和軟件生態系統(例如 H100 Tensor Core GPU 和 CUDA 平臺),引領這一轉型,該平臺可優化生成式模型的開發和部署。NVIDIA NIM 可增強 AI 推理任務的效率和可擴展性,從而實現跨各種計算環境的快速部署和迭代,并加速生成式 AI 應用的發展。 隨著生成式 AI 模型(例如 GANs 和 Transformers)變得越來越復雜,對能夠開發、改進和合乎道德地部署這些技術的熟練專業人員的需求也在不斷增長。生成式 AI 方面堅實的教育基礎可以讓學生掌握在內容創作、藥物研發和自主系統等領域進行創新所需的實踐技能和理論知識。 由于生成式 AI 在幾乎每個行業中的作用都在迅速擴展,

Source

]]>
11183
通過五門新的 NVIDIA 技術課程提升您的技能 http://www.open-lab.net/zh-cn/blog/level-up-your-skills-with-five-new-nvidia-technical-courses/ Fri, 14 Jun 2024 09:14:20 +0000 http://www.open-lab.net/zh-cn/blog/?p=10478 Continued]]> 隨著人工智能以前所未有的速度引入技術創新,保持領先意味著保持你的技能與時俱進。NVIDIA 開發者計劃為您提供所需的工具、培訓和資源,以便您在各個行業取得最新進展:NVIDIA 開發者計劃。 我們很高興地宣布 NVIDIA 推出以下五門新技術課程。立即加入開發者計劃,現在可以親身體驗NVIDIA GTC展示的開發者工具,新會員可以免費申請一門課程。 構建和執行端到端 GPU 加速的數據科學工作流,使您能夠快速探索、迭代并將工作投入生產。使用 RAPIDS 加速的數據科學庫,您將應用各種 GPU 加速的機器學習算法和邏輯回歸來大規模執行數據分析。 通過參加本課程,您將學習如何: 利用 NVIDIA GPU 和 Apache Spark 來加快工作負載并降低成本。? 通過參加本課程,您將學習如何: 轉換器被用作大語言模型(LLM)的構建塊。

Source

]]>
10478
NVIDIA GTC 2024 上的新研討會和認證 http://www.open-lab.net/zh-cn/blog/new-workshops-and-certification-at-nvidia-gtc-2024/ Mon, 12 Feb 2024 06:09:23 +0000 http://www.open-lab.net/zh-cn/blog/?p=8972 Continued]]> 隨著 GTC 會議目錄的上線,是時候開始為您的會議構建個性化的議程了。對于即將在圣何塞加入我們的與會者,本文介紹了您不想錯過的技術培訓機會。 如果您無法親自參加 GTC,請利用在歐洲、中東和非洲 (EMEA)、印度和中國時區發布的15 場虛擬研討會。 線下培訓強勢回歸!與我們的認證講師共度美好時光,并與同行交流,最大化您的學習體驗。從以下選項中選擇六場全天培訓,計劃于 3 月 17 日(星期日)在圣何塞會議中心舉行,包括最新推出的生成式 AI 和 LLM 研討會。 以下研討會將在 GTC 上首次提供: 專業認證對于個人發展至關重要,并能提高您的 AI 專業知識的可信度。在 GTC 大會上,我們首次為數量有限的現場與會者提供獲得 NVIDIA 認證的機會。在本次大會上,星期四下午會議此外,您可以以 50% 的折扣參加以下認證測試之一:

Source

]]>
8972
在 NVIDIA GTC 2023 為您的技能和資格證書充電 http://www.open-lab.net/zh-cn/blog/power-up-your-skills-and-credentials-at-nvidia-gtc-2023/ Mon, 13 Mar 2023 04:28:07 +0000 http://www.open-lab.net/zh-cn/blog/?p=6468 Continued]]> 去年 8 月,我寫了一篇關于 GTC 的帖子,問道:“如果你能花 8 個小時與一位人工智能傳奇人物相處,同時使用一些最先進的 GPU 和 DPU 技術獲得實踐經驗,會怎么樣?”我的觀點仍然是:這正是你應該參加 GTC 培訓的原因。 虛擬會議提供了實踐研討會和培訓實驗室,以加深您在人工智能、 HPC 和元宇宙領域的技能。大多數研討會和實驗室都提供了對云中完全配置的 GPU 加速服務器的訪問,在那里您可以使用最新的行業標準軟件、工具和框架構建和部署項目。您還可以向業內一些最有經驗的人工智能、加速計算、圖形和模擬從業者學習并與他們互動。 隨著注冊的開放,以下是參加 GTC 2023 的更多理由。 即將推出的 GTC 提供了比以往更多的虛擬培訓: 29 個研討會、 36 個實驗室和四個特別活動。首次舉辦了兩個講習班: 本更新的研討會探討了自動語音識別( ASR…

Source

]]>
6468
在 NVIDIA Omniverse 上構建元宇宙工具的新課程 http://www.open-lab.net/zh-cn/blog/new-courses-for-building-metaverse-tools-in-omniverse/ Mon, 17 Oct 2022 02:30:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5471 Continued]]> 元宇宙為身為 藝術家 的每個人提供了新的機會跨多個 3D 工具構建內容, 用于 開發者 為 企業 構建在虛擬世界中經過訓練的 AI 建筑物 數字孿生 模擬他們的工業過程。 NVIDIA Omniverse 是一個用于構建和導航虛擬世界的計算平臺。基于 Pixar 的 Universal Scene Description (USD) , Omniverse 使個人和團隊能夠以前所未有的速度構建自定義 3D 管道和模擬大規模虛擬世界。 NVIDIA 深度學習研究所( DLI )為開發人員和技術藝術家推出了三個新的 90 分鐘自定進度、動手實踐的課程,他們使用工具創建 3D 世界。在這些課程中,您將學習如何構建連接到 Omniverse 平臺的高級工具,以擴展和增強您已經了解和喜愛的 3D 工具。單擊下面的鏈接注冊,并繼續閱讀以了解更多詳細信息。 為了了解更多關于這些課程的信息,

Source

]]>
5471
免費學 DOCA 軟件開發入門課程 釋放 DPU 潛力 http://www.open-lab.net/zh-cn/blog/learn-doca-unleash-dpu-potential-free/ Thu, 18 Aug 2022 09:51:25 +0000 http://www.open-lab.net/zh-cn/blog/?p=4890 Continued]]> 繼今年 1 月 NVIDIA 推出第一個自學 DOCA 課程之后,NVIDIA 深度學習培訓中心(DLI)今天又發布了第二個免費自學 DOCA 課程 《DOCA入門:開發 DPU 應用工作流》。 在這個 4 小時的入門課程中,您將了解到如何使用 DOCA Flow 庫在 NVIDIA BlueField DPU 硬件中構建管道(Pipe),涵蓋了管道和管道線(Pipeline)的基本概念和操作方式。 DOCA 與 DOCA Flow NVIDIA DOCA是釋放 NVIDIA BlueField DPU (數據處理器) 在卸載、加速和隔離數據中心工作負載潛力的關鍵。借助 DOCA,開發者可以通過創建具有零信任保護的軟件定義、云原生、DPU 加速的服務來對未來數據中心基礎設施進行編程,以滿足現代數據中心日益增長的性能和安全需求。

Source

]]>
4890
人人超碰97caoporen国产