Moon Chung – NVIDIA 技術博客

使用 Whisper 和 Canary 架構部署 NVIDIA Riva 多語種 ASR，同時選擇性地停用 NMT

Thu, 20 Feb 2025 04:05:01 +0000

NVIDIA 持續開發自動語音識別 (ASR) 模型，這些模型在業內樹立了基準。早期版本的 NVIDIA Riva 是一種適用于 ASR 、 TTS 和 NMT 的 GPU 加速語音和翻譯 AI 微服務的集合，支持基于 Conformer 架構的英語-西班牙語和英語-日語代碼交換 ASR 模型，以及基于 Parakeet 架構的支持 EMEA 地區多種語言（即英國英語、歐洲西班牙語、法語、意大利語、標準德語和亞美尼亞語）的模型。最近，NVIDIA 發布了 Riva 2.18.0 容器和 SDK ，以不斷改進其語音 AI 模型。在此新版本中，我們現在提供以下服務：自動語音翻譯（AST）是將一種語言的語音翻譯為另一種語言的文本，而無需以第一種語言進行中間轉錄。

Source

]]>

利用 NVIDIA NIM 和 cuOpt 構建供應鏈優化 AI 智能體

Tue, 16 Jul 2024 05:07:16 +0000

企業在供應鏈決策中面臨著兩大挑戰：最大限度地提高利潤和快速適應動態變化。為了實現優化的供應鏈運營，企業需要依賴高級分析和實時數據處理，以適應快速變化的環境并做出明智的決策。優化無處不在。為了履行客戶承諾并降低風險，組織運行數千個什么如果場景，以滿足客戶承諾并將風險降至最低。例如，零售公司必須考慮交通、天氣和行駛里程等因素，以優化路線，并降低物流成本，其中超過一半的成本歸功于最后一英里配送?。同樣，制藥公司必須應對復雜的供應鏈和監管限制，以及高昂的研發成本，這使得實時優化變得困難。金融機構必須在波動的市場中平衡風險和回報，這需要復雜的數學模型(PDF)為決策制定。農業 sector 需要處理不可預測的因素，如天氣和市場需求在本文中，我們將展示如何使用線性編程和 LLM，借助 NVIDIA cuOpt 微服務中的優化 AI，克服優化挑戰，

Source

]]>

視頻：使用 NVIDIA NIM 與您的供應鏈數據對話

Mon, 17 Jun 2024 08:34:53 +0000

NVIDIA 運營著世界上最大、最復雜的供應鏈之一。我們建造的超級計算機通過數百英里的高速光纜連接數萬個 NVIDIA GPU。我們依靠數百家合作伙伴向十幾家工廠交付數千種不同的組件，以生產近 3000 種產品。一旦供應鏈中斷，就可能影響我們履行承諾的能力。這段四分鐘的視頻強調了組織如何克服運營復雜性，并通過使用 LLM NIM、NVIDIA NeMo Retriever NIM 和 cuOpt NIM 構建的人工智能規劃器，以非凡的規模交付人工智能工廠。關鍵要點總結在NVIDIA cuOpt、NeMo Retriever和LLM NIM微服務免費試用在API 目錄上。查看這些資源以了解更多關于 cuOpt 的信息：

Source

]]>

借助 NVIDIA NeMo 開發自定義企業生成式 AI

Wed, 27 Mar 2024 08:11:00 +0000

生成式 AI 在計算領域發生了翻身，為人類以自然、直觀的方式與計算機交互打開了新方式。對于企業來說，生成式 AI 的潛力巨大。他們可以利用其豐富的數據集簡化耗時的任務，從文本摘要和翻譯到見解預測和內容生成。然而，他們也面臨著采用挑戰。例如，云服務通過使用通用型大型語言模型簡化了探索。然而，這些功能可能并不總是與企業需求保持一致，因為模型基于廣泛的數據集而不是特定領域的數據進行訓練，這可能會導致安全漏洞。因此，組織正在使用大量開源工具構建定制解決方案。從驗證兼容性到提供自己的技術支持，這可以延長在企業中成功采用生成式 AI 的時間。專為企業開發，NVIDIA NeMo 是一個端到端平臺，可隨時隨地構建自定義生成式 AI 應用。它提供了一套先進的微服務，可實現完整的工作流程，從自動化分布式數據處理，到使用復雜的 3D 并行技術訓練大規模定制模型，

Source

]]>

突破性的 NVIDIA cuOpt 算法將路線優化解決方案的速度提高 100 倍

Wed, 20 Mar 2024 05:44:33 +0000

NVIDIA cuOpt 是一個加速優化引擎，專為解決復雜的路線規劃問題而設計。它能夠高效地處理各種問題，包括但不限于：休息和等待時間、車輛的多個成本和時間矩陣、多目標優化、訂單與車輛的匹配、車輛的起始和結束位置、以及車輛的起始和結束時間等。更具體地說，cuOpt 解決了兩個問題的多個變體：時間窗口容量車輛路線規劃問題 (CVRPTW) 和時間窗口拾貨和交付問題 (PDPTW).這些問題的目的是滿足客戶請求，同時盡可能減少車輛數量和按相應順序行駛的總距離。 cuOpt 在過去三年中設定的最大路由基準測試中打破了 23 項世界紀錄，由 SINTEF 進行。本文將探討優化算法的關鍵要素及其定義，以及將 NVIDIA cuOpt 與該領域的領先解決方案進行基準測試的過程，并重點介紹這些比較的重要性。在整篇博文中，我們將術語“請求”用于 CVRPTW 的訂單，

Source

]]>

體驗 NVIDIA cuOpt 加速優化，提高運營效率

Mon, 19 Feb 2024 05:47:34 +0000

本周的 Model Monday 版本亮點是 NVIDIA cuOpt，這是一款創新的加速優化引擎，專為幫助團隊解決復雜的路線規劃問題而設計。它為組織提供了重塑物流、運營研究、運輸和供應鏈優化的能力。NVIDIA cuOpt 支持多種物流優化用例，包括：最終，cuOpt 可以幫助組織增加收入、降低成本并提高客戶滿意度。本文介紹了兩種探索 cuOpt 功能的方法：使用 NVIDIA AI 基礎模型和端點，以及使用 NVIDIA LaunchPad。 NVIDIA AI 基礎模型針對企業生成式 AI 進行了優化。您可以與NVIDIA cuOpt通過 API 和基于用戶界面的演示使用樣本數據。這是一個開放訪問平臺，可在托管環境中使用，因此您不需要使用具有 GPU 加速功能的服務器。即使對于那些可能不熟悉優化的人來說，也很容易開始使用 cuOpt.

Source

]]>