Anima Anandkumar – NVIDIA 技術博客

用球面傅立葉神經算子模擬地球大氣層

Thu, 27 Jul 2023 03:14:41 +0000

基于機器學習的天氣預測已經成為傳統數值天氣預測（NWP）模型的有力補充。例如，NVIDIA FourCastNet已經證明，生成天氣預報的計算時間可以從幾個小時縮短到幾秒鐘，這對當前基于NWP的工作流程帶來了重大改進。傳統方法通常根據第一性原理制定，并需要時間步限制以保證基礎數值方法的準確性。而基于 ML 的方法沒有這樣的限制，其統一的內存訪問模式非常適合 GPU。然而，這些方法純粹是數據驅動的，你可能會問：在這篇文章中，我們討論了球面傅立葉神經算子（SFNO）、球面上的物理系統、對稱性的重要性，以及如何使用SFNO的實現和球面諧波變換（SHT）。如果你想了解更多關于這個數學主題的信息，請參閱 ICML 論文，Spherical Fourier Neural Operators: Learning Stable Dynamics on the Sphere。

Source

]]>

利用碳捕獲和存儲數字孿生實現凈零戰略

Thu, 06 Apr 2023 02:57:57 +0000

一氧化碳捕獲和儲存技術捕獲 CO2從其生產來源，對其進行壓縮，通過管道或船舶運輸，并將其儲存在地下。 CCS 使各行業能夠大幅降低 CO2是幫助工業制造商實現凈零排放目標的有力工具。在許多重工業過程中，溫室氣體（ GHG ）排放無法在規定的時間內避免，必須使用 CCS 解決方案，如水泥、化肥和化工行業。在全球范圍內減少溫室氣體排放的情景突出了 CCS 在能源組合中的作用。為了達到 2 ° C 的目標，根據IEA’s sustainable development scenario，超過 1000 萬噸 CO2到 2030 年，每年都必須進行儲存，從現在到 2050 年，必須部署大量 CCS 裝置。如今，約有 30 個大型裝置投入運行，注入了約 4000 萬噸 CO2每年。這項技術的發展將在未來十年迅速增長，但這一有前景的解決方案尚未證明它可以以可接受的成本實現工業化。

Source

]]>

使用 Model Card++ 增強 AI 透明度和道德考量

Mon, 19 Sep 2022 03:27:00 +0000

AI 模型卡是一份詳細說明機器學習（ ML ）模型如何工作的文檔。模型卡提供了有關 ML 模型元數據的詳細信息，包括它所基于的數據集、它所接受培訓的性能度量以及深度學習培訓方法本身。本文將帶您了解 AI 模型卡的當前實踐，以及 NVIDIA 計劃如何通過模型卡++（增強的下一代 AI 模型卡來提升它們。在 2019 年的論文 Model Cards for Model Reporting 中，包括 Margaret Mitchell 、 Timnit Gebru 和 Lucy Vasserman 在內的一群數據科學家試圖為 AI 模型創建一個文檔標準。他們的主要動機是通過披露有關人工智能模型的基本信息，促進人工智能模型開發過程中的透明度和問責制。這些信息包括誰開發了模型、預期用例和范圍外的應用程序、預期用戶、模型如何與不同的人口群體一起執行、關于用于培訓和驗證模型的數據的信息、

Source

]]>

用機器學習加速減緩氣候變化：以碳儲存為例

Fri, 08 Apr 2022 09:25:00 +0000

減緩氣候變化就是減少溫室氣體（ GHG ）排放。全球目標是實現凈零排放，這意味著平衡產生的溫室氣體排放量和從大氣中清除的溫室氣體排放量。一方面，這意味著通過使用低碳技術和能源效率來減少排放。另一方面，這意味著部署碳儲存等負排放技術，這也是本文的主題。碳捕獲和儲存（ CCS ）指的是一組有助于在關鍵電力部門（如煤炭和天然氣發電廠和工業工廠）的源頭直接減少排放的技術。對于無法直接減少的排放，無論是因為技術上的困難還是消除成本過高， CCS 都是從大氣中去除碳的重要凈負技術方法的基礎。如果未在現場使用，請與可通過管道、船舶、鐵路或卡車進行壓縮和運輸。它可以用于一系列應用，或注入深部地質地層（包括枯竭的油氣藏或鹽層），以捕獲二氧化碳用于永久儲存。 CCS 獨特的雙重能力使其成為緩解氣候變化的能源轉型技術中的一個重要解決方案。除了 CCS 在能源轉型中發揮的作用外，

Source

]]>

用 Megatron-CNTRL 為語言模型添加外部知識和可控性

Tue, 06 Oct 2020 08:38:00 +0000

大型語言模型，如 Megatron 和 GPT-3 正在改變人工智能。我們對能夠利用這些模型來創建更好的對話式人工智能的應用程序感到興奮。生成語言模型在會話式人工智能應用中存在的一個主要問題是缺乏可控制性和與真實世界事實的一致性。在這項工作中，我們試圖通過使我們的大型語言模型既可控又與外部知識庫保持一致來解決這個問題。縮放語言模型提供了更高的流暢性、可控性和一致性。為了緩解一致性和可控性問題，已經做了幾次嘗試。 Guan et al.（ 2020 年）通過微調引入常識知識來解決一致性問題。然而，這種天真的方法缺乏可解釋性和靈活性，無法決定何時以及從外部知識庫中合并什么。控制文本生成的許多功能都是可取的。最近，人們開發了不同的方法來控制生成，例如使用預先添加到模型輸入的控制代碼和以目標演員之前的談話為條件。然而，這些控制條件是預先定義好的，并且其能力有限。

Source

]]>