LLM

2025年 5月 20日

NVIDIA Dynamo 新增 GPU 自動縮放、Kubernetes 自動化和網絡優化功能

在 NVIDIA GTC 2025 上，我們宣布推出 NVIDIA Dynamo ，這是一種高吞吐量、低延遲的開源推理服務框架，
2 MIN READ
2025年 5月 18日

NVIDIA ConnectX-8 SuperNIC 通過 PCIe Gen6 連接推動 AI 平臺架構發展

從 大語言模型 (LLM) 到 代理式 AI 推理和 物理 AI ，隨著 AI 工作負載的復雜性和規模不斷增加，人們對更快、
2 MIN READ
2025年 5月 16日

借助 NVIDIA MGX 為 AI 工廠奠定模塊化基礎

生成式 AI、 大語言模型 (LLMs) 和高性能計算的指數級增長給數據中心基礎設施帶來了前所未有的需求。
2 MIN READ
2025年 5月 16日

借助 Mistral Medium 3 和 NVIDIA NIM 構建智能體并了解長文檔

構建功能強大的多模態應用的開發者現在可以使用 Mistral Medium 3，獲得專為企業級性能而設計的全新先進模型。
1 MIN READ
2025年 5月 14日

使用先進的開放式后訓練數據集構建自定義推理模型

合成數據已成為大語言模型 (LLM) 后訓練程序的標準組成部分。使用從單個或一組經商業許可的開源 LLM 中合成生成的大量示例，
2 MIN READ
2025年 5月 14日

借助 NVIDIA Nemo 框架，在遠程數據中心網絡中加速 LLM 訓練

多數據中心訓練對 AI 工廠至關重要，因為預訓練擴展會推動更大模型的創建，導致對計算性能的需求超過單個設施的能力。
2 MIN READ
2025年 5月 12日

在 NVIDIA NeMo 框架的首發日支持下即時運行 Hugging Face 模型

在企業組織努力更大限度地提高其 生成式 AI 投資的價值時，獲取最新的模型開發成果對于持續取得成功至關重要。通過在首發日使用先進的模型，
2 MIN READ
2025年 5月 12日

在 Azure AI Foundry 上使用 NVIDIA NIM 加速 AI 推理

將 NVIDIA NIM 微服務 集成到 Azure AI Foundry ，標志著企業 AI 開發的重大飛躍。
4 MIN READ
2025年 5月 9日

應用具有推理能力的專用大語言模型（LLM）加速電池研究

人工評估材料通常會拖慢電池創新等復雜領域的科學研究，限制了每天只有數十個候選材料的進展。在這篇博客文章中，
3 MIN READ
2025年 5月 8日

云端 Apache Spark 加速深度學習和大語言模型推理

Apache Spark 是用于大數據處理和分析的行業領先平臺。隨著非結構化數據（documents、emails、
4 MIN READ
2025年 5月 7日

使用 NVIDIA NeMo Curator 構建 Nemotron-CC：一個高質量萬億令牌數據集，用于大型語言模型預訓練，源自 Common Crawl

對于想要訓練先進的 大語言模型 (LLM) 的企業開發者而言，整理高質量的預訓練數據集至關重要。為了讓開發者能夠構建高度準確的 LLM，
2 MIN READ
2025年 5月 6日

LLM 推理基準測試指南：NVIDIA GenAI-Perf 和 NIM

這是 LLM 基準測試系列 的第二篇文章，介紹了在使用 NVIDIA NIM 部署 Meta Llama 3 模型 時，
4 MIN READ
2025年 5月 1日

借助 NVIDIA cuBLAS 12.9 提高矩陣乘法速度和靈活性

NVIDIA CUDA-X 數學庫助力開發者為 AI、科學計算、數據處理等領域構建加速應用。
3 MIN READ
2025年 4月 29日

構建應用程序以安全使用 KV 緩存

在與基于 Transformer 的模型 (如 大語言模型 (LLM) 和 視覺語言模型 (VLM)) 交互時，輸入結構會塑造模型的輸出。
2 MIN READ
2025年 4月 28日

借助代理式 AI 系統推進網絡安全運營

被動式 AI 時代已經過去。一個新時代正在開始，AI 不僅能做出響應，還能思考、計劃和行動。 大語言模型 (LLM) 的快速發展釋放了…
3 MIN READ
2025年 4月 24日

使用 NVIDIA NIM 對游戲進行代理式 LLM 和 VLM 推理基準測試

這是 LLM 基準測試系列的第一篇文章，介紹了在使用 NVIDIA NIM 部署 Meta Llama 3 模型時，
2 MIN READ