Models / Libraries / Frameworks

2025年 7月 17日

大規模特征工程：利用 NVIDIA CUDA-X 數據科學優化半導體制造的機器學習模型

在上一篇博文中，我們介紹了芯片制造和運營中的預測建模設置，重點介紹了數據集不平衡等常見挑戰，以及對更細致的評估指標的需求。
2 MIN READ
2025年 7月 16日

CUTLASS：基于張量和空間微核處理多維數據的原理抽象

在生成式 AI 時代，充分發揮 GPU 的潛力對于訓練更好的模型和大規模服務用戶至關重要。通常，
4 MIN READ
2025年 7月 16日

CUTLASS 3.x：用于 GEMM 內核設計的正交、可重用和組合抽象

GPU 上的 GEMM 優化是一個模塊化問題。高性能實現需要指定超參數，例如圖塊形狀、數學和復制指令以及線程束專用方案。
3 MIN READ
2025年 7月 14日

借助 NVIDIA Riva TTS 增強多語種類似人類的語音和語音克隆

雖然語音 AI 用于構建數字助理和語音智能體，但其影響遠遠超出這些應用。文本轉語音 (TTS) 和自動語音識別 (ASR)…
3 MIN READ
2025年 7月 14日

借助 NCCL 2.27 實現快速推理和彈性訓練

隨著 AI 工作負載的擴展，快速可靠的 GPU 通信變得至關重要，這不僅適用于訓練，而且越來越適用于大規模推理。
3 MIN READ
2025年 7月 11日

使用 NVIDIA Earth-2 預測兩周以上的天氣

能夠預測極端天氣事件至關重要，因為此類條件變得更加常見且更具破壞性。次季節性氣候預測 (預測未來兩周或兩周以上的天氣)…
2 MIN READ
2025年 7月 9日

使用 NVIDIA NeMo-RL 進行強化學習：通過 GRPO 復制 DeepScaleR 配方

強化學習 (RL) 是交互式 AI 的支柱。它對于教導智能體推理和從人類偏好中學習、實現多輪工具使用等至關重要。
2 MIN READ
2025年 7月 7日

提出一個維基百科規模的問題：如何利用數百萬 token 的實時推理使世界更加智能

現代 AI 應用越來越依賴于將龐大的參數數量與數百萬個令牌的上下文窗口相結合的模型。無論是經過數月對話的 AI 智能體、
3 MIN READ
2025年 7月 1日

適用于有效 FP8 訓練的按張量和按塊擴展策略

在本博文中，我們將分解主要的 FP8 縮放策略 (按張量縮放、延遲和電流縮放以及按塊縮放 (包括 Blackwell 支持的 MXFP8…
2 MIN READ
2025年 6月 26日

在 NVIDIA Jetson 和 RTX 上運行 Google DeepMind 的 Gemma 3n

截至今日，NVIDIA 現已支持在 NVIDIA RTX 和 Jetson 上全面推出 Gemma 3n。上個月，
1 MIN READ
2025年 6月 18日

NVIDIA 在制造和運營領域的 AI 應用：借助 NVIDIA CUDA-X 數據科學加速 ML 模型

從晶圓制造和電路探測到封裝芯片測試，NVIDIA 利用數據科學和機器學習來優化芯片制造和運營工作流程。這些階段會產生 TB 級的數據，
3 MIN READ
2025年 6月 18日

搶先體驗 NVIDIA GB200 系統如何幫助 LMarena 構建評估 LLM 的模型

在 NVIDIA 和 Nebius 的幫助下，加州大學伯克利分校的 LMArena 可以更輕松地了解哪些大語言模型在特定任務中表現出色。
2 MIN READ
2025年 6月 18日

借助 NVIDIA NIM 推理微服務和 ITMonitron 實現實時 IT 事故檢測和情報

在當今快節奏的 IT 環境中，并非所有事件都始于明顯的警報。這些問題可能始于細微的分散信號、錯過的警報、悄無聲息的 SLO 漏洞，
2 MIN READ
2025年 6月 13日

使用 FlashInfer 運行 NVIDIA 的高性能 LLM 推理內核

出色的 LLM 推理需要兩個關鍵要素：速度和開發者速度。速度是指通過使用高度優化的計算內核算法，最大限度地提高底層硬件的效率。
2 MIN READ
2025年 6月 12日

借助 MMseqs2-GPU 和 NVIDIA NIM 加速蛋白質科學序列對齊

蛋白質序列對齊 (比較蛋白質序列的相似性) 是現代生物學和醫學的基礎。它通過重建進化關系 (技術上稱為 homology…
3 MIN READ
2025年 6月 11日

使用 NVIDIA Cosmos Predict-2 構建自定義物理人工智能基礎模型

構建更智能的機器人和自動駕駛汽車 (AV) 始于能夠理解現實世界動態的物理 AI 模型。這些模型發揮著兩個關鍵作用：
2 MIN READ