Ganesh Kudleppanavar

Ganesh Kudleppanavar 是 NVIDIA 的系統軟件經理，致力于優化機器學習和生成式 AI 模型的性能。他領導 Triton 工具團隊，利用功能強大的 Triton 工具對這些模型進行細致的基準測試，確保這些模型在各種應用程序中得到高效部署和無縫利用。Ganesh 擁有加州州立大學長灘分校電氣工程碩士學位。

Posts by Ganesh Kudleppanavar

數據中心/云端 2025年 5月 6日

LLM 推理基準測試指南：NVIDIA GenAI-Perf 和 NIM

這是 LLM 基準測試系列 的第二篇文章，介紹了在使用 NVIDIA NIM 部署 Meta Llama 3 模型 時， 4 MIN READ
數據中心/云端 2025年 4月 2日

LLM 基準測試：基本概念

在過去幾年中，作為廣泛的 AI 革命的一部分， 生成式 AI 和 大語言模型 (LLMs) 越來越受歡迎。 4 MIN READ
數據中心/云端 2024年 8月 1日

使用 NVIDIA GenAI-Perf 和 OpenAI 兼容 API 測量生成式 AI 模型性能

NVIDIA 提供 Perf Analyzer 和 Model Analyzer 等工具，幫助機器學習工程師測量和平衡延遲與吞吐量之間的權衡， 2 MIN READ