Zihao Kong

Zihao Kong 是 NVIDIA TensorRT 團隊的軟件工程師。他專注于在 NVIDIA 數據中心 GPU 和邊緣 Jetson 平臺 GPU 上提供出色的深度學習推理性能。他還在性能分析和分析以及深度學習加速器方面擁有豐富經驗。他擁有加州大學圣地亞哥分校計算機工程學士學位。

Posts by Zihao Kong

數據中心/云端

NVIDIA Blackwell 平臺在 MLPerf Inference v4.1 中創下新的 LLM 推理記錄

大型語言模型 (LLM) 推理是一項全棧挑戰。實現高吞吐量、低延遲推理需要強大的 GPU、高帶寬 GPU 之間的互連、 4 MIN READ