Posts by Vinod Grover
開發與優化
2025年 6月 13日
使用 FlashInfer 運行 NVIDIA 的高性能 LLM 推理內核
出色的 LLM 推理需要兩個關鍵要素：速度和開發者速度。速度是指通過使用高度優化的計算內核算法，最大限度地提高底層硬件的效率。
2 MIN READ
高性能計算
2018年 1月 15日
使用 CUDA 扭曲級別基本體
NVIDIA GPUs 以 SIMT （單指令，多線程）方式執行稱為 warps 的線程組。許多 CUDA 程序通過利用 warp…
5 MIN READ