Houston Hoffman

Houston Hoffman 是 NVIDIA CUDA 驅動程序團隊的高級軟件工程師,專注于高性能工作調度機制,如 CUDA Graphs。他擁有加州大學圣地亞哥分校無線嵌入式系統碩士學位和加州理工大學計算機工程學士學位。

Posts by Houston Hoffman

生成式人工智能/大語言模型

用于直線 CUDA 圖形和其他性能增強的恒定時間啟動

CUDA Graphs 是一種將 GPU 運算定義為圖形(而非一系列流啟動)并將其批量處理的方法。CUDA Graph 將一組 CUDA… 3 MIN READ
生成式人工智能/大語言模型

具有條件節點的 CUDA 圖的動態控制流

CUDA 圖 可以顯著提高性能,因為驅動程序能夠使用任務和依賴關系的完整描述來優化執行。特別是在靜態工作流中,圖形可以提供難以置信的好處, 2 MIN READ