Posts by Houston Hoffman
生成式人工智能/大語言模型
2024年 9月 11日
用于直線 CUDA 圖形和其他性能增強的恒定時間啟動
CUDA Graphs 是一種將 GPU 運算定義為圖形(而非一系列流啟動)并將其批量處理的方法。CUDA Graph 將一組 CUDA…
3 MIN READ
生成式人工智能/大語言模型
2024年 5月 10日
具有條件節點的 CUDA 圖的動態控制流
CUDA 圖 可以顯著提高性能,因為驅動程序能夠使用任務和依賴關系的完整描述來優化執行。特別是在靜態工作流中,圖形可以提供難以置信的好處,
2 MIN READ