BoYang Hsueh

BoYang Hsueh 于 2019 年加入 NVIDIA ,擔任開發者技術工程師。他專注于大型語言模型推理優化,并擔任 NVIDIA TensorRT-LLM 的核心開發者。

Posts by BoYang Hsueh

生成式人工智能/大語言模型

借助 NVIDIA NIM 無縫部署大量 LoRA Adapters

最新的先進基礎大型語言模型 (LLM) 擁有數十億個參數,并已在數萬億個輸入文本標記上進行了預訓練。它們通常在各種用例上都取得了驚人的成果, 2 MIN READ