Indrajit Maloji Bhosale

Indrajit Maloji Bhosale 是 NVIDIA 的高級系統軟件工程師，作為 NVIDIA Triton 推理服務器團隊的一員從事深度學習系統和框架的研究。他擁有網絡操作系統和存儲系統的背景。他擁有卡內基梅隆大學計算機系統和網絡碩士學位。

Posts by Indrajit Maloji Bhosale

對話式人工智能 2024年 10月 22日

利用 NVIDIA Triton 和 NVIDIA TensorRT-LLM 及 Kubernetes 實現 LLM 擴展

大語言模型 (LLMs) 已廣泛應用于聊天機器人、內容生成、摘要、分類、翻譯等領域。State-of-the-art LLMs 和基礎模型如… 5 MIN READ