劉霖

阿里云容器服務高級開發工程師,負責容器服務和云原生AI解決方案研發。在加入阿里云之前,他參與了百度智能云容器服務平臺的搭建。他對MLOps、Kubernetes等相關的主題感興趣。

Posts by 劉霖

Uncategorized

使用 NVIDIA NIM 在阿里云容器服務(ACK)中加速 LLM 推理

大語言模型(LLM)是近年來發展迅猛并且激動人心的熱點話題,引入了許多新場景,滿足了各行各業的需求。隨著開源模型能力的不斷增強, 4 MIN READ