#model-serving 仓库
51
仓库总数
211,758
总星标数
4,152
平均每个仓库星标数
编程语言: Go
共 51 个仓库
51
ome-projects/ome
Open Model Engine (OME) —— 用于大语言模型服务部署、GPU 调度和模型生命周期管理的 Kubernetes Operator。支持 SGLang、vLLM、TensorRT-LLM 和 Triton
共 51 个仓库
Open Model Engine (OME) —— 用于大语言模型服务部署、GPU 调度和模型生命周期管理的 Kubernetes Operator。支持 SGLang、vLLM、TensorRT-LLM 和 Triton