#model-serving Repositórios
51
Total de Repositórios
211,758
Total de estrelas
4,152
Média de Estrelas/Repositório
Linguagens de programação: Go
51 repositórios no total
51
ome-projects/ome
Open Model Engine (OME) — operador Kubernetes para serving de LLMs, agendamento de GPUs e gerenciamento do ciclo de vida dos modelos. Compatível com SGLang, vLLM, TensorRT-LLM e Triton