#model-serving Repositories
51
Gesamtzahl der Repositories
211,758
Gesamtanzahl der Sterne
4,152
Durchschnittliche Sterne/Repo
Programmiersprachen: Go
Insgesamt 51 Repositories
51
ome-projects/ome
Open Model Engine (OME) — Kubernetes-Operator für das Bereitstellen von LLM-Diensten, die GPU-Planung und das Management des Modelllebenszyklus. Unterstützt SGLang, vLLM, TensorRT-LLM und Triton