#model-serving Репозитории
51
Всего репозиториев
211,758
Всего звезд
4,152
Среднее количество звезд на репозиторий
Языки программирования: Go
Всего репозиториев: 51
51
ome-projects/ome
Open Model Engine (OME) — оператор Kubernetes для предоставления LLM-сервисов, планирования использования GPU и управления жизненным циклом моделей. Поддерживает SGLang, vLLM, TensorRT-LLM и Triton