#model-serving リポジトリ
51
リポジトリ総数
211,758
合計スター数
4,152
リポジトリあたりの平均スター数
プログラミング言語: Go
リポジトリ合計51件
51
ome-projects/ome
Open Model Engine (OME) — LLM のサービング、GPU スケジューリング、モデルのライフサイクル管理を行う Kubernetes オペレーター。SGLang、vLLM、TensorRT-LLM、Triton に対応