Git Stars Git Stars

#llm-inference Repository

202
Totale Repository
1.0M
Totale stelle
5,180
Media Stelle/Repo
Linguaggi di programmazione: Python C++

202 repository in totale

201
Chen-zexi/vllm-cli

Uno strumento di interfaccia a riga di comando per servire LLM utilizzando vLLM.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 Aggiornato 2026-01-25 📅 Creato 2025-08-14
202
vectorch-ai/ScaleLLM

Un sistema di inferenza ad alte prestazioni per modelli linguistici di grandi dimensioni, progettato per ambienti di produzione.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Aggiornato 2025-12-19 📅 Creato 2023-07-24