Git Stars Git Stars

#llm-inference Repositories

202
Gesamtzahl der Repositories
1.0M
Gesamtanzahl der Sterne
5,180
Durchschnittliche Sterne/Repo
Programmiersprachen: Python C++

Insgesamt 202 Repositories

201
Chen-zexi/vllm-cli

Ein Befehlszeilenschnittstellen-Tool zum Bereitstellen von LLMs mit vLLM.

Chen-zexi
⭐ 507 Python 👤 Chen-zexi User 🕐 Aktualisiert 2026-01-25 📅 Erstellt 2025-08-14
202
vectorch-ai/ScaleLLM

Ein High-Performance-Inferenzsystem für große Sprachmodelle, das für Produktionsumgebungen entwickelt wurde.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Aktualisiert 2025-12-19 📅 Erstellt 2023-07-24