Git Stars Git Stars

#llm-inference-serving Repositories

Entdecke 1 aktive Open-Source-GitHub-Repositories, die mit #llm-inference-serving getaggt sind und insgesamt 742 Sterne gesammelt haben (durchschnittlich 742 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist EricLBuehler/candle-vllm mit 742 Sternen.

1
Gesamtzahl der Repositories
742
Gesamtanzahl der Sterne
742
Durchschnittliche Sterne/Repo
Programmiersprachen: Rust

Insgesamt 1 Repositories

1
EricLBuehler/candle-vllm

Effiziente Plattform für die Inferenz und das Serving lokaler LLMs, einschließlich eines OpenAI-kompatiblen API-Servers.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Aktualisiert 2026-10-18 📅 Erstellt 2023-10-29

Häufig gestellte Fragen

1

Welches ist das beliebteste #llm-inference-serving-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llm-inference-serving-Projekt auf GitHub ist EricLBuehler/candle-vllm mit 742 Sternen. Effiziente Plattform für die Inferenz und das Serving lokaler LLMs, einschließlich eines OpenAI-kompatiblen API-Servers.

2

Welche Programmiersprachen werden in #llm-inference-serving-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llm-inference-serving-Projekten auf GitHub sind Rust die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llm-inference-serving-Repositories berechnet?

Wir verfolgen 1 aktive Open-Source-Repositories, die mit #llm-inference-serving getaggt sind (500+ Sterne), mit insgesamt 742 Sternen und durchschnittlich 742 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.