#llm-inference-serving Repositories
Entdecke 1 aktive Open-Source-GitHub-Repositories, die mit #llm-inference-serving getaggt sind und insgesamt 742 Sterne gesammelt haben (durchschnittlich 742 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist EricLBuehler/candle-vllm mit 742 Sternen.
Insgesamt 1 Repositories
Effiziente Plattform für die Inferenz und das Serving lokaler LLMs, einschließlich eines OpenAI-kompatiblen API-Servers.
Häufig gestellte Fragen
Welches ist das beliebteste #llm-inference-serving-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-inference-serving-Projekt auf GitHub ist EricLBuehler/candle-vllm mit 742 Sternen. Effiziente Plattform für die Inferenz und das Serving lokaler LLMs, einschließlich eines OpenAI-kompatiblen API-Servers.
Welche Programmiersprachen werden in #llm-inference-serving-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-inference-serving-Projekten auf GitHub sind Rust die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-inference-serving-Repositories berechnet?
Wir verfolgen 1 aktive Open-Source-Repositories, die mit #llm-inference-serving getaggt sind (500+ Sterne), mit insgesamt 742 Sternen und durchschnittlich 742 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.