Git Stars Git Stars

#low-latency-inference Repositories

Entdecke 14 aktive Open-Source-GitHub-Repositories, die mit #low-latency-inference getaggt sind und insgesamt 56,906 Sterne gesammelt haben (durchschnittlich 4,064 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist alievk/avatarify-python mit 16,551 Sternen.

14
Gesamtzahl der Repositories
56,906
Gesamtanzahl der Sterne
4,064
Durchschnittliche Sterne/Repo
Programmiersprachen: Python C++ Cuda

Insgesamt 14 Repositories

1
alievk/avatarify-python

Avatare für Zoom, Skype und andere Videokonferenz-Apps.

alievk
⭐ 16,551 Python 👤 alievk User 🕐 Aktualisiert 2024-08-30 📅 Erstellt 2020-04-06
2
kyutai-labs/moshi

Moshi ist ein Sprach-Text-Grundlagenmodell und ein Full-Duplex-Sprachdialogsystem. Es verwendet Mimi, einen hochmodernen Streaming-Neural-Audio-Codec.

kyutai-labs
⭐ 11,573 Python 👤 kyutai-labs Organization 🕐 Aktualisiert 2026-09-09 📅 Erstellt 2024-08-07
3
deepseek-ai/DeepEP

DeepEP: eine effiziente Expert-Parallel-Kommunikationsbibliothek

deepseek-ai
⭐ 10,462 Cuda 👤 deepseek-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-02-17
4
MoonshotAI/Kimi-Audio

Kimi-Audio, ein Open-Source-Audiofundierungsmodell, das sich in Audioverständnis, -generierung und -gesprächen auszeichnet

MoonshotAI
⭐ 4,654 Python 👤 MoonshotAI Organization 🕐 Aktualisiert 2025-06-21 📅 Erstellt 2025-04-25
5
turboderp-org/exllamav2

Eine schnelle Inferenzbibliothek zum Ausführen von LLMs lokal auf modernen Consumer-GPUs

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Aktualisiert 2026-03-04 📅 Erstellt 2023-08-30
6
microsoft/BlingFire

Eine blitzschnelle Zustandsautomat- und Reguläre-Ausdrucks-Manipulationsbibliothek.

microsoft
⭐ 1,877 C++ 👤 microsoft Organization 🕐 Aktualisiert 2024-12-08 📅 Erstellt 2019-03-13
7
ModelTC/LightX2V-Qwen-Image-Lightning

Qwen-Image-Lightning: Beschleunigung des Qwen-Image-Modells durch Destillation

ModelTC
⭐ 1,368 Python 👤 ModelTC Organization 🕐 Aktualisiert 2026-08-31 📅 Erstellt 2025-08-09
8
Ksuriuri/index-tts-vllm

Hinzugefügt vLLM-Unterstützung zu IndexTTS für schnellere Inferenz.

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 Aktualisiert 2026-04-13 📅 Erstellt 2025-05-03
9
dmlc/treelite

Universelles Modellaustausch- und Serialisierungsformat für Entscheidungsbaumwälder

dmlc
⭐ 833 C++ 👤 dmlc Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2017-06-28
10
Passer1072/RookieAI_yolov8

Basierend auf yolov8 implementiertes KI-Selbstzielprojekt

Passer1072
⭐ 831 Python 👤 Passer1072 User 🕐 Aktualisiert 2026-02-04 📅 Erstellt 2024-03-03
11
wenet-e2e/wekws

Produktionsbereite End-to-End-Keyword-Spotting-Toolkit

wenet-e2e
⭐ 776 Python 👤 wenet-e2e Organization 🕐 Aktualisiert 2026-07-23 📅 Erstellt 2021-11-06
13
MDK8888/GPTFast

Beschleunigen Sie Ihre Hugging Face Transformers um das 7,6- bis 9-fache. Nativ für Hugging Face und PyTorch.

MDK8888
⭐ 687 Python 👤 MDK8888 User 🕐 Aktualisiert 2024-08-22 📅 Erstellt 2024-02-18
14
VITA-MLLM/VITA-Audio

✨✨[NeurIPS 2025] VITA-Audio: Schnelle verschränkte kreuzmodale Token-Generierung für ein effizientes großes Sprach-Sprachmodell

VITA-MLLM
⭐ 679 Python 👤 VITA-MLLM Organization 🕐 Aktualisiert 2025-05-24 📅 Erstellt 2025-04-23

Häufig gestellte Fragen

1

Welches ist das beliebteste #low-latency-inference-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#low-latency-inference-Projekt auf GitHub ist alievk/avatarify-python mit 16,551 Sternen. Avatare für Zoom, Skype und andere Videokonferenz-Apps.

2

Welche Programmiersprachen werden in #low-latency-inference-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #low-latency-inference-Projekten auf GitHub sind Python, C++, Cuda die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #low-latency-inference-Repositories berechnet?

Wir verfolgen 14 aktive Open-Source-Repositories, die mit #low-latency-inference getaggt sind (500+ Sterne), mit insgesamt 56,906 Sternen und durchschnittlich 4,064 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.