Git Stars Git Stars

#low-latency-inference Repository

Scopri 14 repository GitHub open source attivi contrassegnati con #low-latency-inference, che raccolgono un totale di 56,906 stelle (con una media di 4,064 stelle per progetto). Il progetto leader di questo argomento è alievk/avatarify-python, con 16,551 stelle.

14
Totale Repository
56,906
Totale stelle
4,064
Media Stelle/Repo
Linguaggi di programmazione: Python C++ Cuda

14 repository in totale

1
alievk/avatarify-python

Avatar per Zoom, Skype e altre app di videoconferenza.

alievk
⭐ 16,551 Python 👤 alievk User 🕐 Aggiornato 2024-08-30 📅 Creato 2020-04-06
2
kyutai-labs/moshi

Moshi è un modello di base speech-text e un framework di dialogo vocale full-duplex. Utilizza Mimi, un codec audio neurale in streaming all'avanguardia.

kyutai-labs
⭐ 11,573 Python 👤 kyutai-labs Organization 🕐 Aggiornato 2026-09-09 📅 Creato 2024-08-07
3
deepseek-ai/DeepEP

DeepEP: una libreria di comunicazione esperto-parallela efficiente

deepseek-ai
⭐ 10,462 Cuda 👤 deepseek-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-02-17
4
MoonshotAI/Kimi-Audio

Kimi-Audio, un modello di fondazione audio open-source eccellente nella comprensione, generazione e conversazione audio

MoonshotAI
⭐ 4,654 Python 👤 MoonshotAI Organization 🕐 Aggiornato 2025-06-21 📅 Creato 2025-04-25
5
turboderp-org/exllamav2

Una libreria di inferenza veloce per eseguire LLM localmente su moderne GPU di classe consumer

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Aggiornato 2026-03-04 📅 Creato 2023-08-30
6
microsoft/BlingFire

Una libreria per la manipolazione di macchine a stati finiti e espressioni regolari, veloce come un fulmine.

microsoft
⭐ 1,877 C++ 👤 microsoft Organization 🕐 Aggiornato 2024-12-08 📅 Creato 2019-03-13
7
ModelTC/LightX2V-Qwen-Image-Lightning

Qwen-Image-Lightning: Accelerazione del modello Qwen-Image con distillazione

ModelTC
⭐ 1,368 Python 👤 ModelTC Organization 🕐 Aggiornato 2026-08-31 📅 Creato 2025-08-09
8
Ksuriuri/index-tts-vllm

Aggiunto il supporto vLLM a IndexTTS per inferenze più veloci.

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 Aggiornato 2026-04-13 📅 Creato 2025-05-03
9
dmlc/treelite

Formato universale di scambio e serializzazione di modelli per foreste di alberi decisionali

dmlc
⭐ 833 C++ 👤 dmlc Organization 🕐 Aggiornato 2026-11-17 📅 Creato 2017-06-28
10
Passer1072/RookieAI_yolov8

Progetto di auto-mira AI basato su yolov8

Passer1072
⭐ 831 Python 👤 Passer1072 User 🕐 Aggiornato 2026-02-04 📅 Creato 2024-03-03
11
wenet-e2e/wekws

Toolkit di Individuazione di Parole Chiave End-to-End pronto per la Produzione

wenet-e2e
⭐ 776 Python 👤 wenet-e2e Organization 🕐 Aggiornato 2026-07-23 📅 Creato 2021-11-06
13
MDK8888/GPTFast

Accelera i tuoi Hugging Face Transformers da 7,6 a 9 volte. Nativo per Hugging Face e PyTorch.

MDK8888
⭐ 687 Python 👤 MDK8888 User 🕐 Aggiornato 2024-08-22 📅 Creato 2024-02-18
14
VITA-MLLM/VITA-Audio

✨✨[NeurIPS 2025] VITA-Audio: Generazione Veloce di Token Cross-Modali Interfoliati per un Efficiente Modello Linguistico-Vocale di Grandi Dimensioni

VITA-MLLM
⭐ 679 Python 👤 VITA-MLLM Organization 🕐 Aggiornato 2025-05-24 📅 Creato 2025-04-23

Domande frequenti

1

Qual è il repository #low-latency-inference più popolare su GitHub?

Il progetto open source #low-latency-inference più alto in classifica su GitHub è alievk/avatarify-python, con 16,551 stelle. Avatar per Zoom, Skype e altre app di videoconferenza.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #low-latency-inference?

Tra i progetti #low-latency-inference più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++, Cuda.

3

Come viene calcolata la classifica dei repository #low-latency-inference?

Monitoriamo 14 repository open source attivi contrassegnati con #low-latency-inference (500+ stelle), per un totale di 56,906 stelle e una media di 4,064 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.