Git Stars Git Stars

#llm-inference-acceleration Repository

Scopri 6 repository GitHub open source attivi contrassegnati con #llm-inference-acceleration, che raccolgono un totale di 6,745 stelle (con una media di 1,124 stelle per progetto). Il progetto leader di questo argomento è ByteDance-Seed/Triton-distributed, con 1,587 stelle.

6
Totale Repository
6,745
Totale stelle
1,124
Media Stelle/Repo
Linguaggi di programmazione: Python Jupyter Notebook

6 repository in totale

1
ByteDance-Seed/Triton-distributed

Compilatore distribuito e kernel paralleli ottimizzati

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-04-02
2
hao-ai-lab/LookaheadDecoding

[ICML 2024] Interrompere la dipendenza sequenziale dell'inferenza LLM utilizzando la decodifica lookahead

hao-ai-lab
⭐ 1,337 Python 👤 hao-ai-lab Organization 🕐 Aggiornato 2025-03-06 📅 Creato 2023-11-21
3
Vahe1994/AQLM

Repository ufficiale Pytorch per la compressione estrema di Large Language Models tramite quantizzazione additiva https://arxiv.org/pdf/2401.06118.pdf e PV-Tuning: Oltre la stima diretta per la compressione estrema di LLM https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Aggiornato 2026-02-26 📅 Creato 2024-01-12
5
skapadia3214/groq-moa

Misto di agenti che utilizzano Groq

skapadia3214
⭐ 940 Python 👤 skapadia3214 User 🕐 Aggiornato 2024-08-09 📅 Creato 2024-06-17

Domande frequenti

1

Qual è il repository #llm-inference-acceleration più popolare su GitHub?

Il progetto open source #llm-inference-acceleration più alto in classifica su GitHub è ByteDance-Seed/Triton-distributed, con 1,587 stelle. Compilatore distribuito e kernel paralleli ottimizzati

2

Quali linguaggi di programmazione sono più utilizzati nei repository #llm-inference-acceleration?

Tra i progetti #llm-inference-acceleration più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook.

3

Come viene calcolata la classifica dei repository #llm-inference-acceleration?

Monitoriamo 6 repository open source attivi contrassegnati con #llm-inference-acceleration (500+ stelle), per un totale di 6,745 stelle e una media di 1,124 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.