Git Stars Git Stars

#llm-inference-acceleration Dépôts

Découvrez 6 dépôts GitHub open source actifs associés à #llm-inference-acceleration, cumulant 6,745 étoiles au total (soit une moyenne de 1,124 étoiles par projet). Le projet en tête de ce thème est ByteDance-Seed/Triton-distributed, avec 1,587 étoiles.

6
Total des Dépôts
6,745
Nombre total d'étoiles
1,124
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python Jupyter Notebook
1
ByteDance-Seed/Triton-distributed

Compilateur distribué et noyaux parallèles optimisés

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-04-02
2
hao-ai-lab/LookaheadDecoding

[ICML 2024] Rompre la dépendance séquentielle de l'inférence LLM grâce au décodage prospectif

hao-ai-lab
⭐ 1,337 Python 👤 hao-ai-lab Organization 🕐 Mis à jour 2025-03-06 📅 Créé 2023-11-21
3
Vahe1994/AQLM

Dépôt officiel Pytorch pour la compression extrême des grands modèles de langage via la quantification additive https://arxiv.org/pdf/2401.06118.pdf et PV-Tuning : Au-delà de l'estimation directe pour la compression extrême des LLM https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Mis à jour 2026-02-26 📅 Créé 2024-01-12
5
skapadia3214/groq-moa

Mélange d'agents utilisant Groq

skapadia3214
⭐ 940 Python 👤 skapadia3214 User 🕐 Mis à jour 2024-08-09 📅 Créé 2024-06-17

Foire aux questions

1

Quel est le dépôt #llm-inference-acceleration le plus populaire sur GitHub ?

Le projet #llm-inference-acceleration open source le mieux classé sur GitHub est ByteDance-Seed/Triton-distributed, avec 1,587 étoiles. Compilateur distribué et noyaux parallèles optimisés

2

Quels langages de programmation sont les plus utilisés dans les dépôts #llm-inference-acceleration ?

Parmi les projets #llm-inference-acceleration les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook.

3

Comment le classement des dépôts #llm-inference-acceleration est-il calculé ?

Nous suivons 6 dépôts open source actifs associés à #llm-inference-acceleration (500+ étoiles), totalisant 6,745 étoiles, avec une moyenne de 1,124 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.