#llm-inference-acceleration Dépôts
Découvrez 6 dépôts GitHub open source actifs associés à #llm-inference-acceleration, cumulant 6,745 étoiles au total (soit une moyenne de 1,124 étoiles par projet). Le projet en tête de ce thème est ByteDance-Seed/Triton-distributed, avec 1,587 étoiles.
6 dépôts au total
[ICML 2024] Rompre la dépendance séquentielle de l'inférence LLM grâce au décodage prospectif
Dépôt officiel Pytorch pour la compression extrême des grands modèles de langage via la quantification additive https://arxiv.org/pdf/2401.06118.pdf et PV-Tuning : Au-delà de l'estimation directe pour la compression extrême des LLM https://arxiv.org/abs/2405.14852
Foire aux questions
Quel est le dépôt #llm-inference-acceleration le plus populaire sur GitHub ?
Le projet #llm-inference-acceleration open source le mieux classé sur GitHub est ByteDance-Seed/Triton-distributed, avec 1,587 étoiles. Compilateur distribué et noyaux parallèles optimisés
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-inference-acceleration ?
Parmi les projets #llm-inference-acceleration les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook.
Comment le classement des dépôts #llm-inference-acceleration est-il calculé ?
Nous suivons 6 dépôts open source actifs associés à #llm-inference-acceleration (500+ étoiles), totalisant 6,745 étoiles, avec une moyenne de 1,124 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.