#transformer-optimization Dépôts
Découvrez 7 dépôts GitHub open source actifs associés à #transformer-optimization, cumulant 28,537 étoiles au total (soit une moyenne de 4,076 étoiles par projet). Le projet en tête de ce thème est deepseek-ai/FlashMLA, avec 13,275 étoiles.
7 dépôts au total
Une extension PyTorch : Outils pour un entraînement en précision mixte et distribué facile dans PyTorch
Excellents articles de recherche et outils pour la compression des LLM.
[ICML 2024] Rompre la dépendance séquentielle de l'inférence LLM grâce au décodage prospectif
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Pour accélérer l'inférence des LLM à long contexte, des calculs d'attention épars approximatifs et dynamiques réduisent la latence d'inférence jusqu'à 10 fois pour le pré-remplissage sur un A100 tout en maintenant la précision.
Foire aux questions
Quel est le dépôt #transformer-optimization le plus populaire sur GitHub ?
Le projet #transformer-optimization open source le mieux classé sur GitHub est deepseek-ai/FlashMLA, avec 13,275 étoiles. FlashMLA : noyaux d'attention latente multi-têtes efficaces
Quels langages de programmation sont les plus utilisés dans les dépôts #transformer-optimization ?
Parmi les projets #transformer-optimization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++.
Comment le classement des dépôts #transformer-optimization est-il calculé ?
Nous suivons 7 dépôts open source actifs associés à #transformer-optimization (500+ étoiles), totalisant 28,537 étoiles, avec une moyenne de 4,076 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.