#kv-cache-optimization Dépôts
Découvrez 9 dépôts GitHub open source actifs associés à #kv-cache-optimization, cumulant 13,361 étoiles au total (soit une moyenne de 1,484 étoiles par projet). Le projet en tête de ce thème est deepseek-ai/DeepSeek-V2, avec 4,988 étoiles.
9 dépôts au total
DeepSeek-V2 : un modèle linguistique Mixture-of-Experts puissant, économique et efficace
Excellents articles de recherche et outils pour la compression des LLM.
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Pour accélérer l'inférence des LLM à long contexte, des calculs d'attention épars approximatifs et dynamiques réduisent la latence d'inférence jusqu'à 10 fois pour le pré-remplissage sur un A100 tout en maintenant la précision.
Gemma 2B avec une longueur de contexte de 10M utilisant l'Infini-attention.
Foire aux questions
Quel est le dépôt #kv-cache-optimization le plus populaire sur GitHub ?
Le projet #kv-cache-optimization open source le mieux classé sur GitHub est deepseek-ai/DeepSeek-V2, avec 4,988 étoiles. DeepSeek-V2 : un modèle linguistique Mixture-of-Experts puissant, économique et efficace
Quels langages de programmation sont les plus utilisés dans les dépôts #kv-cache-optimization ?
Parmi les projets #kv-cache-optimization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook.
Comment le classement des dépôts #kv-cache-optimization est-il calculé ?
Nous suivons 9 dépôts open source actifs associés à #kv-cache-optimization (500+ étoiles), totalisant 13,361 étoiles, avec une moyenne de 1,484 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.