#ring-attention Dépôts
Découvrez 3 dépôts GitHub open source actifs associés à #ring-attention, cumulant 2,502 étoiles au total (soit une moyenne de 834 étoiles par projet). Le projet en tête de ce thème est zhuzilin/ring-flash-attention, avec 1,054 étoiles.
3 dépôts au total
Optimisation de la mémoire et recettes d'entraînement pour extrapoler la longueur du contexte des modèles linguistiques à 1 million de jetons, avec un matériel minimal.
USP : Attention Séquentielle Unifiée (a.k.a. Hybride, 2D) pour l'Entraînement et l'Inférence de Modèles Transformer à Contexte Long
Foire aux questions
Quel est le dépôt #ring-attention le plus populaire sur GitHub ?
Le projet #ring-attention open source le mieux classé sur GitHub est zhuzilin/ring-flash-attention, avec 1,054 étoiles. Implémentation de l'attention en anneau avec flash attention
Quels langages de programmation sont les plus utilisés dans les dépôts #ring-attention ?
Parmi les projets #ring-attention les mieux classés sur GitHub, les langages de programmation les plus courants sont Python.
Comment le classement des dépôts #ring-attention est-il calculé ?
Nous suivons 3 dépôts open source actifs associés à #ring-attention (500+ étoiles), totalisant 2,502 étoiles, avec une moyenne de 834 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.