#pagedattention Dépôts
Découvrez 3 dépôts GitHub open source actifs associés à #pagedattention, cumulant 2,415 étoiles au total (soit une moyenne de 805 étoiles par projet). Le projet en tête de ce thème est jmaczan/tiny-vllm, avec 1,207 étoiles.
3 dépôts au total
Construisez votre propre moteur d'inférence LLM haute performance en C++ et CUDA - une version plus petite de vLLM
WeDLM : Le modèle de langage de diffusion le plus rapide avec une attention causale standard et une compatibilité native avec le cache KV, offrant de réelles accélérations par rapport aux bases optimisées par vLLM.
Foire aux questions
Quel est le dépôt #pagedattention le plus populaire sur GitHub ?
Le projet #pagedattention open source le mieux classé sur GitHub est jmaczan/tiny-vllm, avec 1,207 étoiles. Construisez votre propre moteur d'inférence LLM haute performance en C++ et CUDA - une version plus petite de vLLM
Quels langages de programmation sont les plus utilisés dans les dépôts #pagedattention ?
Parmi les projets #pagedattention les mieux classés sur GitHub, les langages de programmation les plus courants sont C++, Python.
Comment le classement des dépôts #pagedattention est-il calculé ?
Nous suivons 3 dépôts open source actifs associés à #pagedattention (500+ étoiles), totalisant 2,415 étoiles, avec une moyenne de 805 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.