#paged-attention Dépôts
Découvrez 6 dépôts GitHub open source actifs associés à #paged-attention, cumulant 9,822 étoiles au total (soit une moyenne de 1,637 étoiles par projet). Le projet en tête de ce thème est xlite-dev/Awesome-LLM-Inference, avec 5,565 étoiles.
6 dépôts au total
📚Une liste organisée d'articles impressionnants sur l'inférence LLM/VLM avec codes : Flash-Attention, Paged-Attention, WINT8/4, Parallélisme, etc.🎉
Moteur d'inférence LLM pur Rust + CUDA — pas de PyTorch, compatible OpenAI, sert de Qwen3 à Kimi-K2
Plateforme efficace pour l'inférence et le service des LLM locaux, y compris un serveur API compatible avec OpenAI.
Du professeur aux tuiles — un moteur de distillation et de service LLM construit de zéro : noyaux Triton/CUDA personnalisés, distillation FSDP, traitement par lots continu avec KV paginé, décodage spéculatif, une passerelle Rust, un oracle JAX et des outils d'interprétabilité.
Foire aux questions
Quel est le dépôt #paged-attention le plus populaire sur GitHub ?
Le projet #paged-attention open source le mieux classé sur GitHub est xlite-dev/Awesome-LLM-Inference, avec 5,565 étoiles. 📚Une liste organisée d'articles impressionnants sur l'inférence LLM/VLM avec codes : Flash-Attention, Paged-Attention, WINT8/4, Parallélisme, etc.🎉
Quels langages de programmation sont les plus utilisés dans les dépôts #paged-attention ?
Parmi les projets #paged-attention les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Rust.
Comment le classement des dépôts #paged-attention est-il calculé ?
Nous suivons 6 dépôts open source actifs associés à #paged-attention (500+ étoiles), totalisant 9,822 étoiles, avec une moyenne de 1,637 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.