Git Stars Git Stars

#paged-attention Dépôts

Découvrez 6 dépôts GitHub open source actifs associés à #paged-attention, cumulant 9,822 étoiles au total (soit une moyenne de 1,637 étoiles par projet). Le projet en tête de ce thème est xlite-dev/Awesome-LLM-Inference, avec 5,565 étoiles.

6
Total des Dépôts
9,822
Nombre total d'étoiles
1,637
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python Rust
1
xlite-dev/Awesome-LLM-Inference

📚Une liste organisée d'articles impressionnants sur l'inférence LLM/VLM avec codes : Flash-Attention, Paged-Attention, WINT8/4, Parallélisme, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Mis à jour 2026-10-20 📅 Créé 2023-08-27
2
meta-pytorch/attention-gym

Outils et exemples utiles pour travailler avec flex-attention

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-07-31
3
triton-inference-server/tensorrtllm_backend

Le backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Mis à jour 2026-11-02 📅 Créé 2023-09-12
4
pegainfer-project/pegainfer

Moteur d'inférence LLM pur Rust + CUDA — pas de PyTorch, compatible OpenAI, sert de Qwen3 à Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-17
5
EricLBuehler/candle-vllm

Plateforme efficace pour l'inférence et le service des LLM locaux, y compris un serveur API compatible avec OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Mis à jour 2026-10-18 📅 Créé 2023-10-29
6
zengxiao-he/tessera

Du professeur aux tuiles — un moteur de distillation et de service LLM construit de zéro : noyaux Triton/CUDA personnalisés, distillation FSDP, traitement par lots continu avec KV paginé, décodage spéculatif, une passerelle Rust, un oracle JAX et des outils d'interprétabilité.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Mis à jour 2026-10-09 📅 Créé 2026-06-05

Foire aux questions

1

Quel est le dépôt #paged-attention le plus populaire sur GitHub ?

Le projet #paged-attention open source le mieux classé sur GitHub est xlite-dev/Awesome-LLM-Inference, avec 5,565 étoiles. 📚Une liste organisée d'articles impressionnants sur l'inférence LLM/VLM avec codes : Flash-Attention, Paged-Attention, WINT8/4, Parallélisme, etc.🎉

2

Quels langages de programmation sont les plus utilisés dans les dépôts #paged-attention ?

Parmi les projets #paged-attention les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Rust.

3

Comment le classement des dépôts #paged-attention est-il calculé ?

Nous suivons 6 dépôts open source actifs associés à #paged-attention (500+ étoiles), totalisant 9,822 étoiles, avec une moyenne de 1,637 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.