Git Stars Git Stars

#paged-attention Repository

Scopri 6 repository GitHub open source attivi contrassegnati con #paged-attention, che raccolgono un totale di 9,822 stelle (con una media di 1,637 stelle per progetto). Il progetto leader di questo argomento è xlite-dev/Awesome-LLM-Inference, con 5,565 stelle.

6
Totale Repository
9,822
Totale stelle
1,637
Media Stelle/Repo
Linguaggi di programmazione: Python Rust

6 repository in totale

1
xlite-dev/Awesome-LLM-Inference

📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Aggiornato 2026-10-20 📅 Creato 2023-08-27
2
meta-pytorch/attention-gym

Strumenti utili ed esempi per lavorare con la flex-attention

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-07-31
3
triton-inference-server/tensorrtllm_backend

Il backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Aggiornato 2026-11-02 📅 Creato 2023-09-12
4
pegainfer-project/pegainfer

Motore di inferenza LLM puro Rust + CUDA — nessun PyTorch, compatibile con OpenAI, serve da Qwen3 a Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-17
5
EricLBuehler/candle-vllm

Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Aggiornato 2026-10-18 📅 Creato 2023-10-29
6
zengxiao-he/tessera

Da insegnante a tessere — un motore di distillazione e servizio LLM costruito da zero: kernel Triton/CUDA personalizzati, distillazione FSDP, elaborazione batch continua con KV paginato, decodifica speculativa, un gateway Rust, un oracolo JAX e strumenti di interpretabilità.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Aggiornato 2026-10-09 📅 Creato 2026-06-05

Domande frequenti

1

Qual è il repository #paged-attention più popolare su GitHub?

Il progetto open source #paged-attention più alto in classifica su GitHub è xlite-dev/Awesome-LLM-Inference, con 5,565 stelle. 📚Un elenco curato di Awesome LLM/VLM Inference Papers con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉

2

Quali linguaggi di programmazione sono più utilizzati nei repository #paged-attention?

Tra i progetti #paged-attention più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Rust.

3

Come viene calcolata la classifica dei repository #paged-attention?

Monitoriamo 6 repository open source attivi contrassegnati con #paged-attention (500+ stelle), per un totale di 9,822 stelle e una media di 1,637 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.