Git Stars Git Stars

#paged-attention Repositórios

Descubra 6 repositórios ativos de código aberto no GitHub marcados com #paged-attention, acumulando um total de 9,822 estrelas (uma média de 1,637 por projeto). O líder deste tópico é xlite-dev/Awesome-LLM-Inference, com 5,565 estrelas.

6
Total de Repositórios
9,822
Total de estrelas
1,637
Média de Estrelas/Repositório
Linguagens de programação: Python Rust

6 repositórios no total

1
xlite-dev/Awesome-LLM-Inference

📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Atualizado 2026-10-20 📅 Criado 2023-08-27
2
meta-pytorch/attention-gym

Ferramentas úteis e exemplos para trabalhar com flex-attention

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-07-31
3
triton-inference-server/tensorrtllm_backend

O Backend Triton TensorRT-LLM

triton-inference-server
⭐ 944 👤 triton-inference-server Organization 🕐 Atualizado 2026-11-02 📅 Criado 2023-09-12
4
pegainfer-project/pegainfer

Motor de inferência LLM puro Rust + CUDA — sem PyTorch, compatível com OpenAI, atende de Qwen3 a Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-17
5
EricLBuehler/candle-vllm

Plataforma eficiente para inferência e serviço de LLMs locais, incluindo um servidor de API compatível com OpenAI.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Atualizado 2026-10-18 📅 Criado 2023-10-29
6
zengxiao-he/tessera

Do professor aos blocos — um mecanismo de destilação e serviço de LLM construído do zero: kernels Triton/CUDA personalizados, destilação FSDP, processamento em lote contínuo com KV paginado, decodificação especulativa, um gateway Rust, um oráculo JAX e ferramentas de interpretabilidade.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Atualizado 2026-10-09 📅 Criado 2026-06-05

Perguntas Frequentes

1

Qual é o repositório de #paged-attention mais popular no GitHub?

O projeto de código aberto de #paged-attention mais bem classificado no GitHub é xlite-dev/Awesome-LLM-Inference, com 5,565 estrelas. 📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉

2

Quais linguagens de programação são mais usadas nos repositórios de #paged-attention?

Entre os projetos de #paged-attention mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Rust.

3

Como é calculada a classificação dos repositórios de #paged-attention?

Acompanhamos 6 repositórios ativos de código aberto marcados com #paged-attention (com mais de 500 estrelas), totalizando 9,822 estrelas e uma média de 1,637 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.