#paged-attention Repositórios
Descubra 6 repositórios ativos de código aberto no GitHub marcados com #paged-attention, acumulando um total de 9,822 estrelas (uma média de 1,637 por projeto). O líder deste tópico é xlite-dev/Awesome-LLM-Inference, com 5,565 estrelas.
6 repositórios no total
📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉
Motor de inferência LLM puro Rust + CUDA — sem PyTorch, compatível com OpenAI, atende de Qwen3 a Kimi-K2
Plataforma eficiente para inferência e serviço de LLMs locais, incluindo um servidor de API compatível com OpenAI.
Do professor aos blocos — um mecanismo de destilação e serviço de LLM construído do zero: kernels Triton/CUDA personalizados, destilação FSDP, processamento em lote contínuo com KV paginado, decodificação especulativa, um gateway Rust, um oráculo JAX e ferramentas de interpretabilidade.
Perguntas Frequentes
Qual é o repositório de #paged-attention mais popular no GitHub?
O projeto de código aberto de #paged-attention mais bem classificado no GitHub é xlite-dev/Awesome-LLM-Inference, com 5,565 estrelas. 📚Uma lista selecionada de artigos incríveis sobre Inferência de LLM/VLM com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉
Quais linguagens de programação são mais usadas nos repositórios de #paged-attention?
Entre os projetos de #paged-attention mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Rust.
Como é calculada a classificação dos repositórios de #paged-attention?
Acompanhamos 6 repositórios ativos de código aberto marcados com #paged-attention (com mais de 500 estrelas), totalizando 9,822 estrelas e uma média de 1,637 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.