#pagedattention Repositórios
Descubra 3 repositórios ativos de código aberto no GitHub marcados com #pagedattention, acumulando um total de 2,415 estrelas (uma média de 805 por projeto). O líder deste tópico é jmaczan/tiny-vllm, com 1,207 estrelas.
3 repositórios no total
Construa seu próprio mecanismo de inferência LLM de alto desempenho em C++ e CUDA - uma versão menor do vLLM
WeDLM: O modelo de linguagem de difusão mais rápido com atenção causal padrão e compatibilidade nativa com cache KV, entregando acelerações reais em comparação com as linhas de base otimizadas com vLLM.
Perguntas Frequentes
Qual é o repositório de #pagedattention mais popular no GitHub?
O projeto de código aberto de #pagedattention mais bem classificado no GitHub é jmaczan/tiny-vllm, com 1,207 estrelas. Construa seu próprio mecanismo de inferência LLM de alto desempenho em C++ e CUDA - uma versão menor do vLLM
Quais linguagens de programação são mais usadas nos repositórios de #pagedattention?
Entre os projetos de #pagedattention mais bem classificados no GitHub, as linguagens de programação mais comuns são C++, Python.
Como é calculada a classificação dos repositórios de #pagedattention?
Acompanhamos 3 repositórios ativos de código aberto marcados com #pagedattention (com mais de 500 estrelas), totalizando 2,415 estrelas e uma média de 805 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.