#linear-attention Repositórios
Descubra 7 repositórios ativos de código aberto no GitHub marcados com #linear-attention, acumulando um total de 31,942 estrelas (uma média de 4,563 por projeto). O líder deste tópico é BlinkDL/RWKV-LM, com 14,786 estrelas.
7 repositórios no total
RWKV (pronuncia-se RwaKuv) é uma RNN com ótimo desempenho de LLM, que também pode ser treinada diretamente como um transformador GPT (paralelizável). Estamos no RWKV-7 "Goose". Portanto, ele combina o melhor de RNN e transformador - ótimo desempenho, tempo linear, espaço constante (sem cache kv), treinamento rápido, ctx_len infinito e embedding de frase gratuito.
Um modelo Kimi K3 de 2,78 trilhões de parâmetros executando inferência em uma única CPU com 8,24 GB de RAM. C99 portátil: sem BLAS, sem framework, sem GPU.
SLA: Além da esparsidade em transformadores de difusão por meio de atenção esparsa-linear ajustável
Perguntas Frequentes
Qual é o repositório de #linear-attention mais popular no GitHub?
O projeto de código aberto de #linear-attention mais bem classificado no GitHub é BlinkDL/RWKV-LM, com 14,786 estrelas. RWKV (pronuncia-se RwaKuv) é uma RNN com ótimo desempenho de LLM, que também pode ser treinada diretamente como um transformador GPT (paralelizável). Estamos no RWKV-7 "Goose". Portanto, ele combina o melhor de RNN e transformador - ótimo desempenho, tempo linear, espaço constante (sem cache kv), treinamento rápido, ctx_len infinito e embedding de frase gratuito.
Quais linguagens de programação são mais usadas nos repositórios de #linear-attention?
Entre os projetos de #linear-attention mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C.
Como é calculada a classificação dos repositórios de #linear-attention?
Acompanhamos 7 repositórios ativos de código aberto marcados com #linear-attention (com mais de 500 estrelas), totalizando 31,942 estrelas e uma média de 4,563 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.