#kv-cache-optimization Repositórios
Descubra 9 repositórios ativos de código aberto no GitHub marcados com #kv-cache-optimization, acumulando um total de 13,361 estrelas (uma média de 1,484 por projeto). O líder deste tópico é deepseek-ai/DeepSeek-V2, com 4,988 estrelas.
9 repositórios no total
DeepSeek-V2: Um Modelo de Linguagem de Mistura de Especialistas Forte, Econômico e Eficiente
Trabalhos e ferramentas incríveis de pesquisa sobre compressão de LLM.
[Destaque NeurIPS'24, ICLR'25, ICML'25] Para acelerar a inferência de LLMs de contexto longo, o cálculo esparso, aproximado e dinâmico é aplicado à atenção, o que reduz a latência de inferência em até 10x no pré-preenchimento em uma A100, mantendo a precisão.
Perguntas Frequentes
Qual é o repositório de #kv-cache-optimization mais popular no GitHub?
O projeto de código aberto de #kv-cache-optimization mais bem classificado no GitHub é deepseek-ai/DeepSeek-V2, com 4,988 estrelas. DeepSeek-V2: Um Modelo de Linguagem de Mistura de Especialistas Forte, Econômico e Eficiente
Quais linguagens de programação são mais usadas nos repositórios de #kv-cache-optimization?
Entre os projetos de #kv-cache-optimization mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook.
Como é calculada a classificação dos repositórios de #kv-cache-optimization?
Acompanhamos 9 repositórios ativos de código aberto marcados com #kv-cache-optimization (com mais de 500 estrelas), totalizando 13,361 estrelas e uma média de 1,484 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.