Git Stars Git Stars

#kv-cache-optimization Repositórios

Descubra 9 repositórios ativos de código aberto no GitHub marcados com #kv-cache-optimization, acumulando um total de 13,361 estrelas (uma média de 1,484 por projeto). O líder deste tópico é deepseek-ai/DeepSeek-V2, com 4,988 estrelas.

9
Total de Repositórios
13,361
Total de estrelas
1,484
Média de Estrelas/Repositório
Linguagens de programação: Python Jupyter Notebook

9 repositórios no total

1
deepseek-ai/DeepSeek-V2

DeepSeek-V2: Um Modelo de Linguagem de Mistura de Especialistas Forte, Econômico e Eficiente

deepseek-ai
⭐ 4,988 👤 deepseek-ai Organization 🕐 Atualizado 2024-09-25 📅 Criado 2024-04-22
2
HuangOwen/Awesome-LLM-Compression

Trabalhos e ferramentas incríveis de pesquisa sobre compressão de LLM.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Atualizado 2026-11-16 📅 Criado 2023-05-30
3
microsoft/MInference

[Destaque NeurIPS'24, ICLR'25, ICML'25] Para acelerar a inferência de LLMs de contexto longo, o cálculo esparso, aproximado e dinâmico é aplicado à atenção, o que reduz a latência de inferência em até 10x no pré-preenchimento em uma A100, mantendo a precisão.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Atualizado 2026-11-18 📅 Criado 2024-05-22
4
mit-han-lab/streaming-vlm

StreamingVLM: Compreensão em tempo real para fluxos de vídeo infinitos

mit-han-lab
⭐ 1,095 Python 👤 mit-han-lab Organization 🕐 Atualizado 2025-10-15 📅 Criado 2025-10-11
5
mustafaaljadery/gemma-2B-10M

Gemma 2B com comprimento de contexto de 10M usando Infini-attention.

mustafaaljadery
⭐ 939 Python 👤 mustafaaljadery User 🕐 Atualizado 2024-05-12 📅 Criado 2024-05-07
8
LLMServe/DistServe

Sistema de serviço desagregado para Modelos de Linguagem Grandes (LLMs).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Atualizado 2025-04-06 📅 Criado 2024-01-16
9
llumnix-project/llumnix-ray

Serviço eficiente e fácil de LLM multi-instância

llumnix-project
⭐ 561 Python 👤 llumnix-project Organization 🕐 Atualizado 2026-03-12 📅 Criado 2024-05-20

Perguntas Frequentes

1

Qual é o repositório de #kv-cache-optimization mais popular no GitHub?

O projeto de código aberto de #kv-cache-optimization mais bem classificado no GitHub é deepseek-ai/DeepSeek-V2, com 4,988 estrelas. DeepSeek-V2: Um Modelo de Linguagem de Mistura de Especialistas Forte, Econômico e Eficiente

2

Quais linguagens de programação são mais usadas nos repositórios de #kv-cache-optimization?

Entre os projetos de #kv-cache-optimization mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook.

3

Como é calculada a classificação dos repositórios de #kv-cache-optimization?

Acompanhamos 9 repositórios ativos de código aberto marcados com #kv-cache-optimization (com mais de 500 estrelas), totalizando 13,361 estrelas e uma média de 1,484 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.