Git Stars Git Stars

#kv-cache-optimization Repository

Scopri 9 repository GitHub open source attivi contrassegnati con #kv-cache-optimization, che raccolgono un totale di 13,361 stelle (con una media di 1,484 stelle per progetto). Il progetto leader di questo argomento è deepseek-ai/DeepSeek-V2, con 4,988 stelle.

9
Totale Repository
13,361
Totale stelle
1,484
Media Stelle/Repo
Linguaggi di programmazione: Python Jupyter Notebook

9 repository in totale

1
deepseek-ai/DeepSeek-V2

DeepSeek-V2: Un modello linguistico Mixture-of-Experts forte, economico ed efficiente

deepseek-ai
⭐ 4,988 👤 deepseek-ai Organization 🕐 Aggiornato 2024-09-25 📅 Creato 2024-04-22
2
HuangOwen/Awesome-LLM-Compression

Scarti di ricerca e strumenti eccezionali per la compressione di LLM.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Aggiornato 2026-11-16 📅 Creato 2023-05-30
3
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Per accelerare l'inferenza dei LLM a lungo contesto, il calcolo approssimato e dinamico sparso dell'attenzione riduce la latenza di inferenza fino a 10 volte per il pre-fill su un A100, mantenendo l'accuratezza.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Aggiornato 2026-11-18 📅 Creato 2024-05-22
4
mit-han-lab/streaming-vlm

StreamingVLM: Comprensione in tempo reale per flussi video infiniti

mit-han-lab
⭐ 1,095 Python 👤 mit-han-lab Organization 🕐 Aggiornato 2025-10-15 📅 Creato 2025-10-11
5
mustafaaljadery/gemma-2B-10M

Gemma 2B con lunghezza di contesto di 10 milioni utilizzando Infini-attention.

mustafaaljadery
⭐ 939 Python 👤 mustafaaljadery User 🕐 Aggiornato 2024-05-12 📅 Creato 2024-05-07
7
sgl-project/sgl-learning-materials

Materiali per l'apprendimento di SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Aggiornato 2026-01-05 📅 Creato 2024-09-10
8
LLMServe/DistServe

Sistema di serving disaggregato per modelli linguistici di grandi dimensioni (LLM).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Aggiornato 2025-04-06 📅 Creato 2024-01-16
9
llumnix-project/llumnix-ray

Servizio LLM multi-istanza efficiente e semplice

llumnix-project
⭐ 561 Python 👤 llumnix-project Organization 🕐 Aggiornato 2026-03-12 📅 Creato 2024-05-20

Domande frequenti

1

Qual è il repository #kv-cache-optimization più popolare su GitHub?

Il progetto open source #kv-cache-optimization più alto in classifica su GitHub è deepseek-ai/DeepSeek-V2, con 4,988 stelle. DeepSeek-V2: Un modello linguistico Mixture-of-Experts forte, economico ed efficiente

2

Quali linguaggi di programmazione sono più utilizzati nei repository #kv-cache-optimization?

Tra i progetti #kv-cache-optimization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook.

3

Come viene calcolata la classifica dei repository #kv-cache-optimization?

Monitoriamo 9 repository open source attivi contrassegnati con #kv-cache-optimization (500+ stelle), per un totale di 13,361 stelle e una media di 1,484 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.