Git Stars Git Stars

#kv-cache-optimization Repositories

Entdecke 9 aktive Open-Source-GitHub-Repositories, die mit #kv-cache-optimization getaggt sind und insgesamt 13,361 Sterne gesammelt haben (durchschnittlich 1,484 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist deepseek-ai/DeepSeek-V2 mit 4,988 Sternen.

9
Gesamtzahl der Repositories
13,361
Gesamtanzahl der Sterne
1,484
Durchschnittliche Sterne/Repo
Programmiersprachen: Python Jupyter Notebook

Insgesamt 9 Repositories

1
deepseek-ai/DeepSeek-V2

DeepSeek-V2: Ein starkes, wirtschaftliches und effizientes Mixture-of-Experts Sprachmodell

deepseek-ai
⭐ 4,988 👤 deepseek-ai Organization 🕐 Aktualisiert 2024-09-25 📅 Erstellt 2024-04-22
2
HuangOwen/Awesome-LLM-Compression

Hervorragende Forschungsarbeiten und Werkzeuge zur Komprimierung von LLMs.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2023-05-30
3
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Um die Inferenz von Long-Context-LLMs zu beschleunigen, berechnen approximative und dynamische dichte Berechnungen die Aufmerksamkeit, was die Inferenzlatenz beim Vorabfüllen auf einer A100 um bis zu 10x reduziert, während die Genauigkeit erhalten bleibt.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2024-05-22
4
mit-han-lab/streaming-vlm

StreamingVLM: Echtzeit-Verständnis für unendliche Videostreams

mit-han-lab
⭐ 1,095 Python 👤 mit-han-lab Organization 🕐 Aktualisiert 2025-10-15 📅 Erstellt 2025-10-11
5
mustafaaljadery/gemma-2B-10M

Gemma 2B mit einer Kontextlänge von 10 Mio. unter Verwendung von Infini-Attention.

mustafaaljadery
⭐ 939 Python 👤 mustafaaljadery User 🕐 Aktualisiert 2024-05-12 📅 Erstellt 2024-05-07
7
sgl-project/sgl-learning-materials

Materialien zum Erlernen von SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Aktualisiert 2026-01-05 📅 Erstellt 2024-09-10
8
LLMServe/DistServe

Disaggregiertes Serviersystem für große Sprachmodelle (LLMs).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Aktualisiert 2025-04-06 📅 Erstellt 2024-01-16
9
llumnix-project/llumnix-ray

Effiziente und einfache Multi-Instanz-LLM-Bereitstellung

llumnix-project
⭐ 561 Python 👤 llumnix-project Organization 🕐 Aktualisiert 2026-03-12 📅 Erstellt 2024-05-20

Häufig gestellte Fragen

1

Welches ist das beliebteste #kv-cache-optimization-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#kv-cache-optimization-Projekt auf GitHub ist deepseek-ai/DeepSeek-V2 mit 4,988 Sternen. DeepSeek-V2: Ein starkes, wirtschaftliches und effizientes Mixture-of-Experts Sprachmodell

2

Welche Programmiersprachen werden in #kv-cache-optimization-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #kv-cache-optimization-Projekten auf GitHub sind Python, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #kv-cache-optimization-Repositories berechnet?

Wir verfolgen 9 aktive Open-Source-Repositories, die mit #kv-cache-optimization getaggt sind (500+ Sterne), mit insgesamt 13,361 Sternen und durchschnittlich 1,484 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.