Git Stars Git Stars

#kv-cache-optimization Репозитории

Откройте для себя 9 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #kv-cache-optimization, с общим числом 13,361 звёзд (в среднем 1,484 на проект). Лидером этой темы является deepseek-ai/DeepSeek-V2, набравший 4,988 звёзд.

9
Всего репозиториев
13,361
Всего звезд
1,484
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook

Всего репозиториев: 9

1
deepseek-ai/DeepSeek-V2

DeepSeek-V2: Мощная, экономичная и эффективная языковая модель Mixture-of-Experts

deepseek-ai
⭐ 4,988 👤 deepseek-ai Organization 🕐 Обновлено 2024-09-25 📅 Создано 2024-04-22
2
HuangOwen/Awesome-LLM-Compression

Отличные исследовательские статьи и инструменты для сжатия LLM.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Обновлено 2026-11-16 📅 Создано 2023-05-30
3
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Чтобы ускорить вывод Long-context LLMs, аппроксимированныйи и динамический разреженный расчет внимания снижает задержку вывода до 10 раз при предварительном заполнении на A100, сохраняя точность.

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 Обновлено 2026-11-18 📅 Создано 2024-05-22
4
mit-han-lab/streaming-vlm

StreamingVLM: Понимание видеопотоков в реальном времени для бесконечных видеопотоков

mit-han-lab
⭐ 1,095 Python 👤 mit-han-lab Organization 🕐 Обновлено 2025-10-15 📅 Создано 2025-10-11
5
mustafaaljadery/gemma-2B-10M

Gemma 2B с длиной контекста 10M, использующий Infini-attention.

mustafaaljadery
⭐ 939 Python 👤 mustafaaljadery User 🕐 Обновлено 2024-05-12 📅 Создано 2024-05-07
7
sgl-project/sgl-learning-materials

Материалы для изучения SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Обновлено 2026-01-05 📅 Создано 2024-09-10
8
LLMServe/DistServe

Дезагрегированная система обслуживания для больших языковых моделей (LLM).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Обновлено 2025-04-06 📅 Создано 2024-01-16
9
llumnix-project/llumnix-ray

Эффективное и простое обслуживание LLM с несколькими экземплярами

llumnix-project
⭐ 561 Python 👤 llumnix-project Organization 🕐 Обновлено 2026-03-12 📅 Создано 2024-05-20

Часто задаваемые вопросы

1

Какой репозиторий по теме #kv-cache-optimization наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #kv-cache-optimization на GitHub — deepseek-ai/DeepSeek-V2, набравший 4,988 звёзд. DeepSeek-V2: Мощная, экономичная и эффективная языковая модель Mixture-of-Experts

2

Какие языки программирования чаще всего используются в репозиториях по теме #kv-cache-optimization?

Среди наиболее высоко оценённых проектов по теме #kv-cache-optimization на GitHub чаще всего используются языки программирования Python, Jupyter Notebook.

3

Как рассчитывается рейтинг репозиториев по теме #kv-cache-optimization?

Мы отслеживаем 9 активных репозиториев с открытым исходным кодом, отмеченных тегом #kv-cache-optimization (500 и более звёзд), с общим числом 13,361 звёзд и в среднем 1,484 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.