Git Stars Git Stars

#paged-attention Репозитории

Откройте для себя 6 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #paged-attention, с общим числом 9,822 звёзд (в среднем 1,637 на проект). Лидером этой темы является xlite-dev/Awesome-LLM-Inference, набравший 5,565 звёзд.

6
Всего репозиториев
9,822
Всего звезд
1,637
Среднее количество звезд на репозиторий
Языки программирования: Python Rust

Всего репозиториев: 6

1
xlite-dev/Awesome-LLM-Inference

📚Подборка отличных статей об инференсе LLM/VLM с кодами: Flash-Attention, Paged-Attention, WINT8/4, Parallelism и т.д.🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 Обновлено 2026-10-20 📅 Создано 2023-08-27
2
meta-pytorch/attention-gym

Полезные инструменты и примеры для работы с flex-attention

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-07-31
⭐ 944 👤 triton-inference-server Organization 🕐 Обновлено 2026-11-02 📅 Создано 2023-09-12
4
pegainfer-project/pegainfer

Чистый движок вывода LLM на Rust + CUDA — без PyTorch, совместим с OpenAI, обслуживает от Qwen3 до Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-17
5
EricLBuehler/candle-vllm

Эффективная платформа для инференса и обслуживания локальных LLM, включая совместимый с OpenAI API-сервер.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Обновлено 2026-10-18 📅 Создано 2023-10-29
6
zengxiao-he/tessera

От учителя к плиткам — движок дистилляции и обслуживания LLM, созданный с нуля: пользовательские ядра Triton/CUDA, дистилляция FSDP, пакетная обработка с непрерывным KV-кэшированием, спекулятивное декодирование, шлюз на Rust, оракул JAX и инструменты интерпретируемости.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Обновлено 2026-10-09 📅 Создано 2026-06-05

Часто задаваемые вопросы

1

Какой репозиторий по теме #paged-attention наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #paged-attention на GitHub — xlite-dev/Awesome-LLM-Inference, набравший 5,565 звёзд. 📚Подборка отличных статей об инференсе LLM/VLM с кодами: Flash-Attention, Paged-Attention, WINT8/4, Parallelism и т.д.🎉

2

Какие языки программирования чаще всего используются в репозиториях по теме #paged-attention?

Среди наиболее высоко оценённых проектов по теме #paged-attention на GitHub чаще всего используются языки программирования Python, Rust.

3

Как рассчитывается рейтинг репозиториев по теме #paged-attention?

Мы отслеживаем 6 активных репозиториев с открытым исходным кодом, отмеченных тегом #paged-attention (500 и более звёзд), с общим числом 9,822 звёзд и в среднем 1,637 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.