Git Stars Git Stars

#paged-attention 仓库

探索 6 个标记为 #paged-attention 的活跃开源 GitHub 仓库,它们累计获得 9,822 个 Star(平均每个项目 1,637 个)。该主题的领先项目是 xlite-dev/Awesome-LLM-Inference,拥有 5,565 个 Star。

6
仓库总数
9,822
总星标数
1,637
平均每个仓库星标数
编程语言: Python Rust
1
xlite-dev/Awesome-LLM-Inference

📚精选的超棒 LLM/VLM 推理论文及代码列表:Flash-Attention、Paged-Attention、WINT8/4、并行化等。🎉

xlite-dev
⭐ 5,565 Python 👤 xlite-dev Organization 🕐 已更新 2026-10-20 📅 创建时间 2023-08-27
2
meta-pytorch/attention-gym

用于处理 flex-attention 的有用工具和示例

meta-pytorch
⭐ 1,274 Python 👤 meta-pytorch Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-07-31
⭐ 944 👤 triton-inference-server Organization 🕐 已更新 2026-11-02 📅 创建时间 2023-09-12
4
pegainfer-project/pegainfer

纯 Rust + CUDA 的 LLM 推理引擎——无需 PyTorch,兼容 OpenAI,支持从 Qwen3 到 Kimi-K2 的模型

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-17
5
EricLBuehler/candle-vllm

一个用于本地 LLM 推理和服务的有效平台,包含一个兼容 OpenAI 的 API 服务器。

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 已更新 2026-10-18 📅 创建时间 2023-10-29
6
zengxiao-he/tessera

从教师到瓦片——一个从头构建的LLM蒸馏与推理引擎:自定义Triton/CUDA内核、FSDP蒸馏、分页KV连续批处理、推测解码、Rust网关、JAX预言机以及可解释性工具。

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 已更新 2026-10-09 📅 创建时间 2026-06-05

常见问题解答

1

GitHub 上最受欢迎的 #paged-attention 仓库是什么?

GitHub 上排名第一的开源 #paged-attention 项目是 xlite-dev/Awesome-LLM-Inference,拥有 5,565 个 Star。📚精选的超棒 LLM/VLM 推理论文及代码列表:Flash-Attention、Paged-Attention、WINT8/4、并行化等。🎉

2

#paged-attention 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #paged-attention 项目中,最常见的编程语言是 Python, Rust。

3

#paged-attention 仓库的排名是如何计算的?

我们跟踪了 6 个标记为 #paged-attention 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 9,822 个 Star,平均每个仓库拥有 1,637 个 Star。排名每日根据 GitHub API 更新。