Git Stars Git Stars

#llm-inference-acceleration 仓库

探索 6 个标记为 #llm-inference-acceleration 的活跃开源 GitHub 仓库,它们累计获得 6,745 个 Star(平均每个项目 1,124 个)。该主题的领先项目是 ByteDance-Seed/Triton-distributed,拥有 1,587 个 Star。

6
仓库总数
6,745
总星标数
1,124
平均每个仓库星标数
1
ByteDance-Seed/Triton-distributed

分布式编译器与优化的并行内核

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-04-02
2
hao-ai-lab/LookaheadDecoding

[ICML 2024] 使用前瞻解码打破LLM推理的顺序依赖

hao-ai-lab
⭐ 1,337 Python 👤 hao-ai-lab Organization 🕐 已更新 2025-03-06 📅 创建时间 2023-11-21
3
Vahe1994/AQLM

用于极端压缩大型语言模型的官方 Pytorch 存储库,通过加法量化 https://arxiv.org/pdf/2401.06118.pdf 和 PV-Tuning:超越直通估计的 extremo LLM 压缩 https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 已更新 2026-02-26 📅 创建时间 2024-01-12
5
skapadia3214/groq-moa

使用 Groq 的代理混合

skapadia3214
⭐ 940 Python 👤 skapadia3214 User 🕐 已更新 2024-08-09 📅 创建时间 2024-06-17

常见问题解答

1

GitHub 上最受欢迎的 #llm-inference-acceleration 仓库是什么?

GitHub 上排名第一的开源 #llm-inference-acceleration 项目是 ByteDance-Seed/Triton-distributed,拥有 1,587 个 Star。分布式编译器与优化的并行内核

2

#llm-inference-acceleration 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llm-inference-acceleration 项目中,最常见的编程语言是 Python, Jupyter Notebook。

3

#llm-inference-acceleration 仓库的排名是如何计算的?

我们跟踪了 6 个标记为 #llm-inference-acceleration 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 6,745 个 Star,平均每个仓库拥有 1,124 个 Star。排名每日根据 GitHub API 更新。