#inference-acceleration 仓库
探索 14 个标记为 #inference-acceleration 的活跃开源 GitHub 仓库,它们累计获得 24,811 个 Star(平均每个项目 1,772 个)。该主题的领先项目是 openai/consistency_models,拥有 6,461 个 Star。
14
仓库总数
24,811
总星标数
1,772
平均每个仓库星标数
共 14 个仓库
2
thu-ml/SageAttention
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] 量化注意力(Quantized Attention)相比 FlashAttention 实现了 2-5 倍的加速,同时在语言、图像和视频模型上没有损失端到端指标。
7
microsoft/MInference
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] 为加速长上下文LLM的推理,近似和动态稀疏计算注意力,可在A100上将预填充的推理延迟降低高达10倍,同时保持准确性。
常见问题解答
1
GitHub 上最受欢迎的 #inference-acceleration 仓库是什么?
GitHub 上排名第一的开源 #inference-acceleration 项目是 openai/consistency_models,拥有 6,461 个 Star。一致性模型的官方仓库。
2
#inference-acceleration 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #inference-acceleration 项目中,最常见的编程语言是 Python, Cuda。
3
#inference-acceleration 仓库的排名是如何计算的?
我们跟踪了 14 个标记为 #inference-acceleration 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 24,811 个 Star,平均每个仓库拥有 1,772 个 Star。排名每日根据 GitHub API 更新。