Git Stars Git Stars

#ai-inference-acceleration 仓库

探索 3 个标记为 #ai-inference-acceleration 的活跃开源 GitHub 仓库,它们累计获得 8,097 个 Star(平均每个项目 2,699 个)。该主题的领先项目是 NVIDIA/Model-Optimizer,拥有 5,646 个 Star。

3
仓库总数
8,097
总星标数
2,699
平均每个仓库星标数
编程语言: Python C++
1
NVIDIA/Model-Optimizer

一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-04-23
2
ai-dynamo/nixl

NVIDIA 推理传输库 (NIXL)

ai-dynamo
⭐ 1,373 C++ 👤 ai-dynamo Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-03-05

常见问题解答

1

GitHub 上最受欢迎的 #ai-inference-acceleration 仓库是什么?

GitHub 上排名第一的开源 #ai-inference-acceleration 项目是 NVIDIA/Model-Optimizer,拥有 5,646 个 Star。一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。

2

#ai-inference-acceleration 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #ai-inference-acceleration 项目中,最常见的编程语言是 Python, C++。

3

#ai-inference-acceleration 仓库的排名是如何计算的?

我们跟踪了 3 个标记为 #ai-inference-acceleration 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 8,097 个 Star,平均每个仓库拥有 2,699 个 Star。排名每日根据 GitHub API 更新。