Git Stars Git Stars

#efficient-inference 仓库

探索 18 个标记为 #efficient-inference 的活跃开源 GitHub 仓库,它们累计获得 46,090 个 Star(平均每个项目 2,560 个)。该主题的领先项目是 OpenBMB/MiniCPM,拥有 11,898 个 Star。

18
仓库总数
46,090
总星标数
2,560
平均每个仓库星标数
1
OpenBMB/MiniCPM

MiniCPM5:端侧最先进的大语言模型,小而强大。

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 已更新 2026-11-09 📅 创建时间 2024-01-29
3
huawei-noah/Efficient-AI-Backbones

由华为诺亚方舟实验室开发的包括GhostNet、TNT和MLP的高效AI骨干网络。

huawei-noah
⭐ 4,417 Python 👤 huawei-noah Organization 🕐 已更新 2025-03-15 📅 创建时间 2019-11-16
4
BlinkDL/AI-Writer

AI 写小说,生成玄幻和言情网文等等。中文预训练生成模型。采用我的 RWKV 模型,类似 GPT-2 。AI写作。RWKV for Chinese novel generation.

BlinkDL
⭐ 3,729 Python 👤 BlinkDL User 🕐 已更新 2025-05-15 📅 创建时间 2021-07-26
5
AI-Efficiency/Awesome-Model-Quantization

精选的模型量化论文、基准测试、综述和工具集合,涵盖低比特网络、大语言模型、多模态与生成模型、矢量量化和格量化,以及高效部署。

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 已更新 2026-11-16 📅 创建时间 2018-10-18
6
HuangOwen/Awesome-LLM-Compression

关于LLM压缩的优秀研究论文和工具。

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 已更新 2026-11-16 📅 创建时间 2023-05-30
7
SqueezeAILab/LLMCompiler

[ICML 2024] LLMCompiler: An LLM Compiler for Parallel Function Calling

SqueezeAILab
⭐ 1,808 Python 👤 SqueezeAILab Organization 🕐 已更新 2024-07-10 📅 创建时间 2023-12-06
8
ermongroup/ddim

去噪扩散隐式模型

ermongroup
⭐ 1,763 Python 👤 ermongroup Organization 🕐 已更新 2024-07-26 📅 创建时间 2020-10-05
9
BICLab/SpikingBrain-7B

受脉冲神经元启发的巨型模型,将混合高效注意力、MoE 模块和脉冲编码集成到其架构中

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 已更新 2026-05-14 📅 创建时间 2025-09-03
10
myshell-ai/JetMoE

用 10 万美元达到 LLaMA2 性能

myshell-ai
⭐ 988 Python 👤 myshell-ai Organization 🕐 已更新 2024-07-23 📅 创建时间 2024-04-02
11
horseee/DeepCache

[CVPR 2024] DeepCache:免费加速扩散模型

horseee
⭐ 950 Python 👤 horseee User 🕐 已更新 2024-06-27 📅 创建时间 2023-12-01
12
Zhen-Dong/Awesome-Quantization-Papers

近期人工智能会议和期刊中与神经网络量化相关的论文列表。

Zhen-Dong
⭐ 825 👤 Zhen-Dong User 🕐 已更新 2025-03-27 📅 创建时间 2022-01-01
13
VITA-Group/LightGaussian

"LightGaussian: 无界3D高斯压缩,实现15倍缩减和200+ FPS" [NeurIPS 2024 Spotlight], Zhiwen Fan, Kevin Wang, Kairun Wen, Zehao Zhu, Dejia Xu, Zhangyang Wang

VITA-Group
⭐ 759 Python 👤 VITA-Group Organization 🕐 已更新 2024-12-30 📅 创建时间 2023-11-26
14
exiawsh/StreamPETR

[ICCV 2023] StreamPETR: 探索以物体为中心的时序建模,实现高效的多视角3D物体检测

exiawsh
⭐ 754 Python 👤 exiawsh User 🕐 已更新 2024-06-26 📅 创建时间 2023-03-21
16
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: 稠密与稀疏量化

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 已更新 2024-08-13 📅 创建时间 2023-06-12
17
google-deepmind/recurrentgemma

来自Google DeepMind的开源权重语言模型,基于Griffin。

google-deepmind
⭐ 686 Python 👤 google-deepmind Organization 🕐 已更新 2026-02-06 📅 创建时间 2024-03-25
18
sail-sg/lorahub

[COLM 2024] LoraHub: 通过动态LoRA组合实现高效的跨任务泛化

sail-sg
⭐ 665 Python 👤 sail-sg Organization 🕐 已更新 2024-07-22 📅 创建时间 2023-07-20

常见问题解答

1

GitHub 上最受欢迎的 #efficient-inference 仓库是什么?

GitHub 上排名第一的开源 #efficient-inference 项目是 OpenBMB/MiniCPM,拥有 11,898 个 Star。MiniCPM5:端侧最先进的大语言模型,小而强大。

2

#efficient-inference 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #efficient-inference 项目中,最常见的编程语言是 Python, Jupyter Notebook。

3

#efficient-inference 仓库的排名是如何计算的?

我们跟踪了 18 个标记为 #efficient-inference 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 46,090 个 Star,平均每个仓库拥有 2,560 个 Star。排名每日根据 GitHub API 更新。