Git Stars Git Stars

#efficient-inference Repositories

Entdecke 18 aktive Open-Source-GitHub-Repositories, die mit #efficient-inference getaggt sind und insgesamt 46,090 Sterne gesammelt haben (durchschnittlich 2,560 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist OpenBMB/MiniCPM mit 11,898 Sternen.

18
Gesamtzahl der Repositories
46,090
Gesamtanzahl der Sterne
2,560
Durchschnittliche Sterne/Repo
Programmiersprachen: Python Jupyter Notebook

Insgesamt 18 Repositories

1
OpenBMB/MiniCPM

MiniCPM5: SOTA On-Device-LLMs, klein aber leistungsstark.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2024-01-29
3
huawei-noah/Efficient-AI-Backbones

Effiziente KI-Backbones einschließlich GhostNet, TNT und MLP, entwickelt von Huawei Noah's Ark Lab.

huawei-noah
⭐ 4,417 Python 👤 huawei-noah Organization 🕐 Aktualisiert 2025-03-15 📅 Erstellt 2019-11-16
4
BlinkDL/AI-Writer

KI schreibt Romane, generiert Fantasy und romantische Web-Romane usw. Chinesisches vortrainiertes generatives Modell. Verwendet mein RWKV-Modell, ähnlich GPT-2. KI-Schreiben. RWKV für die chinesische Roman-Generierung.

BlinkDL
⭐ 3,729 Python 👤 BlinkDL User 🕐 Aktualisiert 2025-05-15 📅 Erstellt 2021-07-26
5
AI-Efficiency/Awesome-Model-Quantization

Eine kuratierte Sammlung von Fachartikeln, Benchmarks, Übersichtsarbeiten und Tools zur Modellquantisierung, die Low-Bit-Netzwerke, LLMs, multimodale und generative Modelle, Vektor- und Gitterquantisierung sowie eine effiziente Bereitstellung abdeckt.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2018-10-18
6
HuangOwen/Awesome-LLM-Compression

Hervorragende Forschungsarbeiten und Werkzeuge zur Komprimierung von LLMs.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2023-05-30
7
SqueezeAILab/LLMCompiler

[ICML 2024] LLMCompiler: Ein LLM-Compiler für parallele Funktionsaufrufe

SqueezeAILab
⭐ 1,808 Python 👤 SqueezeAILab Organization 🕐 Aktualisiert 2024-07-10 📅 Erstellt 2023-12-06
8
ermongroup/ddim

Denoising Diffusion Implicit Models

ermongroup
⭐ 1,763 Python 👤 ermongroup Organization 🕐 Aktualisiert 2024-07-26 📅 Erstellt 2020-10-05
9
BICLab/SpikingBrain-7B

Spiking Brain-inspired Large Models, die hybride effiziente Attention, MoE-Module und Spike-Kodierung in ihre Architektur integrieren

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Aktualisiert 2026-05-14 📅 Erstellt 2025-09-03
10
myshell-ai/JetMoE

Erreichen der LLaMA2-Leistung mit 0,1 Mio. Dollar

myshell-ai
⭐ 988 Python 👤 myshell-ai Organization 🕐 Aktualisiert 2024-07-23 📅 Erstellt 2024-04-02
11
horseee/DeepCache

[CVPR 2024] DeepCache: Beschleunigung von Diffusionsmodellen kostenlos

horseee
⭐ 950 Python 👤 horseee User 🕐 Aktualisiert 2024-06-27 📅 Erstellt 2023-12-01
12
Zhen-Dong/Awesome-Quantization-Papers

Liste von Arbeiten zur neuronalen Netzwerkquantisierung in den neuesten KI-Konferenzen und Fachzeitschriften.

Zhen-Dong
⭐ 825 👤 Zhen-Dong User 🕐 Aktualisiert 2025-03-27 📅 Erstellt 2022-01-01
13
VITA-Group/LightGaussian

"LightGaussian: Unbounded 3D Gaussian Compression mit 15-facher Reduzierung und über 200 FPS" Spotlight bei NeurIPS 2024, Zhiwen Fan, Kevin Wang, Kairun Wen, Zehao Zhu, Dejia Xu, Zhangyang Wang

VITA-Group
⭐ 759 Python 👤 VITA-Group Organization 🕐 Aktualisiert 2024-12-30 📅 Erstellt 2023-11-26
14
exiawsh/StreamPETR

[ICCV 2023] StreamPETR: Erforschung objektzentrierter zeitlicher Modellierung für effiziente Multi-View 3D-Objekterkennung

exiawsh
⭐ 754 Python 👤 exiawsh User 🕐 Aktualisiert 2024-06-26 📅 Erstellt 2023-03-21
16
SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: Dichte und spärliche Quantisierung

SqueezeAILab
⭐ 710 Python 👤 SqueezeAILab Organization 🕐 Aktualisiert 2024-08-13 📅 Erstellt 2023-06-12
17
google-deepmind/recurrentgemma

Open-Weights-Sprachmodell von Google DeepMind, basierend auf Griffin.

google-deepmind
⭐ 686 Python 👤 google-deepmind Organization 🕐 Aktualisiert 2026-02-06 📅 Erstellt 2024-03-25
18
sail-sg/lorahub

[COLM 2024] LoraHub: Effiziente plattformübergreifende Generalisierung durch dynamische LoRA-Komposition

sail-sg
⭐ 665 Python 👤 sail-sg Organization 🕐 Aktualisiert 2024-07-22 📅 Erstellt 2023-07-20

Häufig gestellte Fragen

1

Welches ist das beliebteste #efficient-inference-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#efficient-inference-Projekt auf GitHub ist OpenBMB/MiniCPM mit 11,898 Sternen. MiniCPM5: SOTA On-Device-LLMs, klein aber leistungsstark.

2

Welche Programmiersprachen werden in #efficient-inference-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #efficient-inference-Projekten auf GitHub sind Python, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #efficient-inference-Repositories berechnet?

Wir verfolgen 18 aktive Open-Source-Repositories, die mit #efficient-inference getaggt sind (500+ Sterne), mit insgesamt 46,090 Sternen und durchschnittlich 2,560 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.