Git Stars Git Stars

#model-quantization Repositories

Entdecke 59 aktive Open-Source-GitHub-Repositories, die mit #model-quantization getaggt sind und insgesamt 217,873 Sterne gesammelt haben (durchschnittlich 3,692 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist zai-org/ChatGLM-6B mit 41,224 Sternen.

59
Gesamtzahl der Repositories
217,873
Gesamtanzahl der Sterne
3,692
Durchschnittliche Sterne/Repo

Insgesamt 59 Repositories

1
zai-org/ChatGLM-6B

ChatGLM-6B: Ein quelloffenes zweisprachiges Dialogsprachenmodell | Offenes zweisprachiges Dialog-Sprachmodell

zai-org
⭐ 41,224 Python 👤 zai-org Organization 🕐 Aktualisiert 2024-06-27 📅 Erstellt 2023-03-13
2
karpathy/llama2.c

Inferenz Llama 2 in einer reinen C-Datei

karpathy
⭐ 19,062 C 👤 karpathy User 🕐 Aktualisiert 2024-08-06 📅 Erstellt 2023-07-23
3
apple-aiml-research/ml-stable-diffusion

Stable Diffusion mit Core ML auf Apple Silicon

apple-aiml-research
⭐ 17,962 Python 👤 apple-aiml-research Organization 🕐 Aktualisiert 2026-09-11 📅 Erstellt 2022-11-16
4
zai-org/ChatGLM3

ChatGLM3-Serie: Open Bilingual Chat LLMs | Open Bilingual Chat LLMs

zai-org
⭐ 13,680 Python 👤 zai-org Organization 🕐 Aktualisiert 2025-01-13 📅 Erstellt 2023-10-26
6
OpenBMB/MiniCPM

MiniCPM5: SOTA On-Device-LLMs, klein aber leistungsstark.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2024-01-29
7
meta-llama/llama-models

Dienstprogramme zur Verwendung mit Llama-Modellen.

meta-llama
⭐ 7,727 Python 👤 meta-llama Organization 🕐 Aktualisiert 2026-02-11 📅 Erstellt 2024-06-27
8
bigcode-project/starcoder

Heimat von StarCoder: Fine-Tuning & Inferenz!

bigcode-project
⭐ 7,527 Python 👤 bigcode-project Organization 🕐 Aktualisiert 2024-02-27 📅 Erstellt 2023-04-24
9
deepseek-ai/DeepSeek-LLM

DeepSeek LLM: Es werde Antworten

deepseek-ai
⭐ 6,688 Makefile 👤 deepseek-ai Organization 🕐 Aktualisiert 2024-02-04 📅 Erstellt 2023-11-29
10
OpenGVLab/LLaMA-Adapter

[ICLR 2024] Fine-Tuning von LLaMA zur Befolgung von Anweisungen innerhalb von 1 Stunde und 1,2 Mio. Parametern

OpenGVLab
⭐ 5,931 Python 👤 OpenGVLab Organization 🕐 Aktualisiert 2024-03-14 📅 Erstellt 2023-03-19
11
NVIDIA/Model-Optimizer

Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Destillation, Pruning, neuronale Architektursuche, spekulative Dekodierung usw. Sie komprimiert Deep-Learning-Modelle für nachgelagerte Bereitstellungs-Frameworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-04-23
12
Hoper-J/AI-Guide-and-Demos-zh_CN

Dies ist eine Schritt-für-Schritt-Anleitung für den Einstieg in KI/LLM-große Modelle, die Tutorials und Demo-Code enthält. Sie führt Sie von APIs zur lokalen Bereitstellung und Feinabstimmung großer Modelle. Die Code-Dateien werden in Online-Versionen für Kaggle oder Colab bereitgestellt, sodass Sie auch ohne Grafikkarte lernen können. Das Projekt enthält außerdem einen kleinen Code-Spielplatz 🎡, auf dem Sie interessante KI-Skripte ausprobieren können. Gleichzeitig enthält es eine vollständige chinesische gespiegelte Version der Hausaufgaben aus Hung-Yi Lees "Einführung in die generative KI 2024"-Kurs.

Hoper-J
⭐ 4,834 Python 👤 Hoper-J User 🕐 Aktualisiert 2026-10-27 📅 Erstellt 2024-09-10
13
city96/ComfyUI-GGUF

GGUF-Quantisierungsunterstützung für native ComfyUI-Modelle

city96
⭐ 4,284 Python 👤 city96 User 🕐 Aktualisiert 2026-01-12 📅 Erstellt 2024-08-15
14
qwopqwop200/GPTQ-for-LLaMa

4-Bit-Quantisierung von LLaMA mit GPTQ

qwopqwop200
⭐ 3,077 Python 👤 qwopqwop200 User 🕐 Aktualisiert 2024-07-13 📅 Erstellt 2023-03-06
16
km1994/LLMs_interview_notes

Dieses Repository zeichnet hauptsächlich Interviewfragen für Algorithmusingenieure für große Modelle (LLMs) auf.

km1994
⭐ 2,670 👤 km1994 User 🕐 Aktualisiert 2026-10-11 📅 Erstellt 2023-09-16
18
AI-Efficiency/Awesome-Model-Quantization

Eine kuratierte Sammlung von Fachartikeln, Benchmarks, Übersichtsarbeiten und Tools zur Modellquantisierung, die Low-Bit-Netzwerke, LLMs, multimodale und generative Modelle, Vektor- und Gitterquantisierung sowie eine effiziente Bereitstellung abdeckt.

AI-Efficiency
⭐ 2,471 👤 AI-Efficiency Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2018-10-18
19
horseee/Awesome-Efficient-LLM

Eine kuratierte Liste für effiziente große Sprachmodelle

horseee
⭐ 2,019 Python 👤 horseee User 🕐 Aktualisiert 2025-06-17 📅 Erstellt 2023-05-22
20
merveenoyan/smol-vision

Rezepte zum Verkleinern, Optimieren und Anpassen von hochmodernen Bildmodellen. 💜

merveenoyan
⭐ 2,004 Jupyter Notebook 👤 merveenoyan User 🕐 Aktualisiert 2026-08-12 📅 Erstellt 2024-03-13
21
HuangOwen/Awesome-LLM-Compression

Hervorragende Forschungsarbeiten und Werkzeuge zur Komprimierung von LLMs.

HuangOwen
⭐ 1,899 👤 HuangOwen User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2023-05-30
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

Mehrere NVIDIA GPUs oder Apple Silicon für die Inferenz großer Sprachmodelle?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 Aktualisiert 2024-05-13 📅 Erstellt 2023-07-19
24
Xilinx/Vitis-AI

Vitis AI ist der Entwicklungstapel von Xilinx für AI-Inferenz auf Xilinx-Hardwareplattformen, einschließlich Edge-Geräten und Alveo-Karten.

Xilinx
⭐ 1,814 Python 👤 Xilinx Organization 🕐 Aktualisiert 2026-02-24 📅 Erstellt 2019-10-16
26
bytedance/DreamO

[SIGGRAPH Asia 2025] DreamO: Ein einheitlicher Rahmen für die Bildanpassung

bytedance
⭐ 1,651 Python 👤 bytedance Organization 🕐 Aktualisiert 2025-08-14 📅 Erstellt 2025-04-21
27
WisdomShell/codeshell

Eine Reihe von großen Sprachmodellen für Code, die von PKU-KCL entwickelt wurden

WisdomShell
⭐ 1,635 Python 👤 WisdomShell Organization 🕐 Aktualisiert 2024-07-18 📅 Erstellt 2023-09-22
28
mit-han-lab/smoothquant

[ICML 2023] SmoothQuant: Genauer und effizienter Post-Training-Quantisierung für große Sprachmodelle

mit-han-lab
⭐ 1,576 Python 👤 mit-han-lab Organization 🕐 Aktualisiert 2024-07-12 📅 Erstellt 2022-11-17
29
BICLab/SpikingBrain-7B

Spiking Brain-inspired Large Models, die hybride effiziente Attention, MoE-Module und Spike-Kodierung in ihre Architektur integrieren

BICLab
⭐ 1,432 Python 👤 BICLab User 🕐 Aktualisiert 2026-05-14 📅 Erstellt 2025-09-03
30
Vahe1994/AQLM

Offizielle Pytorch-Repository für Extreme Komprimierung von Large Language Models durch additive Quantisierung https://arxiv.org/pdf/2401.06118.pdf und PV-Tuning: Jenseits der Straight-Through-Schätzung für extreme LLM-Komprimierung https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Aktualisiert 2026-02-26 📅 Erstellt 2024-01-12
31
Duxiaoman-DI/XuanYuan

Xuanyuan: Duxiaoman Chinesisches Finanzdialog-Großmodell

Duxiaoman-DI
⭐ 1,323 Python 👤 Duxiaoman-DI Organization 🕐 Aktualisiert 2025-01-07 📅 Erstellt 2023-05-21
32
OpenBuddy/OpenBuddy

Offener mehrsprachiger Chatbot für jedermann

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Aktualisiert 2025-06-08 📅 Erstellt 2023-04-26
33
espressif/esp-dl

Espressif Deep-Learning-Bibliothek für AIoT-Anwendungen

espressif
⭐ 1,232 Assembly 👤 espressif Organization 🕐 Aktualisiert 2026-11-06 📅 Erstellt 2018-11-16
34
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: Standalone autoregressives Bildmodellierung

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 Aktualisiert 2025-11-03 📅 Erstellt 2025-04-03
35
sipeed/TinyMaix

TinyMaix ist eine winzige Inferenzbibliothek für Mikrocontroller (TinyML).

sipeed
⭐ 1,056 C 👤 sipeed Organization 🕐 Aktualisiert 2025-02-05 📅 Erstellt 2022-08-08
⭐ 1,027 Python 👤 microsoft Organization 🕐 Aktualisiert 2024-01-04 📅 Erstellt 2023-07-17
38
nvidia-cosmos/cosmos-reason1

Cosmos-Reason1-Modelle verstehen physischen Weltverstand und generieren durch lange Chain-of-Thought-Argumentationsprozesse angemessene verkörperte Entscheidungen in natürlicher Sprache.

nvidia-cosmos
⭐ 965 Python 👤 nvidia-cosmos Organization 🕐 Aktualisiert 2026-06-07 📅 Erstellt 2025-03-02
39
vivo-ai-lab/BlueLM

BlueLM (Blaues Herz Großes Sprachmodell): Öffentliche große Sprachmodelle, entwickelt vom vivo AI Lab

vivo-ai-lab
⭐ 930 Python 👤 vivo-ai-lab Organization 🕐 Aktualisiert 2024-12-30 📅 Erstellt 2023-10-16
40
wdndev/tiny-llm-zh

Implementierung eines chinesischen großen Sprachmodells mit geringer Parameteranzahl von Grund auf.

wdndev
⭐ 917 Python 👤 wdndev User 🕐 Aktualisiert 2024-08-22 📅 Erstellt 2024-03-03
41
ModelTC/MQBench

Modellquantisierungsbenchmark

ModelTC
⭐ 869 Python 👤 ModelTC Organization 🕐 Aktualisiert 2025-04-20 📅 Erstellt 2021-08-19
42
deepseek-ai/awesome-deepseek-coder

Eine kuratierte Liste von Open-Source-Projekten im Zusammenhang mit DeepSeek Coder

deepseek-ai
⭐ 842 👤 deepseek-ai Organization 🕐 Aktualisiert 2025-11-11 📅 Erstellt 2023-11-06
43
mustafaaljadery/lightning-whisper-mlx

Eine extrem schnelle Implementierung von Whisper, optimiert für Apple Silicon mit MLX.

mustafaaljadery
⭐ 835 Python 👤 mustafaaljadery User 🕐 Aktualisiert 2024-05-08 📅 Erstellt 2024-03-23
44
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (kurz als Hunyuan-A13B), ein innovatives und quelloffenes LLM, das auf einer feingranularen MoE-Architektur basiert.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Aktualisiert 2025-07-08 📅 Erstellt 2025-06-27
45
nunchaku-ai/deepcompressor

Modelkomprimierungs-Toolbox für große Sprachmodelle und Diffusionsmodelle

nunchux-ai
⭐ 799 Python 👤 nunchux-ai Organization 🕐 Aktualisiert 2025-08-14 📅 Erstellt 2024-05-06
46
PaddlePaddle/Paddle-Lite-Demo

lib, Demo, Modell, Daten

PaddlePaddle
⭐ 799 C++ 👤 PaddlePaddle Organization 🕐 Aktualisiert 2025-09-17 📅 Erstellt 2019-08-21
48
EricLBuehler/candle-vllm

Effiziente Plattform für die Inferenz und das Serving lokaler LLMs, einschließlich eines OpenAI-kompatiblen API-Servers.

EricLBuehler
⭐ 742 Rust 👤 EricLBuehler User 🕐 Aktualisiert 2026-10-18 📅 Erstellt 2023-10-29

Häufig gestellte Fragen

1

Welches ist das beliebteste #model-quantization-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#model-quantization-Projekt auf GitHub ist zai-org/ChatGLM-6B mit 41,224 Sternen. ChatGLM-6B: Ein quelloffenes zweisprachiges Dialogsprachenmodell | Offenes zweisprachiges Dialog-Sprachmodell

2

Welche Programmiersprachen werden in #model-quantization-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #model-quantization-Projekten auf GitHub sind Python, Jupyter Notebook, C, Makefile die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #model-quantization-Repositories berechnet?

Wir verfolgen 59 aktive Open-Source-Repositories, die mit #model-quantization getaggt sind (500+ Sterne), mit insgesamt 217,873 Sternen und durchschnittlich 3,692 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.