Git Stars Git Stars

#quantization 저장소

#quantization 태그가 지정된 GitHub의 활성 오픈 소스 저장소 109개를 확인해 보세요. 총 487,465개의 스타를 획득했으며 프로젝트당 평균 4,472개입니다. 이 주제를 이끄는 저장소는 76,171개의 스타를 받은 hiyouga/LlamaFactory입니다.

109
총 리포지토리
487,465
총 별점
4,472
리포지토리당 평균 스타 수

저장소 총 109개

1
hiyouga/LlamaFactory

100개 이상의 LLM 및 VLM의 통합 효율적 미세 조정 (ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-05-28
2
xai-org/grok-1

Grok 오픈 릴리스

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 업데이트됨 2024-08-30 📅 생성됨 2024-03-17
3
microsoft/BitNet

1비트 LLM용 공식 추론 프레임워크

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 업데이트됨 2026-07-27 📅 생성됨 2024-08-05
4
SYSTRAN/faster-whisper

CTranslate2를 이용한 더 빠른 Whisper 전사

SYSTRAN
⭐ 26,924 Python 👤 SYSTRAN Organization 🕐 업데이트됨 2026-11-12 📅 생성됨 2023-02-11
5
kvcache-ai/ktransformers

이종 LLM 추론/미세 조정 최적화를 경험하기 위한 유연한 프레임워크

kvcache-ai
⭐ 19,687 Python 👤 kvcache-ai Organization 🕐 업데이트됨 2026-11-13 📅 생성됨 2024-07-26
6
ymcui/Chinese-LLaMA-Alpaca

중국어 LLaMA & Alpaca 대규모 언어 모델 + 로컬 CPU/GPU 학습 및 배포 (Chinese LLaMA & Alpaca LLMs)

ymcui
⭐ 18,915 Python 👤 ymcui User 🕐 업데이트됨 2026-04-19 📅 생성됨 2023-03-15
7
UFund-Me/Qbot

[🔥업데이트 중 ...] AI 자동 정량 거래 봇 (완전 로컬 배포) AI 기반 정량 투자 연구 플랫폼. 📃 온라인 문서: https://ufund-me.github.io/Qbot ✨ :news: qbot-mini: https://github.com/Charmve/iQuant

UFund-Me
⭐ 18,849 Jupyter Notebook 👤 UFund-Me Organization 🕐 업데이트됨 2026-03-11 📅 생성됨 2022-11-23
8
RyanCodrai/turbovec

TurboQuant에 구축된 벡터 인덱스, Rust로 작성되고 Python 바인딩 포함

RyanCodrai
⭐ 17,505 Rust 👤 RyanCodrai User 🕐 업데이트됨 2026-10-07 📅 생성됨 2026-03-26
9
FareedKhan-dev/kimi-k3-in-c

2.78조 개의 파라미터를 가진 Kimi K3 모델이 8.24GB RAM의 단일 CPU에서 추론을 실행함. 포터블 C99: BLAS 없음, 프레임워크 없음, GPU 없음.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 업데이트됨 2026-11-16 📅 생성됨 2026-08-01
10
artidoro/qlora

QLoRA: 양자화된 LLM의 효율적인 파인튜닝

artidoro
⭐ 10,804 Jupyter Notebook 👤 artidoro User 🕐 업데이트됨 2024-06-10 📅 생성됨 2023-05-11
11
bitsandbytes-foundation/bitsandbytes

PyTorch를 위한 k-비트 양자화를 통한 접근 가능한 대형 언어 모델.

bitsandbytes-foundation
⭐ 8,548 Python 👤 bitsandbytes-foundation Organization 🕐 업데이트됨 2026-11-02 📅 생성됨 2021-06-04
12
gpu-mode/lectures

gpu 모드 강의 자료

gpu-mode
⭐ 7,109 Jupyter Notebook 👤 gpu-mode Organization 🕐 업데이트됨 2026-09-09 📅 생성됨 2024-01-20
13
meta-pytorch/gpt-fast

1000줄 미만의 Python 코드로 구현된 간단하고 효율적인 PyTorch 네이티브 트랜스포머 텍스트 생성.

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 업데이트됨 2025-08-22 📅 생성됨 2023-10-17
14
Lightning-AI/lit-llama

nanoGPT 기반 LLaMA 언어 모델 구현. 플래시 어텐션, Int8 및 GPTQ 4비트 양자화, LoRA 및 LLaMA-어댑터 미세 조정, 사전 학습을 지원합니다. Apache 2.0 라이선스.

Lightning-AI
⭐ 6,084 Python 👤 Lightning-AI Organization 🕐 업데이트됨 2025-07-01 📅 생성됨 2023-03-22
15
kornelski/pngquant

손실 PNG 압축기 — libimagequant 라이브러리를 기반으로 한 pngquant 명령어

kornelski
⭐ 5,773 C 👤 kornelski User 🕐 업데이트됨 2026-10-27 📅 생성됨 2009-09-17
16
ztxz16/fastllm

fastllm은 백엔드에 의존하지 않는 고성능 대규모 언어 모델 추론 라이브러리로, 대부분의 기기에서 대규모 언어 모델을 효율적으로 추론할 수 있도록 도와줍니다.

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-05-13
17
OpenNMT/CTranslate2

Transformer 모델을 위한 빠른 추론 엔진

OpenNMT
⭐ 4,758 C++ 👤 OpenNMT Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2019-09-23
18
turboderp-org/exllamav2

최신 소비자급 GPU에서 LLM을 로컬로 실행하기 위한 빠른 추론 라이브러리

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 업데이트됨 2026-03-04 📅 생성됨 2023-08-30
19
CalvinXKY/InfraTech

AI 인프라 지식 및 코드 연습 공유: PyTorch, vLLM/SGLang, slime/vime 프레임워크 입문⚡️, 성능 가속🚀, 대규모 모델 기초🧠, AI 소프트웨어 및 하드웨어🔧 등

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 업데이트됨 2026-09-20 📅 생성됨 2025-11-14
20
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention은 FlashAttention에 비해 2~5배의 속도 향상을 달성했으며, 언어, 이미지, 비디오 모델 전반에 걸쳐 엔드 투 엔드(end-to-end) 지표 손실이 없습니다.

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 업데이트됨 2026-01-17 📅 생성됨 2024-10-03
21
vllm-project/llm-compressor

최첨단 LLM 압축 기술, vLLM을 활용한 프로덕션 추론을 위해 설계

vllm-project
⭐ 3,981 Python 👤 vllm-project Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-06-20
22
nunchux-ai/nunchaku

[ICLR2025 Spotlight] SVDQuant: 4비트 확산 모델을 위한 저계수 성분으로 이상치 흡수

nunchux-ai
⭐ 3,969 Python 👤 nunchux-ai Organization 🕐 업데이트됨 2026-09-06 📅 생성됨 2024-11-06
23
NVlabs/VILA

VILA는 엣지, 데이터 센터, 클라우드 전반의 다양한 멀티모달 AI 작업을 위한 최첨단 비전 언어 모델(VLM) 제품군입니다.

NVlabs
⭐ 3,873 Python 👤 NVlabs Organization 🕐 업데이트됨 2026-03-12 📅 생성됨 2024-02-23
24
amitshekhariitbhu/ai-engineering-interview-questions

AI 엔지니어링 인터뷰 치트 시트 – 질문과 답변.

amitshekhariitbhu
⭐ 3,707 Markdown 👤 amitshekhariitbhu User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-03-21
25
mit-han-lab/llm-awq

[MLSys 2024 최우수 논문상] AWQ: LLM 압축 및 가속을 위한 활성화 인식 가중치 양자화

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 업데이트됨 2025-07-17 📅 생성됨 2023-06-01
26
huggingface/optimum

사용하기 쉬운 하드웨어 최적화 도구로 🤗 Transformers, Diffusers, TIMM 및 Sentence Transformers의 추론 및 학습을 가속화하세요

huggingface
⭐ 3,525 Python 👤 huggingface Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2021-07-20
27
ikawrakow/ik_llama.cpp

추가적인 SOTA 양화 및 성능 향상을 포함한 llama.cpp 포크

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-06-27
28
huawei-noah/Pretrained-Language-Model

Huawei Noah's Ark Lab에서 개발된 사전 훈련 언어 모델 및 관련 최적화 기법.

huawei-noah
⭐ 3,152 Python 👤 huawei-noah Organization 🕐 업데이트됨 2024-01-22 📅 생성됨 2019-12-02
29
mw00/project-maya

GLM-5.3(744B), DeepSeek-V4.1-Flash(748B), MiniMax-M3.1-Flash(428B), GLM-5.3-Flash(321B), Hy4-Flash(220B)를 자체 GPU에서 실행하세요. 8GB VRAM부터 지원하며, NVIDIA와 AMD를 모두 사용할 수 있고, 하나의 대시보드와 OpenAI 및 Anthropic 호환 API를 제공합니다.

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-10-06
30
pytorch/ao

학습 및 추론을 위한 PyTorch 네이티브 양자화

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-11-03
31
nunchux-ai/ComfyUI-nunchaku

Nunchaku의 ComfyUI 플러그인

nunchux-ai
⭐ 2,934 Python 👤 nunchux-ai Organization 🕐 업데이트됨 2026-09-06 📅 생성됨 2025-03-12
32
black-forest-labs/flux2

FLUX.2 모델을 위한 공식 추론 저장소

black-forest-labs
⭐ 2,886 Python 👤 black-forest-labs Organization 🕐 업데이트됨 2026-03-12 📅 생성됨 2025-11-24
33
syv-ai/HyperQwen

실제로 보유한 GPU에서 대형 Qwen 모델을 빠르게 서빙하세요. vLLM을 사용해 24GB 카드 한 장에서 Qwen3.8-27B 실행: 단일 사용자 기준 127 tok/s(응답이 프롬프트를 인용할 때는 381 tok/s), 동시 요청 64개에서 약 1,035 tok/s, 150k~262k 컨텍스트. vLLM 패치, 재양자화 파이프라인, 벤치마크.

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 업데이트됨 2026-11-10 📅 생성됨 2026-08-15
34
qualcomm/aimet

AIMET는 훈련된 신경망 모델에 대한 고급 양자화 및 압축 기술을 제공하는 라이브러리입니다.

qualcomm
⭐ 2,748 Python 👤 qualcomm Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2020-04-21
35
intel/neural-compressor

SOTA 저비트 LLM 양자화(INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) 및 희소성; PyTorch, TensorFlow 및 ONNX Runtime 기반의 선도적인 모델 압축 기술

intel
⭐ 2,733 Python 👤 intel Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2020-07-21
36
stochasticai/xTuring

자신만의 LLM을 구축, 개인화 및 제어하세요. 데이터 사전 처리부터 미세 조정까지 xTuring은 오픈 소스 LLM을 개인화하는 쉬운 방법을 제공합니다. Discord 커뮤니티에 참여하세요: https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 업데이트됨 2026-11-05 📅 생성됨 2023-03-19
37
adithya-s-k/AI-Engineering.academy

응용 AI 마스터하기, 한 번에 하나의 개념씩

adithya-s-k
⭐ 2,388 Jupyter Notebook 👤 adithya-s-k User 🕐 업데이트됨 2026-02-27 📅 생성됨 2023-10-05
38
dvmazur/mixtral-offloading

Colab 또는 소비자 데스크톱에서 Mixtral-8x7B 모델 실행

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 업데이트됨 2024-04-08 📅 생성됨 2023-12-15
39
aixcoder-plugin/aiXcoder-7B

aiXcoder-7B 코드 대규모 언어 모델의 공식 리포지토리

aixcoder-plugin
⭐ 2,273 Python 👤 aixcoder-plugin Organization 🕐 업데이트됨 2025-07-09 📅 생성됨 2024-03-30
40
666DZY666/micronet

micronet, 모델 압축 및 배포 라이브러리. 압축: 1、양자화: 양자화 인식 훈련(QAT), 고비트(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、저비트(≤2b)/삼원 및 이원(TWN/BNN/XNOR-Net); 훈련 후 양자화(PTQ), 8-bit(tensorrt); 2、 가지치기: 일반、규칙적 및 그룹 컨볼루션 채널 가지치기; 3、 그룹 컨볼루션 구조; 4、배치 정규화 융합을 위한 양자화. 배포: tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 업데이트됨 2025-05-06 📅 생성됨 2019-12-04
41
IST-DASLab/gptq

ICLR 2023 논문 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers"의 코드입니다.

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 업데이트됨 2024-03-27 📅 생성됨 2022-10-19
42
RightNow-AI/picolm

256 MB RAM이 장착된 $10 보드에서 10억 파라미터의 LLM을 실행합니다.

RightNow-AI
⭐ 2,218 C 👤 RightNow-AI Organization 🕐 업데이트됨 2026-02-22 📅 생성됨 2026-02-19
43
bigcode-project/starcoder2

StarCoder2의 본고장!

bigcode-project
⭐ 2,018 Python 👤 bigcode-project Organization 🕐 업데이트됨 2024-03-21 📅 생성됨 2023-12-08
44
intel/intel-extension-for-pytorch

Intel 플랫폼에서 쉽게 성능을 얻을 수 있는 공식 PyTorch를 확장하기 위한 Python 패키지

intel
⭐ 2,012 Python 👤 intel Organization 🕐 업데이트됨 2026-03-13 📅 생성됨 2020-04-15
45
turboderp-org/exllamav3

최신 소비자급 GPU에서 LLM을 로컬로 실행하기 위한 최적화된 양자화 및 추론 라이브러리

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2025-04-06
46
Tencent/AngelSlim

향상된 사용성, 포괄성 및 효율성을 위해 설계된 모델 압축 툴킷.

Tencent
⭐ 1,811 Python 👤 Tencent Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-07-04
47
OpenPPL/ppq

PPL Quantization Tool (PPQ)는 강력한 오프라인 신경망 양자화 도구입니다.

OpenPPL
⭐ 1,774 Python 👤 OpenPPL Organization 🕐 업데이트됨 2024-03-28 📅 생성됨 2021-12-30
48
Anemll/Anemll

Artificial Neural Engine Machine Learning Library

Anemll
⭐ 1,710 Python 👤 Anemll User 🕐 업데이트됨 2026-10-31 📅 생성됨 2025-01-06
49
intel/auto-round

PTQ 수준의 효율성, QAT 수준의 정확도

intel
⭐ 1,706 Python 👤 intel Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-01-04
50
microsoft/onnxruntime-inference-examples

머신러닝 추론을 위한 ONNX Runtime 사용 예제.

microsoft
⭐ 1,703 C++ 👤 microsoft Organization 🕐 업데이트됨 2026-11-10 📅 생성됨 2021-04-09

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #quantization 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #quantization 프로젝트는 76,171개의 스타를 받은 hiyouga/LlamaFactory입니다. 100개 이상의 LLM 및 VLM의 통합 효율적 미세 조정 (ACL 2024)

2

#quantization 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #quantization 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, C++, Jupyter Notebook, C입니다.

3

#quantization 저장소 순위는 어떻게 계산되나요?

#quantization 태그가 지정된 활성 오픈 소스 저장소(109개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 487,465개이며 저장소당 평균 4,472개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.