Git Stars Git Stars

#quantization リポジトリ

#quantizationのタグが付いた、GitHub上の109件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は487,465個で、プロジェクトあたりの平均は4,472個です。このトピックをリードしているのは、76,171個のスターを獲得しているhiyouga/LlamaFactoryです。

109
リポジトリ総数
487,465
合計スター数
4,472
リポジトリあたりの平均スター数

リポジトリ合計109件

1
hiyouga/LlamaFactory

100以上のLLMとVLMの統一効率ファインチューニング(ACL 2024)

hiyouga
⭐ 76,171 Python 👤 hiyouga User 🕐 更新日時 2026-11-21 📅 作成日 2023-05-28
2
xai-org/grok-1

Grokオープンリリース

xai-org
⭐ 50,567 Python 👤 xai-org Organization 🕐 更新日時 2024-08-30 📅 作成日 2024-03-17
3
microsoft/BitNet

1ビットLLMの公式推論フレームワーク

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 更新日時 2026-07-27 📅 作成日 2024-08-05
4
SYSTRAN/faster-whisper

CTranslate2 による高速 Whisper 転写

SYSTRAN
⭐ 26,924 Python 👤 SYSTRAN Organization 🕐 更新日時 2026-11-12 📅 作成日 2023-02-11
5
kvcache-ai/ktransformers

異種LLM推論/ファインチューニング最適化を体験するための柔軟なフレームワーク

kvcache-ai
⭐ 19,687 Python 👤 kvcache-ai Organization 🕐 更新日時 2026-11-13 📅 作成日 2024-07-26
6
ymcui/Chinese-LLaMA-Alpaca

中国語LLaMA&Alpaca大規模言語モデル+ローカルCPU/GPUトレーニング・デプロイメント (Chinese LLaMA & Alpaca LLMs)

ymcui
⭐ 18,915 Python 👤 ymcui User 🕐 更新日時 2026-04-19 📅 作成日 2023-03-15
7
UFund-Me/Qbot

[🔥更新中...] AI自動定量取引ボット(完全ローカルデプロイ)AI駆動の定量投資リサーチプラットフォーム。 📃 オンラインドキュメント: https://ufund-me.github.io/Qbot ✨ :news: qbot-mini: https://github.com/Charmve/iQuant

UFund-Me
⭐ 18,849 Jupyter Notebook 👤 UFund-Me Organization 🕐 更新日時 2026-03-11 📅 作成日 2022-11-23
8
RyanCodrai/turbovec

TurboQuant上に構築されたベクトルインデックス、Rustで記述されPythonバインディング付き

RyanCodrai
⭐ 17,505 Rust 👤 RyanCodrai User 🕐 更新日時 2026-10-07 📅 作成日 2026-03-26
9
FareedKhan-dev/kimi-k3-in-c

2.78兆パラメータのKimi K3モデルが、8.24GBのRAMを搭載したシングルCPU上で推論を実行。ポータブルなC99実装:BLASなし、フレームワークなし、GPUなし。

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 更新日時 2026-11-16 📅 作成日 2026-08-01
10
artidoro/qlora

QLoRA: 量子化LLMの効率的なファインチューニング

artidoro
⭐ 10,804 Jupyter Notebook 👤 artidoro User 🕐 更新日時 2024-06-10 📅 作成日 2023-05-11
11
bitsandbytes-foundation/bitsandbytes

PyTorchのためのkビット量子化によるアクセス可能な大規模言語モデル。

bitsandbytes-foundation
⭐ 8,548 Python 👤 bitsandbytes-foundation Organization 🕐 更新日時 2026-11-02 📅 作成日 2021-06-04
12
gpu-mode/lectures

gpuモードの講義資料

gpu-mode
⭐ 7,109 Jupyter Notebook 👤 gpu-mode Organization 🕐 更新日時 2026-09-09 📅 作成日 2024-01-20
13
meta-pytorch/gpt-fast

Pythonの1000行未満で、シンプルかつ効率的なPytorchネイティブTransformerテキスト生成。

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 更新日時 2025-08-22 📅 作成日 2023-10-17
14
Lightning-AI/lit-llama

nanoGPTに基づいたLLaMA言語モデルの実装。フラッシュアテンション、Int8およびGPTQ 4ビット量子化、LoRAおよびLLaMA-Adapterファインチューニング、事前トレーニングをサポートします。Apache 2.0ライセンス。

Lightning-AI
⭐ 6,084 Python 👤 Lightning-AI Organization 🕐 更新日時 2025-07-01 📅 作成日 2023-03-22
15
kornelski/pngquant

ロッシー PNG コンプレッサー — libimagequant ライブラリに基づく pngquant コマンド

kornelski
⭐ 5,773 C 👤 kornelski User 🕐 更新日時 2026-10-27 📅 作成日 2009-09-17
16
ztxz16/fastllm

fastllmは、バックエンドに依存しない高性能な大規模言語モデル推論ライブラリです。ほとんどのデバイスで大規模言語モデルを効率よく推論できます。

ztxz16
⭐ 5,133 C++ 👤 ztxz16 User 🕐 更新日時 2026-11-21 📅 作成日 2023-05-13
17
OpenNMT/CTranslate2

Transformer モデル用の高速推論エンジン

OpenNMT
⭐ 4,758 C++ 👤 OpenNMT Organization 🕐 更新日時 2026-11-21 📅 作成日 2019-09-23
18
turboderp-org/exllamav2

最新のコンシューマ向けGPUでLLMをローカル実行するための高速推論ライブラリ

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 更新日時 2026-03-04 📅 作成日 2023-08-30
19
CalvinXKY/InfraTech

AIインフラ知識とコード練習の共有:PyTorch、vLLM/SGLang、slime/vimeフレームワーク入門⚡️、パフォーマンス加速🚀、大規模モデルの基礎🧠、AIソフトウェアとハードウェア🔧など

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 更新日時 2026-09-20 📅 作成日 2025-11-14
20
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention は、FlashAttention と比較して 2~5 倍の高速化を達成し、言語、画像、動画モデル全体の評価指標(エンドツーエンドメトリクス)を損なうことはありません。

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 更新日時 2026-01-17 📅 作成日 2024-10-03
21
vllm-project/llm-compressor

最先端のLLM圧縮技術。vLLMによる本番推論向けに構築

vllm-project
⭐ 3,981 Python 👤 vllm-project Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-06-20
22
nunchux-ai/nunchaku

[ICLR2025 Spotlight] SVDQuant: 4ビット拡散モデルのための低ランクコンポーネントによる外れ値の吸収

nunchux-ai
⭐ 3,969 Python 👤 nunchux-ai Organization 🕐 更新日時 2026-09-06 📅 作成日 2024-11-06
23
NVlabs/VILA

VILAは、エッジ、データセンター、クラウド全体にわたる多様なマルチモーダルAIタスクのための最先端のビジョン言語モデル(VLM)ファミリーです。

NVlabs
⭐ 3,873 Python 👤 NVlabs Organization 🕐 更新日時 2026-03-12 📅 作成日 2024-02-23
24
amitshekhariitbhu/ai-engineering-interview-questions

AIエンジニアリング面接のチートシート – 質問と回答。

amitshekhariitbhu
⭐ 3,707 Markdown 👤 amitshekhariitbhu User 🕐 更新日時 2026-11-21 📅 作成日 2026-03-21
25
mit-han-lab/llm-awq

[MLSys 2024 Best Paper Award] AWQ: LLMの圧縮と加速のためのアクティベーションを意識した重み量子化

mit-han-lab
⭐ 3,590 Python 👤 mit-han-lab Organization 🕐 更新日時 2025-07-17 📅 作成日 2023-06-01
26
huggingface/optimum

使いやすいハードウェア最適化ツールで、🤗 Transformers、Diffusers、TIMM、Sentence Transformers の推論とトレーニングを高速化します

huggingface
⭐ 3,525 Python 👤 huggingface Organization 🕐 更新日時 2026-11-16 📅 作成日 2021-07-20
27
ikawrakow/ik_llama.cpp

追加のSOTAクォントとパフォーマンス改善を備えたllama.cppフォーク

ikawrakow
⭐ 3,411 C++ 👤 ikawrakow User 🕐 更新日時 2026-11-21 📅 作成日 2024-06-27
28
huawei-noah/Pretrained-Language-Model

Huawei Noah's Ark Lab が開発した事前訓練言語モデルとその関連最適化技術。

huawei-noah
⭐ 3,152 Python 👤 huawei-noah Organization 🕐 更新日時 2024-01-22 📅 作成日 2019-12-02
29
mw00/project-maya

GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)、Hy4-Flash(220B)を自分のGPUで実行できます。8GBのVRAMから対応し、NVIDIAとAMDをサポート。1つのダッシュボードと、OpenAIおよびAnthropic互換APIを利用できます。

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-06
30
pytorch/ao

トレーニングおよび推論のための PyTorch ネイティブ量子化

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 更新日時 2026-11-21 📅 作成日 2023-11-03
31
nunchux-ai/ComfyUI-nunchaku

NunchakuのComfyUIプラグイン

nunchux-ai
⭐ 2,934 Python 👤 nunchux-ai Organization 🕐 更新日時 2026-09-06 📅 作成日 2025-03-12
32
black-forest-labs/flux2

FLUX.2 モデル用の公式推論リポジトリ

black-forest-labs
⭐ 2,886 Python 👤 black-forest-labs Organization 🕐 更新日時 2026-03-12 📅 作成日 2025-11-24
33
syv-ai/HyperQwen

実際に所有しているGPUで、大規模なQwenモデルを高速にサーブします。vLLMを使い、24 GBのカード1枚でQwen3.8-27Bを実行:単一ユーザーで127 tok/s(回答がプロンプトを引用する場合は381 tok/s)、64並列で約1,035 tok/s、コンテキスト長は150k~262k。vLLMのパッチ、再量子化パイプライン、ベンチマーク。

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 更新日時 2026-11-10 📅 作成日 2026-08-15
34
qualcomm/aimet

AIMETは、トレーニング済みのニューラルネットワークモデル向けの高度な量子化および圧縮技術を提供するライブラリです。

qualcomm
⭐ 2,748 Python 👤 qualcomm Organization 🕐 更新日時 2026-11-21 📅 作成日 2020-04-21
35
intel/neural-compressor

SOTA低ビットLLM量子化(INT8/FP8/MXFP8/INT4/MXFP4/NVFP4)とスパース性;PyTorch、TensorFlow、ONNX Runtimeにおける最先端のモデル圧縮技術

intel
⭐ 2,733 Python 👤 intel Organization 🕐 更新日時 2026-11-20 📅 作成日 2020-07-21
36
stochasticai/xTuring

独自のLLMを構築、パーソナライズ、制御します。データの前処理からファインチューニングまで、xTuringはオープンソースLLMをパーソナライズする簡単な方法を提供します。Discordコミュニティに参加してください: https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 更新日時 2026-11-05 📅 作成日 2023-03-19
37
adithya-s-k/AI-Engineering.academy

応用AIをマスターする、一度に一つのコンセプトずつ

adithya-s-k
⭐ 2,388 Jupyter Notebook 👤 adithya-s-k User 🕐 更新日時 2026-02-27 📅 作成日 2023-10-05
38
dvmazur/mixtral-offloading

ColabまたはコンシューマーデスクトップでMixtral-8x7Bモデルを実行する

dvmazur
⭐ 2,327 Python 👤 dvmazur User 🕐 更新日時 2024-04-08 📅 作成日 2023-12-15
39
aixcoder-plugin/aiXcoder-7B

aiXcoder-7B コード大規模言語モデルの公式リポジトリ

aixcoder-plugin
⭐ 2,273 Python 👤 aixcoder-plugin Organization 🕐 更新日時 2025-07-09 📅 作成日 2024-03-30
40
666DZY666/micronet

micronet、モデル圧縮およびデプロイライブラリ。圧縮:1、量子化:量子化認識トレーニング(QAT)、高ビット(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、低ビット(≤2b)/三値および二値(TWN/BNN/XNOR-Net);トレーニング後量子化(PTQ)、8ビット(tensorrt);2、プルーニング:通常、規則的およびグループ畳み込みチャネルプルーニング;3、グループ畳み込み構造;4、量子化のためのバッチ正規化融合。デプロイ:tensorrt, fp32/fp16/in

666DZY666
⭐ 2,270 Python 👤 666DZY666 User 🕐 更新日時 2025-05-06 📅 作成日 2019-12-04
41
IST-DASLab/gptq

ICLR 2023論文「GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers」のコード。

IST-DASLab
⭐ 2,241 Python 👤 IST-DASLab Organization 🕐 更新日時 2024-03-27 📅 作成日 2022-10-19
42
RightNow-AI/picolm

256 MB RAMを搭載した$10ボード上で1 億パラメータのLLMを走らせる

RightNow-AI
⭐ 2,218 C 👤 RightNow-AI Organization 🕐 更新日時 2026-02-22 📅 作成日 2026-02-19
43
bigcode-project/starcoder2

StarCoder2 の本拠地!

bigcode-project
⭐ 2,018 Python 👤 bigcode-project Organization 🕐 更新日時 2024-03-21 📅 作成日 2023-12-08
44
intel/intel-extension-for-pytorch

Intelプラットフォームで簡単にパフォーマンスを実現できる公式PyTorchを拡張するためのPythonパッケージ

intel
⭐ 2,012 Python 👤 intel Organization 🕐 更新日時 2026-03-13 📅 作成日 2020-04-15
45
turboderp-org/exllamav3

最新のコンシューマー向けGPUでLLMをローカルで実行するための最適化された量子化および推論ライブラリ

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 更新日時 2026-11-19 📅 作成日 2025-04-06
46
Tencent/AngelSlim

使いやすさ、包括性、効率性を向上させるために設計されたモデル圧縮ツールキット。

Tencent
⭐ 1,811 Python 👤 Tencent Organization 🕐 更新日時 2026-11-20 📅 作成日 2025-07-04
47
OpenPPL/ppq

PPL Quantization Tool (PPQ)は、強力なオフラインニューラルネットワーク量子化ツールです。

OpenPPL
⭐ 1,774 Python 👤 OpenPPL Organization 🕐 更新日時 2024-03-28 📅 作成日 2021-12-30
48
Anemll/Anemll

Artificial Neural Engine Machine Learning Library

Anemll
⭐ 1,710 Python 👤 Anemll User 🕐 更新日時 2026-10-31 📅 作成日 2025-01-06
49
intel/auto-round

PTQレベルの効率性、QATレベルの精度

intel
⭐ 1,706 Python 👤 intel Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-01-04
50
microsoft/onnxruntime-inference-examples

機械学習推論のためのONNX Runtimeの使用例。

microsoft
⭐ 1,703 C++ 👤 microsoft Organization 🕐 更新日時 2026-11-10 📅 作成日 2021-04-09

よくある質問

1

GitHubで最も人気のある#quantizationリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#quantizationプロジェクトは、76,171個のスターを獲得しているhiyouga/LlamaFactoryです。100以上のLLMとVLMの統一効率ファインチューニング(ACL 2024)

2

#quantizationリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#quantizationプロジェクトでは、Python, C++, Jupyter Notebook, Cが最も一般的なプログラミング言語です。

3

#quantizationリポジトリのランキングはどのように算出されていますか?

#quantizationのタグが付いた109件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は487,465個で、リポジトリあたりの平均は4,472個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。