Git Stars Git Stars

#gguf リポジトリ

#ggufのタグが付いた、GitHub上の49件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は165,186個で、プロジェクトあたりの平均は3,371個です。このトピックをリードしているのは、39,174個のスターを獲得しているAlexsJones/llmfitです。

49
リポジトリ総数
165,186
合計スター数
3,371
リポジトリあたりの平均スター数

リポジトリ合計50件

1
AlexsJones/llmfit

数百のモデルとプロバイダー。ハードウェアで動作するものを探すのに1つのコマンド。

AlexsJones
⭐ 39,174 Rust 👤 AlexsJones User 🕐 更新日時 2026-11-18 📅 作成日 2026-02-15
2
mozilla-ai/llamafile

単一のファイルでLLMを配布および実行します。

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 更新日時 2026-11-09 📅 作成日 2023-09-10
3
MakazhanAlpamys/Soup

1つのYAMLからLLMを微調整。レイヤーストリーミングにより、4GBのノートPC GPUで8Bモデルをトレーニング。

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 更新日時 2026-11-21 📅 作成日 2026-02-20
4
karminski/one-small-step

これは、興味深く最先端の技術的概念と原則を説明することに主​​に焦点を当てた、簡単な技術科普チュートリアルプロジェクトです。各記事は5分以内に読了できるように努めています。

karminski
⭐ 7,006 Python 👤 karminski User 🕐 更新日時 2026-03-08 📅 作成日 2025-01-16
5
qybaihe/bla

🛡️ BLA(bla-agents / Blind LLM Agents)— JS/TS、Electron ASAR、WASM、Python、ネイティブバイナリ、SQLite、GGUF/Safetensors、Android DEXをAIリバースエンジニアリングエージェント(REA)から保護する、オープンソースのBlue Defense MCPサーバーおよびCLI。

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-25
6
Michael-A-Kuykendall/shimmy

⚡ 純 Rust 製 WebGPU 推論エンジン — OpenAI API 互換、GGUF ネイティブ対応、あらゆる GPU で動作。Python 不要。llama.cpp 不要。シングルバイナリ。

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 更新日時 2026-11-12 📅 作成日 2025-08-28
7
ngxson/smolvlm-realtime-webcam

SmolVLMとllama.cppサーバーによるリアルタイムWebカメラデモ

ngxson
⭐ 5,555 HTML 👤 ngxson User 🕐 更新日時 2025-05-12 📅 作成日 2025-05-12
8
city96/ComfyUI-GGUF

ネイティブComfyUIモデルのGGUF量子化サポート

city96
⭐ 4,284 Python 👤 city96 User 🕐 更新日時 2026-01-12 📅 作成日 2024-08-15
9
AtomicBot-ai/atomic-agent

Atomic Agent はローカルファーストの AI エージェントです。llama.cpp を介して、自分のマシン上でオープンウェイトモデルを実行します。

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-04-21
10
off-grid-ai/OGAM

オフラインAIの「十徳ナイフ」。スマホやMacで、チャット、視覚認識、音声対話、画像生成が可能。GGUF LLM、ビジョン、Whisper音声認識、Stable Diffusion、ツール呼び出し、ローカルネットワークサーバーに対応。CPU、GPU、NPUで動作します。アカウント不要、APIキー不要、データは一切デバイスから外部へ送信されません。

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-01-29
11
mw00/project-maya

GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)、Hy4-Flash(220B)を自分のGPUで実行できます。8GBのVRAMから対応し、NVIDIAとAMDをサポート。1つのダッシュボードと、OpenAIおよびAnthropic互換APIを利用できます。

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-06
12
Mobile-Artificial-Intelligence/maid

Maidはローカルでllama.cppモデルと対話し、Anthropic、DeepSeek、Ollama、Mistral、OpenAIモデルとリモートで連携するための無料オープンソースアプリケーションです。

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 更新日時 2026-10-29 📅 作成日 2023-10-17
13
datawhalechina/handy-ollama

Ollamaを実践で学ぶ、CPUで大規模モデルをデプロイする、オンライン閲覧アドレス:https://datawhalechina.github.io/handy-ollama/

datawhalechina
⭐ 2,560 Jupyter Notebook 👤 datawhalechina Organization 🕐 更新日時 2026-01-15 📅 作成日 2024-07-30
14
ddalcu/mlx-serve

Apple Silicon向けのネイティブLLM推論サーバー。OpenAIおよびAnthropic APIに対応。Python不要。ZigバックエンドとSwiftフロントエンドを採用したmacOSアプリで、チャット、音楽、音声、動画の生成に対応。

ddalcu
⭐ 2,528 Zig 👤 ddalcu User 🕐 更新日時 2026-11-21 📅 作成日 2026-02-17
15
heshengtao/comfyui_LLM_party

ComfyUIのLLMエージェントフレームワークには、MCPサーバー、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0、FLUXプロンプトノードが含まれており、Feishu、discordにアクセスでき、o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubaoのようなopenai / aisuiteインターフェイスを持つすべてのLLMに適応します。llama-3.3 Janus-Pro、Linkage GraphRAGなどのローカルLLM、VLM、ggufに適応しました。

heshengtao
⭐ 2,393 Python 👤 heshengtao User 🕐 更新日時 2026-07-29 📅 作成日 2024-04-13
16
withcatai/node-llama-cpp

llama.cpp の Node.js バインディングを使用して、ローカルマシンで AI モデルを実行します。生成レベルでモデル出力に JSON スキーマを強制します。

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 更新日時 2026-11-18 📅 作成日 2023-08-12
17
handy-computer/transcribe.cpp

16以上のモデルファミリーに対応したggml音声認識推論

handy-computer
⭐ 2,194 C++ 👤 handy-computer Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-04-07
18
AtomicBot-ai/Atomic-Chat

エージェント向けのローカルAIアプリおよび推論エンジン。オープンウェイトLLMをローカルで実行 — プライベート、PC上で100%オフライン。Discordに参加してください: https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 更新日時 2026-11-19 📅 作成日 2026-03-31
19
sammcj/gollama

Ollama モデルを管理する

sammcj
⭐ 1,849 Go 👤 sammcj User 🕐 更新日時 2026-10-21 📅 作成日 2024-05-30
20
StartLuxLabs/StartLux-Decision

0.8B〜27Bのオープンな意思決定モデル:1回の処理で各選択肢の確率を適切に較正して提示し、不確かな場合にのみ短い思考を示します。vLLM、llama.cpp、MLX向けエンジン。

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 更新日時 2026-10-23 📅 作成日 2026-09-29
21
intel/auto-round

PTQレベルの効率性、QATレベルの精度

intel
⭐ 1,706 Python 👤 intel Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-01-04
22
nobodywho-ooo/nobodywho

NobodyWho は、LLM をローカルで効率的に、あらゆるデバイス上で実行できるようにする推論エンジンです。

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 更新日時 2026-11-19 📅 作成日 2024-09-03
23
LlamaEdge/LlamaEdge

ローカルまたはエッジでカスタマイズおよびファインチューニングされたLLMを実行するための最も簡単で最速の方法

LlamaEdge
⭐ 1,665 Rust 👤 LlamaEdge Organization 🕐 更新日時 2026-02-08 📅 作成日 2023-10-09
24
QwenAudio/Fun-ASR

Fun-ASR 音声認識モデル。Fun-ASR-Nano では Hugging Face Transformers をネイティブにサポートし、FunASR、vLLM、llama.cpp にはそれぞれ独立したデプロイパスを提供します。

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 更新日時 2026-11-20 📅 作成日 2025-12-15
25
kitops-ml/kitops

AI/MLモデル、データセット、コード、および構成をOCIアーティファクトにパッケージ化およびバージョン管理するためのCNCFのオープンソースDevOpsツール。

kitops-ml
⭐ 1,451 Go 👤 kitops-ml Organization 🕐 更新日時 2026-11-20 📅 作成日 2024-02-02
26
edwko/OuteTTS

OuteTTSモデルのインターフェース。

edwko
⭐ 1,440 Python 👤 edwko User 🕐 更新日時 2026-03-23 📅 作成日 2024-11-04
27
synchopate/llama-modchip

30B~284BのMoEモデル向け、GPU不要のCPU推論(Qwen3.8 176.5Bは28.26/48.35 GiBのCgroup v2コールドキャッシュ環境で認証済み、DeepSeek-V4 284B、Nemotron-30B)+RouteCrack 2.0。

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-29
28
ciddwd/overlay-translator

ルート不要のオープンソースAndroid向けリアルタイム画面翻訳ツール。ゲーム、ビジュアルノベル、漫画に最適。端末内およびクラウドOCR、オフラインLLM、複数の翻訳サービス、画面上の翻訳表示、テキスト読み上げ(TTS)に対応。

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 更新日時 2026-11-16 📅 作成日 2026-06-22
29
simplexai-labs/PolyStrata

大規模な AI モデルを自分の PC で実行できます。Strata のエンジンでは Qwen3.8-Flash-Next を、PolyStrata 向けに開発された第 2 のエンジンでは GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder、MiniCPM-V を実行できます。Windows と Linux にワンクリックでインストールでき、localhost で OpenAI/Anthropic API を利用できます。

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 更新日時 2026-11-18 📅 作成日 2026-10-06
30
wici-ai/inferssd

SSDからMoEエキスパートをストリーミングすることで、RAMやVRAMの容量を超えるモデルを実行できます。llama.cppをベースに構築。

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-10-22
31
Helldez/BigMoeOnEdge

RAMの容量を超えるMoEモデルを実行。スマートフォン、ノートPC、エッジデバイスで最先端クラスのMoEを。ロスレスで、標準のllama.cpp上で動作。適応型ストリーミングオプティマイザー。あらゆるハードウェア、OS、モデル、量子化に対応し、ローカルのOpenAI互換サーバー経由で利用できます。

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 更新日時 2026-11-21 📅 作成日 2026-07-10
32
jegly/Box

現在、Androidで利用可能な最も先進的で完全にオフラインのクライアントサイドAIスイート。

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 更新日時 2026-11-21 📅 作成日 2026-04-17
33
sgaofen/humanizer-local-model

AIの下書きを人が書いたような文章に書き換えます。ローカルで動作し、事実はそのまま保持します

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 更新日時 2026-10-19 📅 作成日 2026-09-11
34
feder-cr/jev

jevos:JevおよびMicrosoft-Decision-1に代わるオープンソースの選択肢。ノートPCのCPU上で、確率付きのYes/No判定、選択、スコアリングを実行できます。

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 更新日時 2026-10-18 📅 作成日 2024-08-15
35
alvarobartt/hf-mem

Pythonで書かれた、Hugging Faceモデルの推論メモリ要件を推定するCLIです。

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 更新日時 2026-11-20 📅 作成日 2025-12-22
36
Valen-Team/Valen

テキスト、画像、動画に対応した、0.8B~27Bのオープンなマルチモーダル意思決定モデル。テキストを生成する代わりに、独自の候補に確率を割り当てて判断し、バウンディングボックスで位置を特定します。無料API、ONNX、GGUF、vLLM、SGLangに対応。ファインチューニング用コードも付属。

Valen-Team
⭐ 932 Python 👤 Valen-Team Organization 🕐 更新日時 2026-11-15 📅 作成日 2026-09-23
37
eastriverlee/LLM.swift

LLM.swiftは、macOS、iOS、watchOS、tvOS、visionOSで大規模言語モデルと簡単にローカルで対話できる、シンプルで読みやすいライブラリです。

eastriverlee
⭐ 883 Swift 👤 eastriverlee User 🕐 更新日時 2026-07-19 📅 作成日 2023-12-02
38
mukel/llama3.java

純粋なJavaでのLlama 3+推論

mukel
⭐ 818 Java 👤 mukel User 🕐 更新日時 2026-04-24 📅 作成日 2024-04-25
39
SimpleBerry/LLaMA-O1

大規模推論モデル

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 更新日時 2024-12-03 📅 作成日 2024-10-10
40
prabanta-dev/janas

32 GBのノートPCでQwen3-Next-80B(48 GB)を37 tok/sで実行。ドラフトなしでは24 tok/sで、llama.cppの2.8 tok/sを上回ります。読み込み速度は62 tok/s対16 tok/s。Q4_K_Mで比較した13モデルすべてでllama.cppより高速。RAM容量を超えるLLMを、純粋なCでCPUまたはGPU上で実行。

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-09-20
41
zhongkaifu/TensorSharp

GGUFモデル向けのネイティブ.NET LLM推論エンジンおよびエージェントランタイムです。TensorSharpは、コンソールアプリケーション、Webベースのチャットボットインターフェース、iPhoneアプリ、そしてプログラムからアクセス可能なOllama/OpenAI互換HTTP APIを提供します。Windows、macOS、iOS、Linuxをサポートし、GPUの機能を完全に活用できます。

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 更新日時 2026-11-20 📅 作成日 2026-04-03
42
hybridgroup/yzma

自分自身の知能で進もう——llama.cppを直接統合し、Linux、macOS、Windows、WebAssembly上でハードウェアアクセラレーションを利用したローカル推論を行うGoアプリケーションを開発しましょう。

hybridgroup
⭐ 677 Go 👤 hybridgroup Organization 🕐 更新日時 2026-11-19 📅 作成日 2025-09-21
43
gokayfem/ComfyUI_VLM_nodes

ビジョン言語モデル用ComfyUIノード:Qwen3-VL、Moondream 3、Florence-2、SmolVLM2、InternVL、Gemma 3、MiniCPM-V。さらに、オープンボキャブラリー検出、SAM2/SAM3セグメンテーション、動画の時間的推論、llama.cpp経由のGGUF、およびホスト型LLM/VLM APIに対応。

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 更新日時 2026-08-08 📅 作成日 2024-01-24
44
kelindar/search

llama.cppを使用した、組み込みベクトル検索およびセマンティック埋め込みのためのGoライブラリ

kelindar
⭐ 561 Go 👤 kelindar User 🕐 更新日時 2026-09-19 📅 作成日 2024-09-29
45
StartLuxLabs/StartLux-Prism

NVIDIA GPU上でStartLux-Decisionモデルを高速かつ正確に推論:公開されたGGUFファイルは、/v1/systemone API経由でint8および4ビットのTensor Core上で動作し、FP8ではvLLMより最大5.3倍低いレイテンシを実現し、回答はビット単位で完全に一致します。

StartLuxLabs
⭐ 560 Python 👤 StartLuxLabs Organization 🕐 更新日時 2026-10-27 📅 作成日 2026-10-13
46
Indras-Mirror/Xolotl

Xolotl:DeepSeek-V4.1-Flashを552Bパラメータすべてで、1台のゲーミングPC(RTX 4090 + RAM 110 GB)上のローカルコーディングエージェントとして実行。エージェント時は約33 tok/s、高速モードでは約41 tok/s、コンテキスト長は512K。さらに、Inkling-2-Mini(Thinking Machines独自エンジン + MTPドラフター)、GLM-5.3-Flash、Qwen3.8、LFM3-Omniにも対応。MoEエキスパートをVRAM、RAM、NVMeに階層的に配置(Xolotl Direct)。OpenAI + Anthropic API。

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-06
47
dllm-labs/mojo-dllm

Mojoで記述された拡散言語モデル(LLaDA、Dream)のローカル推論

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-10-04
48
nyosegawa/speech.cpp

ggml 上の C++ による音声会話向けの音声合成、音声認識、音声活動検出:Metal、Vulkan、CPU で動作する Qwen3-TTS、Irodori-TTS、Qwen3-ASR、ReazonSpeech、parakeet、Silero VAD。OpenAI 互換サーバーとライブ文字起こしにも対応。

nyosegawa
⭐ 510 C++ 👤 nyosegawa User 🕐 更新日時 2026-11-20 📅 作成日 2026-09-29
49
AudarAI/Audar-ASR-V1

アラビア語優先の生成型音声認識 — Audar-ASR-V1 (Flash + Turbo)。Open Universal Arabic ASR リーダーボードで第1位。モデルカード、ベンチマーク、推論。

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 更新日時 2026-08-22 📅 作成日 2026-07-06
50
withcatai/catai

シンプルなNode.js用APIで、AI ✨アシスタントをローカルで実行しましょう!🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 更新日時 2025-11-16 📅 作成日 2023-03-25

よくある質問

1

GitHubで最も人気のある#ggufリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#ggufプロジェクトは、39,174個のスターを獲得しているAlexsJones/llmfitです。数百のモデルとプロバイダー。ハードウェアで動作するものを探すのに1つのコマンド。

2

#ggufリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#ggufプロジェクトでは、Python, C++, TypeScript, Rustが最も一般的なプログラミング言語です。

3

#ggufリポジトリのランキングはどのように算出されていますか?

#ggufのタグが付いた49件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は165,186個で、リポジトリあたりの平均は3,371個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。