#gguf リポジトリ
#ggufのタグが付いた、GitHub上の49件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は165,186個で、プロジェクトあたりの平均は3,371個です。このトピックをリードしているのは、39,174個のスターを獲得しているAlexsJones/llmfitです。
リポジトリ合計50件
これは、興味深く最先端の技術的概念と原則を説明することに主に焦点を当てた、簡単な技術科普チュートリアルプロジェクトです。各記事は5分以内に読了できるように努めています。
🛡️ BLA(bla-agents / Blind LLM Agents)— JS/TS、Electron ASAR、WASM、Python、ネイティブバイナリ、SQLite、GGUF/Safetensors、Android DEXをAIリバースエンジニアリングエージェント(REA)から保護する、オープンソースのBlue Defense MCPサーバーおよびCLI。
⚡ 純 Rust 製 WebGPU 推論エンジン — OpenAI API 互換、GGUF ネイティブ対応、あらゆる GPU で動作。Python 不要。llama.cpp 不要。シングルバイナリ。
Atomic Agent はローカルファーストの AI エージェントです。llama.cpp を介して、自分のマシン上でオープンウェイトモデルを実行します。
オフラインAIの「十徳ナイフ」。スマホやMacで、チャット、視覚認識、音声対話、画像生成が可能。GGUF LLM、ビジョン、Whisper音声認識、Stable Diffusion、ツール呼び出し、ローカルネットワークサーバーに対応。CPU、GPU、NPUで動作します。アカウント不要、APIキー不要、データは一切デバイスから外部へ送信されません。
GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)、Hy4-Flash(220B)を自分のGPUで実行できます。8GBのVRAMから対応し、NVIDIAとAMDをサポート。1つのダッシュボードと、OpenAIおよびAnthropic互換APIを利用できます。
Maidはローカルでllama.cppモデルと対話し、Anthropic、DeepSeek、Ollama、Mistral、OpenAIモデルとリモートで連携するための無料オープンソースアプリケーションです。
Ollamaを実践で学ぶ、CPUで大規模モデルをデプロイする、オンライン閲覧アドレス:https://datawhalechina.github.io/handy-ollama/
Apple Silicon向けのネイティブLLM推論サーバー。OpenAIおよびAnthropic APIに対応。Python不要。ZigバックエンドとSwiftフロントエンドを採用したmacOSアプリで、チャット、音楽、音声、動画の生成に対応。
ComfyUIのLLMエージェントフレームワークには、MCPサーバー、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0、FLUXプロンプトノードが含まれており、Feishu、discordにアクセスでき、o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubaoのようなopenai / aisuiteインターフェイスを持つすべてのLLMに適応します。llama-3.3 Janus-Pro、Linkage GraphRAGなどのローカルLLM、VLM、ggufに適応しました。
llama.cpp の Node.js バインディングを使用して、ローカルマシンで AI モデルを実行します。生成レベルでモデル出力に JSON スキーマを強制します。
エージェント向けのローカルAIアプリおよび推論エンジン。オープンウェイトLLMをローカルで実行 — プライベート、PC上で100%オフライン。Discordに参加してください: https://discord.com/invite/8wGSsvmg4V
0.8B〜27Bのオープンな意思決定モデル:1回の処理で各選択肢の確率を適切に較正して提示し、不確かな場合にのみ短い思考を示します。vLLM、llama.cpp、MLX向けエンジン。
Fun-ASR 音声認識モデル。Fun-ASR-Nano では Hugging Face Transformers をネイティブにサポートし、FunASR、vLLM、llama.cpp にはそれぞれ独立したデプロイパスを提供します。
AI/MLモデル、データセット、コード、および構成をOCIアーティファクトにパッケージ化およびバージョン管理するためのCNCFのオープンソースDevOpsツール。
30B~284BのMoEモデル向け、GPU不要のCPU推論(Qwen3.8 176.5Bは28.26/48.35 GiBのCgroup v2コールドキャッシュ環境で認証済み、DeepSeek-V4 284B、Nemotron-30B)+RouteCrack 2.0。
ルート不要のオープンソースAndroid向けリアルタイム画面翻訳ツール。ゲーム、ビジュアルノベル、漫画に最適。端末内およびクラウドOCR、オフラインLLM、複数の翻訳サービス、画面上の翻訳表示、テキスト読み上げ(TTS)に対応。
大規模な AI モデルを自分の PC で実行できます。Strata のエンジンでは Qwen3.8-Flash-Next を、PolyStrata 向けに開発された第 2 のエンジンでは GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder、MiniCPM-V を実行できます。Windows と Linux にワンクリックでインストールでき、localhost で OpenAI/Anthropic API を利用できます。
RAMの容量を超えるMoEモデルを実行。スマートフォン、ノートPC、エッジデバイスで最先端クラスのMoEを。ロスレスで、標準のllama.cpp上で動作。適応型ストリーミングオプティマイザー。あらゆるハードウェア、OS、モデル、量子化に対応し、ローカルのOpenAI互換サーバー経由で利用できます。
jevos:JevおよびMicrosoft-Decision-1に代わるオープンソースの選択肢。ノートPCのCPU上で、確率付きのYes/No判定、選択、スコアリングを実行できます。
テキスト、画像、動画に対応した、0.8B~27Bのオープンなマルチモーダル意思決定モデル。テキストを生成する代わりに、独自の候補に確率を割り当てて判断し、バウンディングボックスで位置を特定します。無料API、ONNX、GGUF、vLLM、SGLangに対応。ファインチューニング用コードも付属。
LLM.swiftは、macOS、iOS、watchOS、tvOS、visionOSで大規模言語モデルと簡単にローカルで対話できる、シンプルで読みやすいライブラリです。
32 GBのノートPCでQwen3-Next-80B(48 GB)を37 tok/sで実行。ドラフトなしでは24 tok/sで、llama.cppの2.8 tok/sを上回ります。読み込み速度は62 tok/s対16 tok/s。Q4_K_Mで比較した13モデルすべてでllama.cppより高速。RAM容量を超えるLLMを、純粋なCでCPUまたはGPU上で実行。
GGUFモデル向けのネイティブ.NET LLM推論エンジンおよびエージェントランタイムです。TensorSharpは、コンソールアプリケーション、Webベースのチャットボットインターフェース、iPhoneアプリ、そしてプログラムからアクセス可能なOllama/OpenAI互換HTTP APIを提供します。Windows、macOS、iOS、Linuxをサポートし、GPUの機能を完全に活用できます。
自分自身の知能で進もう——llama.cppを直接統合し、Linux、macOS、Windows、WebAssembly上でハードウェアアクセラレーションを利用したローカル推論を行うGoアプリケーションを開発しましょう。
ビジョン言語モデル用ComfyUIノード:Qwen3-VL、Moondream 3、Florence-2、SmolVLM2、InternVL、Gemma 3、MiniCPM-V。さらに、オープンボキャブラリー検出、SAM2/SAM3セグメンテーション、動画の時間的推論、llama.cpp経由のGGUF、およびホスト型LLM/VLM APIに対応。
NVIDIA GPU上でStartLux-Decisionモデルを高速かつ正確に推論:公開されたGGUFファイルは、/v1/systemone API経由でint8および4ビットのTensor Core上で動作し、FP8ではvLLMより最大5.3倍低いレイテンシを実現し、回答はビット単位で完全に一致します。
Xolotl:DeepSeek-V4.1-Flashを552Bパラメータすべてで、1台のゲーミングPC(RTX 4090 + RAM 110 GB)上のローカルコーディングエージェントとして実行。エージェント時は約33 tok/s、高速モードでは約41 tok/s、コンテキスト長は512K。さらに、Inkling-2-Mini(Thinking Machines独自エンジン + MTPドラフター)、GLM-5.3-Flash、Qwen3.8、LFM3-Omniにも対応。MoEエキスパートをVRAM、RAM、NVMeに階層的に配置(Xolotl Direct)。OpenAI + Anthropic API。
ggml 上の C++ による音声会話向けの音声合成、音声認識、音声活動検出:Metal、Vulkan、CPU で動作する Qwen3-TTS、Irodori-TTS、Qwen3-ASR、ReazonSpeech、parakeet、Silero VAD。OpenAI 互換サーバーとライブ文字起こしにも対応。
アラビア語優先の生成型音声認識 — Audar-ASR-V1 (Flash + Turbo)。Open Universal Arabic ASR リーダーボードで第1位。モデルカード、ベンチマーク、推論。
よくある質問
GitHubで最も人気のある#ggufリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#ggufプロジェクトは、39,174個のスターを獲得しているAlexsJones/llmfitです。数百のモデルとプロバイダー。ハードウェアで動作するものを探すのに1つのコマンド。
#ggufリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#ggufプロジェクトでは、Python, C++, TypeScript, Rustが最も一般的なプログラミング言語です。
#ggufリポジトリのランキングはどのように算出されていますか?
#ggufのタグが付いた49件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は165,186個で、リポジトリあたりの平均は3,371個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。