Git Stars Git Stars

#local-llm リポジトリ

122
リポジトリ総数
383,928
合計スター数
3,146
リポジトリあたりの平均スター数

リポジトリ合計122件

51
theroyallab/tabbyAPI

Exllamaの公式APIサーバー。OAI互換、軽量、高速。

theroyallab
⭐ 1,531 Python 👤 theroyallab Organization 🕐 更新日時 2026-11-14 📅 作成日 2023-11-10
52
ARahim3/mlx-tune

Apple Silicon搭載のMacでLLMをファインチューニング。SFT、DPO、GRPO、Vision、TTS、STT、Embedding、OCRのファインチューニング — MLX上でネイティブ対応。Unsloth互換API。

ARahim3
⭐ 1,475 Python 👤 ARahim3 User 🕐 更新日時 2026-06-23 📅 作成日 2026-01-03
53
jofizcd/Soul-of-Waifu

🌌 お気に入りのキャラクターに魂を吹き込みましょう。Soul of Waifuは、Live2D/VRMアバター、音声チャット、ローカルLLMを搭載したデスクトップ向けロールプレイ&AIコンパニオンアプリです。没入感のあるチャットやRPGアドベンチャーを通じて、デスクトップで一緒に成長しましょう。

jofizcd
⭐ 1,474 Python 👤 jofizcd User 🕐 更新日時 2026-08-28 📅 作成日 2023-09-02
54
obsei/obsei

オープンソースでプライバシーを最優先する顧客の声(VoC)分析ツール。EnterpretやUnwrapに代わるセルフホスト型の選択肢で、LLMがフィードバックを処理する前に個人情報を削除します。

obsei
⭐ 1,454 Python 👤 obsei Organization 🕐 更新日時 2026-11-15 📅 作成日 2020-10-25
55
peonist-ai/halogen-flash-server

最先端APIのように動作するローカル推論:AMD Strix Halo上のQwen3.8-Flash-Nextと小型NPUモデルを、OpenAIおよびAnthropicのAPI経由で単一ポートから利用。

peonist-ai
⭐ 1,412 Shell 👤 peonist-ai Organization 🕐 更新日時 2026-11-18 📅 作成日 2026-08-26
56
synchopate/llama-modchip

30B~284BのMoEモデル向け、GPU不要のCPU推論(Qwen3.8 176.5Bは28.26/48.35 GiBのCgroup v2コールドキャッシュ環境で認証済み、DeepSeek-V4 284B、Nemotron-30B)+RouteCrack 2.0。

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-29
57
linyiLYi/voice-assistant

Whisperと大規模言語モデルを備えたローカル音声アシスタントのシンプルなトイデモ。

linyiLYi
⭐ 1,329 Python 👤 linyiLYi User 🕐 更新日時 2024-04-30 📅 作成日 2023-12-09
58
simplexai-labs/PolyStrata

大規模な AI モデルを自分の PC で実行できます。Strata のエンジンでは Qwen3.8-Flash-Next を、PolyStrata 向けに開発された第 2 のエンジンでは GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder、MiniCPM-V を実行できます。Windows と Linux にワンクリックでインストールでき、localhost で OpenAI/Anthropic API を利用できます。

simplexai-labs
⭐ 1,324 C++ 👤 simplexai-labs Organization 🕐 更新日時 2026-11-18 📅 作成日 2026-10-06
59
ASCIT31/Dark-Moon

オープンソースの自律型AIペネトレーションテスト。Web、API、クラウド、Active Directory、Kubernetes、CI/CD、AI/LLM(OWASP LLM Top 10)を対象とする50の専門エージェントを搭載し、証拠検証済みの攻撃経路グラフを提供します。プライバシーゲートウェイの背後にあるローカルLLM上で動作します。GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana、Splunkと統合できます。

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-11-26
60
wici-ai/inferssd

SSDからMoEエキスパートをストリーミングすることで、RAMやVRAMの容量を超えるモデルを実行できます。llama.cppをベースに構築。

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-10-22
61
HelgeSverre/ollama-gui

ollama APIを介してローカルLLMとチャットするためのWebインターフェース

HelgeSverre
⭐ 1,272 TypeScript 👤 HelgeSverre User 🕐 更新日時 2026-11-16 📅 作成日 2023-10-08
62
DasterProkio/awesome-ai-companion

オープンソースAIコンパニオン、デスクトップペット、長期記憶&自発的チャット。人間とAIの恋愛オープンソースプロジェクト大全。公式クライアントから独立してローカルで存在し、記憶と能動性を備えたAIを実現します。

DasterProkio
⭐ 1,248 HTML 👤 DasterProkio User 🕐 更新日時 2026-11-21 📅 作成日 2026-07-03
63
0xSojalSec/LLMs-local

LLMをローカルで実行するための素晴らしいプラットフォーム、ツール、リソースのリスト

0xSojalSec
⭐ 1,206 👤 0xSojalSec User 🕐 更新日時 2026-06-10 📅 作成日 2025-12-17
64
StayLameBro/backburner

iPhoneがMacによる270億パラメータモデルの実行を支援:USB-Cケーブル経由でプロンプトの読み込みが高速化し、より長いコンテキストに対応

StayLameBro
⭐ 1,195 Python 👤 StayLameBro User 🕐 更新日時 2026-11-07 📅 作成日 2026-10-01
65
mrphrazer/reverser_ai

消費者向けハードウェア上のローカル大規模言語モデル(LLM)を活用した自動リバースエンジニアリング支援を提供します。

mrphrazer
⭐ 1,176 Python 👤 mrphrazer User 🕐 更新日時 2026-05-20 📅 作成日 2024-03-17
66
AllAboutAI-YT/easy-local-rag

Ollama + Email RAG による超簡単 100% ローカル RAG

AllAboutAI-YT
⭐ 1,175 Python 👤 AllAboutAI-YT User 🕐 更新日時 2024-06-04 📅 作成日 2024-04-15
67
agents-io/PokeClaw

PokeClaw (PocketClaw) — Androidスマホを制御する初のオンデバイスAI。Gemma 4、クラウド不要、APIキー不要。PokeはPocketの略。

agents-io
⭐ 1,165 Kotlin 👤 agents-io Organization 🕐 更新日時 2026-06-02 📅 作成日 2026-04-06
68
hyperionaidev/smolmaxxing

できるだけ小さなデバイスで、さまざまなLLMを実行する能力を最大限に高める

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 更新日時 2026-11-19 📅 作成日 2026-11-04
69
pguso/agents-from-scratch

フレームワークもクラウドAPIも隠れた推論も使わずに、ローカルLLMでゼロからAIエージェントを構築します。

pguso
⭐ 1,079 Python 👤 pguso User 🕐 更新日時 2026-07-25 📅 作成日 2025-12-22
70
mrkrsl/web-search-mcp

ローカル LLM に使用するためのシンプルなローカルホスト型 Web 検索 MCP サーバー

mrkrsl
⭐ 1,072 TypeScript 👤 mrkrsl User 🕐 更新日時 2025-08-08 📅 作成日 2025-06-27
71
pepperoni21/ollama-rs

Ollama APIと対話するためのシンプルで使いやすいライブラリです。

pepperoni21
⭐ 1,062 Rust 👤 pepperoni21 User 🕐 更新日時 2026-11-18 📅 作成日 2023-11-02
72
metadist/synaplan

フローを自在に操る。知識、モデル、チャネルを一元化するオープンソースAIプラットフォーム。Web、WhatsApp、メール、Outlook、Nextcloud、ownCloudに対応。ローカルモデルとクラウドモデルを並べて利用でき、回答ごとのコストも確認できます。

metadist
⭐ 1,045 PHP 👤 metadist Organization 🕐 更新日時 2026-11-21 📅 作成日 2025-03-30
73
PotterRemember37/Capri-AI-Desktop

Capri —『エッジランナーズ』に着想を得たデスクトップ向けAIエージェント。Claude 3.7、Claude Code、OpenAI、ローカルのOllama/LLaMAに対応。音声チャット機能付きのカスタマイズ可能なAIワイフコンパニオン。

PotterRemember37
⭐ 1,040 Python 👤 PotterRemember37 User 🕐 更新日時 2026-11-11 📅 作成日 2026-08-15
74
jegly/Box

現在、Androidで利用可能な最も先進的で完全にオフラインのクライアントサイドAIスイート。

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 更新日時 2026-11-21 📅 作成日 2026-04-17
75
kennss/SiliconScope

sudo不要のApple Siliconシステムモニター(ネイティブSwiftUI GUI)、ANE / メディアエンジン / メモリ帯域幅追跡機能付き

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 更新日時 2026-11-20 📅 作成日 2026-06-08
76
wangeai/K3Flight

Kimi K3をCPU上でローカル実行します(測定実行時RAMは約55GB)。cPilot Runtimeを搭載したシングルファイルのLinux推論サーバーです。

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 更新日時 2026-07-31 📅 作成日 2026-07-30
77
sgaofen/humanizer-local-model

AIの下書きを人が書いたような文章に書き換えます。ローカルで動作し、事実はそのまま保持します

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 更新日時 2026-10-19 📅 作成日 2026-09-11
78
OleksandrChekhovskyi/hax

Cで書かれた、ミニマリストでターミナルネイティブなコーディングエージェント。

OleksandrChekhovskyi
⭐ 1,006 C 👤 OleksandrChekhovskyi User 🕐 更新日時 2026-11-13 📅 作成日 2026-04-24
79
patruff/ollama-mcp-bridge

OllamaとMCPサーバー間のブリッジ。ローカルLLMがモデルコンテキストプロトコルツールを使用できるようにします

patruff
⭐ 973 TypeScript 👤 patruff User 🕐 更新日時 2025-04-20 📅 作成日 2024-12-12
80
feder-cr/jev

jevos:JevおよびMicrosoft-Decision-1に代わるオープンソースの選択肢。ノートPCのCPU上で、確率付きのYes/No判定、選択、スコアリングを実行できます。

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 更新日時 2026-10-18 📅 作成日 2024-08-15
81
kossakovsky/selfhost-ai

自分のサーバーにセルフホスト型 AI スタックをワンコマンドでインストール:n8n、Ollama、Open WebUI、OpenClaw、Dify、Flowise、Supabase、ComfyUI、Qdrant など30以上のツールに対応。Docker Compose、Caddy による HTTPS の自動設定、監視機能を内蔵。無料で使える Zapier/Make の代替サービス。

kossakovsky
⭐ 964 Shell 👤 kossakovsky User 🕐 更新日時 2026-10-27 📅 作成日 2025-05-05
82
orneryd/NornicDB

Nornicdbは、分散型低遅延のGraph+VectorおよびTemporal MVCCデータベースであり、すべてのHNSW検索、グラフ探索、書き込みにおいてサブミリ秒の応答を実現します。Neo4j Bolt/CypherおよびqdrantのgRPCを使用しているため、コードを変更することなく移行でき、さらにスキーマ、管理された埋め込み、リランキング+LLM、GPUアクセラレーション、Auto-TLP、ポリシーベースのメモリ減衰、MCPサーバーといったインテリジェントな機能を追加できます。

orneryd
⭐ 933 Go 👤 orneryd User 🕐 更新日時 2026-11-21 📅 作成日 2025-12-06
83
mrdbourke/simple-local-rag

RAG(Retrieval Augmented Generation)パイプラインを一から構築し、すべてローカルで実行できるようにします。

mrdbourke
⭐ 923 Jupyter Notebook 👤 mrdbourke User 🕐 更新日時 2024-05-25 📅 作成日 2024-03-13
84
hehehai/VoxtMini

ローカルモデルを使ったmacOS向け音声入力:あらゆるアプリで文字起こし、翻訳、書き換えができます。Voxtの後継アプリ。

hehehai
⭐ 916 Go 👤 hehehai User 🕐 更新日時 2026-11-21 📅 作成日 2026-02-26
85
genex-games/genex-desktop

AIネイティブなゲーム開発のためのオープンソースデスクトップアプリ。ローカルモデルを含むあらゆるAIを使って、Unreal Engine、Unity、Godot、Roblox、Three.jsで開発できます。

genex-games
⭐ 901 TypeScript 👤 genex-games Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-10-02
86
bernardo-bruning/ollama-copilot

Github CopilotのようなCopilotとしてollamaを使用できるプロキシ

bernardo-bruning
⭐ 887 Go 👤 bernardo-bruning User 🕐 更新日時 2026-09-14 📅 作成日 2024-04-25
87
Pangu-Immortal/MagicWX

Jetpack ComposeとONNX Runtimeを使用したAndroid 17ローカルLLMプロトタイプ。オフラインAI推論実験用。

Pangu-Immortal
⭐ 864 Kotlin 👤 Pangu-Immortal User 🕐 更新日時 2026-11-09 📅 作成日 2019-05-08
88
gavamedia/deltafin

単一のデバイスでKimi K3をフル実行。さらに、ローカルチャットおよびコーディングエージェント向けのOpenAI互換APIサーバーも提供。

gavamedia
⭐ 862 Rust 👤 gavamedia Organization 🕐 更新日時 2026-10-04 📅 作成日 2026-07-28
89
kytmanov/obsidian-llm-wiki-local

KarpathyのLLM Wiki、Ollamaで100%ローカル。Markdownノートをドロップ → AIが概念を抽出 → Obsidian wikiが自動リンクして成長。共有ゼロ。あなたのノートはあなたのもの。

kytmanov
⭐ 855 Python 👤 kytmanov User 🕐 更新日時 2026-05-26 📅 作成日 2026-04-07
90
nace-ai/kapitsa

Qwen と Nemotron に最適化された、Apple Silicon 向けの超高速推論エンジン。OpenAI と Anthropic の API に対応。nace.ai のチームが開発。

nace-ai
⭐ 840 C++ 👤 nace-ai Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-10-16
91
jonigl/mcp-client-for-ollama

ローカルLLMの力を活用する、Ollama向けTUI MCPクライアント。すべての主要なMCPプリミティブ(ツール、プロンプト、リソース)、エージェントモード、マルチサーバー、モデル切り替え、ストリーミング応答、ヒューマンインザループ、思考モード、モデルパラメータ設定、システムプロンプト、保存された設定を備えています。

jonigl
⭐ 837 Python 👤 jonigl User 🕐 更新日時 2026-11-19 📅 作成日 2025-04-23
92
nkasmanoff/pi-card

Raspberry Pi ボイスアシスタント

nkasmanoff
⭐ 808 Python 👤 nkasmanoff User 🕐 更新日時 2024-12-22 📅 作成日 2024-05-04
93
tetherto/qvac

オープンソースのローカルAI SDK — クラウドもAPIキーも不要で、デバイス上でAIを実行できます。GGUF、RAG、画像・音楽・動画生成、音声テキスト変換、P2P推論などに対応。クロスプラットフォーム:Linux、macOS、Windows、Android、iOS。

tetherto
⭐ 806 TypeScript 👤 tetherto Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-01-03
94
karthik-codex/Autogen_GraphRAG_Ollama

Microsoft GraphRAG + AutoGen + Ollama + Chainlit = 完全ローカル・無料のマルチエージェントRAGスーパーボット

karthik-codex
⭐ 761 Python 👤 karthik-codex User 🕐 更新日時 2024-07-20 📅 作成日 2024-07-07
95
ILikeAI/AlwaysReddy

AlwaysReddyは、ホットキーですぐに利用できるLLM音声アシスタントです。

ILikeAI
⭐ 760 Python 👤 ILikeAI User 🕐 更新日時 2025-03-04 📅 作成日 2024-01-24
96
jart/emacs-copilot

Emacsのための大規模言語モデルコード補完

jart
⭐ 758 Emacs Lisp 👤 jart User 🕐 更新日時 2024-01-07 📅 作成日 2023-12-31
97
ARahim3/mlx-dspark

Apple Silicon上でLLMデコードを最大4倍高速化、ロスレス。DeepSeekのDSparkとz-labのDFlashによる投機的デコーディングのネイティブMLX移植版 — Gemma-4、Qwen3.8、Muse-Glimmer、Nemotron、LFM2.5、Ornith-1.0、三値のBonsai-27Bに対応。

ARahim3
⭐ 743 Python 👤 ARahim3 User 🕐 更新日時 2026-11-08 📅 作成日 2026-06-29
98
notatestuser/ds4-control

100万トークンのコンテキストに対応した、高速なローカル版 DeepSeek V4.1 用 macOS メニューバーアプリ。

notatestuser
⭐ 740 Swift 👤 notatestuser User 🕐 更新日時 2026-10-26 📅 作成日 2026-05-29
99
prabanta-dev/janas

32 GBのノートPCでQwen3-Next-80B(48 GB)を37 tok/sで実行。ドラフトなしでは24 tok/sで、llama.cppの2.8 tok/sを上回ります。読み込み速度は62 tok/s対16 tok/s。Q4_K_Mで比較した13モデルすべてでllama.cppより高速。RAM容量を超えるLLMを、純粋なCでCPUまたはGPU上で実行。

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-09-20
100
andersrex/notesollama

Apple Notes でローカル LLM と対話するために Ollama を使用する

andersrex
⭐ 711 Swift 👤 andersrex User 🕐 更新日時 2025-08-04 📅 作成日 2024-02-19