#local-llm リポジトリ
リポジトリ合計122件
Chatterboxを使用したローカルでOpenAI互換のテキスト音声API(TTS)で、OpenAI APIが使用される場所(例:Open WebUI、AnythingLLMなど)でユーザーが音声クローンされたスピーチを生成できるようにします。
Gensyn によって開発された、完全にプライベートでローカルなAIコーディングアシスタントです。プログラミング問題の練習や、新しいアシスタントを訓練してコーディングを支援するために役立ちます。
105 GBのAIモデルを、モデル全体を保存できないMacで実行。Qwen3.8-Flash-Nextの4ビット版をSSDからストリーミングし、メモリ16~64 GBのApple Silicon搭載Macで動作します。Swift、MLX、Metalによる完全ネイティブ実装。オフラインで動作し、Pythonは不要。CLI、Swiftライブラリ、Ollama/OpenAI/Anthropic APIに対応。Claude CodeおよびCodexでも利用できます。
Swiftletは、SwiftおよびMetalベースのランタイムであり、ストレージからエキスパートの重みをストリーミングすることで、Appleデバイス上で大規模なQwen Mixture-of-Expertsモデルをローカル実行します。これにより、iPhoneを含む低RAM環境でも35Bおよび80Bモデルの動作が可能になります。
セルフホスト型AIエージェントOS。メモリ、チャット、エージェント、ファイルはすべて所有するハードウェア内に保持され、デフォルトでオフライン、必要に応じてクラウドを利用可能です。オフラインAIメモリ(taOSmd)、セルフホスト型マルチフレームワーク・グループチャット、フル機能のWebデスクトップ+アプリストア、そして既存のコンシューマーハードウェア(Orange/Raspberry Pi、Mac mini、ゲーミングPC)間での自動クラスタリング機能を備えています。
企業のAIチームメイトのためのオープンソース・セルフホスト型AIエージェントプラットフォーム。自社のサーバーとモデル上でエージェントを構築、実行、ガバナンスできます。共有チャット、RAG、スキル、実際のブラウザ、4,700以上のMCPサーバー、予算、承認、監査証跡を備えています。ChatGPT EnterpriseやGrok Botに代わる選択肢です。Apache-2.0ライセンスで、Pydantic AIを基盤に構築されています。
自己進化するセカンドブレインを構築するための厳選されたソリューション。AIエージェントがあなたの個人およびチームのコンテキストを理解するのに役立ちます。
iPhone、iPad、Mac向けのローカルAIチャット。Ollama、LM Studio、またはOpenAI互換サーバーに接続できるほか、MLXモデルをデバイス上で実行できます。ツールとWeb検索にも対応。
自分のコンピューターで、もっと簡単にAIを使う方法。ClaudeやChatGPTに代わる無料のオープンソースソフトウェアで、Gemmaやgpt-ossなどのオープンウェイトモデルをMac、Windows、Linux上でローカル実行できます。プライバシーを守り、オフラインでも使えます。
Xolotl:DeepSeek-V4.1-Flashを552Bパラメータすべてで、1台のゲーミングPC(RTX 4090 + RAM 110 GB)上のローカルコーディングエージェントとして実行。エージェント時は約33 tok/s、高速モードでは約41 tok/s、コンテキスト長は512K。さらに、Inkling-2-Mini(Thinking Machines独自エンジン + MTPドラフター)、GLM-5.3-Flash、Qwen3.8、LFM3-Omniにも対応。MoEエキスパートをVRAM、RAM、NVMeに階層的に配置(Xolotl Direct)。OpenAI + Anthropic API。
ローカルファーストのフルスタックAI創作ワークステーション。AIチャット、AI漫画、漫画ドラマ制作、ライティングデスク、知識学習の5つのモジュールを搭載。vLLM / llama.cpp / Transformersによる複数エンジン対応のローカル推論、VRAMのインテリジェントな割り当て、バルクヘッド隔離と自動復旧に対応。学習目的のみでご利用ください。ご意見・ご指摘を歓迎します。(プラグインシステムを除く最新の進捗は、プロトコル上の制約により、現在リポジトリにコミットできません。)
LiteRT と ONNX Runtime を使って、Android 上で Gemma、Qwen、LLaMA などのローカル LLM を実行し、オフラインかつプライベートなリアルタイムチャットや質問応答を実現します。