Git Stars Git Stars

#local-llm 仓库

122
仓库总数
383,928
总星标数
3,146
平均每个仓库星标数

共 122 个仓库

101
travisvn/chatterbox-tts-api

本地兼容 OpenAI 的文本转语音(TTS)API,使用 Chatterbox,使用户能够在任何使用 OpenAI API 的地方(如 Open WebUI、AnythingLLM 等)生成语音克隆语音。

travisvn
⭐ 700 Python 👤 travisvn User 🕐 已更新 2025-12-23 📅 创建时间 2025-05-31
102
gensyn-ai/codeassist

由 Gensyn 开发的完全私有化且本地的 AI 编程助手。它可以帮助您练习编程问题并训练一个新的助手来协助您编写代码。

gensyn-ai
⭐ 699 Python 👤 gensyn-ai Organization 🕐 已更新 2026-11-16 📅 创建时间 2025-10-31
103
codingmoh/open-codex

受 OpenAI Codex 启发的完全开源的命令行 AI 助手,支持本地语言模型。

codingmoh
⭐ 696 Python 👤 codingmoh User 🕐 已更新 2026-10-20 📅 创建时间 2025-03-29
104
carloslfu/slotstream

在无法容纳 105 GB 模型的 Mac 上运行它。Qwen3.8-Flash-Next 4-bit,可从 SSD 流式加载,在配备 16–64 GB 内存的 Apple Silicon Mac 上运行。完全采用原生 Swift、MLX 和 Metal。离线运行,无需 Python。提供 CLI、Swift 库以及 Ollama/OpenAI/Anthropic API。兼容 Claude Code 和 Codex。

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 已更新 2026-11-17 📅 创建时间 2026-08-28
105
leonickson1/Swiftlet

Swiftlet 是一个基于 Swift 和 Metal 的运行时,通过从存储中流式传输专家权重,在 Apple 设备上本地运行大型 Qwen 混合专家模型,从而使 35B 和 80B 模型能够在低内存环境下运行,包括在 iPhone 上。

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 已更新 2026-11-17 📅 创建时间 2026-08-03
106
Nehanth/pooled

在浏览器中进行点对点 LLM 推理:汇聚你的设备,运行大型开源模型,用于聊天和编程代理。

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 已更新 2026-11-03 📅 创建时间 2026-09-01
107
NightMean/OlliteRT

将你的 Android 手机变成兼容 OpenAI 的大语言模型推理服务器——完全本地化、私密且开源

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 已更新 2026-11-07 📅 创建时间 2026-04-06
108
ServiceStack/llms

LLM 客户端、服务器 API 和 UI

ServiceStack
⭐ 631 JavaScript 👤 ServiceStack Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-09-23
109
runebookai/tome

一个神奇的 LLM 桌面客户端,让 *任何人* 都可以轻松使用 LLM 和 MCP

runebookai
⭐ 630 Svelte 👤 runebookai Organization 🕐 已更新 2025-10-20 📅 创建时间 2025-04-25
110
jaylfc/taOS

自托管 AI 智能体操作系统。您的记忆、聊天记录、智能体和文件都存储在您拥有的硬件上,默认离线,云端可选。具备离线 AI 记忆 (taOSmd)、自托管多框架群聊、完整的 Web 桌面 + 应用商店,以及跨您现有消费级硬件(Orange/Raspberry Pi、Mac mini、游戏 PC)的自动集群功能。

jaylfc
⭐ 609 Python 👤 jaylfc User 🕐 已更新 2026-11-20 📅 创建时间 2026-04-05
111
abacusai/abacusai-bot

完全免费、开源的个人智能代理,适用于你的消息应用、工具和服务

abacusai
⭐ 601 TypeScript 👤 abacusai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-09-11
112
heider-x/vela

面向小说创作的 AI 集成开发环境 (IDE) — 本地 LLM + RAG,隐私优先,支持自带密钥 (BYOK)。专为网络小说作者和创意写作者打造。

heider-x
⭐ 593 TypeScript 👤 heider-x User 🕐 已更新 2026-10-19 📅 创建时间 2026-04-21
113
vstorm-co/agenticos

面向企业 AI 团队成员的开源、自托管 AI 代理平台。在您自己的服务器和模型上构建、运行和治理代理:共享聊天、RAG、技能、真实浏览器、4,700+ 个 MCP 服务器、预算、审批和审计记录。ChatGPT Enterprise 和 Grok Bot 的替代方案。采用 Apache-2.0 许可,基于 Pydantic AI 构建。

vstorm-co
⭐ 589 Python 👤 vstorm-co Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-07-31
114
aristoapp/awesome-second-brain

精心策划的解决方案,用于构建自我进化的第二大脑,帮助AI代理理解您的个人和团队背景。

aristoapp
⭐ 586 👤 aristoapp Organization 🕐 已更新 2026-07-13 📅 创建时间 2026-01-12
115
DilawarShafiq/nietzschian-debugger

它不会修复你的 bug。它会修复你。一个把问题还给你、而不是直接给出答案的调试器。

DilawarShafiq
⭐ 562 Python 👤 DilawarShafiq User 🕐 已更新 2026-10-27 📅 创建时间 2026-02-24
116
ibrahimcetin/reins

适用于 iPhone、iPad 和 Mac 的本地 AI 聊天应用。可连接 Ollama、LM Studio 或任何兼容 OpenAI 的服务器,也可在设备上运行 MLX 模型。支持工具和网页搜索。

ibrahimcetin
⭐ 561 Dart 👤 ibrahimcetin User 🕐 已更新 2026-10-14 📅 创建时间 2024-11-11
117
FrigadeHQ/hob

在自己的电脑上更轻松地使用 AI。免费开源的 Claude 和 ChatGPT 替代方案,可在 Mac、Windows 和 Linux 上本地运行 Gemma 和 gpt-oss 等开放权重模型。保护隐私,并支持离线使用。

FrigadeHQ
⭐ 556 TypeScript 👤 FrigadeHQ Organization 🕐 已更新 2026-10-30 📅 创建时间 2026-10-14
118
Indras-Mirror/Xolotl

Xolotl:在一台游戏 PC(RTX 4090 + 110 GB RAM)上,将完整的 552B 参数 DeepSeek-V4.1-Flash 作为本地编程代理运行:代理模式约 33 tok/s,快速模式约 41 tok/s,支持 512K 上下文。此外还有 Inkling-2-Mini(Thinking Machines,自有引擎 + MTP 草拟器)、GLM-5.3-Flash、Qwen3.8、LFM3-Omni。MoE 专家分层部署于 VRAM、RAM 和 NVMe 之间(Xolotl Direct)。支持 OpenAI + Anthropic API。

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-06
119
Yzw202011/OmniSpace

本地优先的全栈 AI 创作工作站:AI 对话、AI 漫画、漫剧创作、写作台、知识学习五大模块;支持 vLLM / llama.cpp / Transformers 多引擎本地推理、显存智能调度、舱壁隔离与自愈。仅供学习使用,欢迎交流指正。(除插件系统外,最新进度受协议限制,暂时无法提交到仓库。)

Yzw202011
⭐ 536 Python 👤 Yzw202011 User 🕐 已更新 2026-09-20 📅 创建时间 2026-08-23
120
mantisfury/ArkhamMirror

面向调查性新闻的本地优先型 AI 文档智能平台

mantisfury
⭐ 507 Python 👤 mantisfury User 🕐 已更新 2026-01-25 📅 创建时间 2025-11-25
121
dineshsoudagar/local-llms-on-android

使用 LiteRT 和 ONNX Runtime 在 Android 上运行 Gemma、Qwen 和 LLaMA 等本地大语言模型,实现离线、私密的实时聊天和问答。

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 已更新 2026-11-21 📅 创建时间 2025-05-04
122
withcatai/catai

在本地运行 AI ✨ 助手!使用适用于 Node.js 的简单 API 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 已更新 2025-11-16 📅 创建时间 2023-03-25