Git Stars Git Stars

#local-llm 仓库

探索 122 个标记为 #local-llm 的活跃开源 GitHub 仓库,它们累计获得 383,928 个 Star(平均每个项目 3,146 个)。该主题的领先项目是 HKUDS/nanobot,拥有 50,249 个 Star。

122
仓库总数
383,928
总星标数
3,146
平均每个仓库星标数

共 122 个仓库

1
HKUDS/nanobot

你的轻量级开源个人智能体。

HKUDS
⭐ 50,249 Python 👤 HKUDS Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-01
2
codewhale-hq/Codewhale

一款用 Rust 编写、供终端使用的开源编程代理。它兼容任何模型,可以将一项任务分配给多个代理协同完成,而且代码的每一行都对你开放。

codewhale-hq
⭐ 41,193 Rust 👤 codewhale-hq Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-01-19
3
mozilla-ai/llamafile

使用单个文件分发和运行 LLM。

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 已更新 2026-11-09 📅 创建时间 2023-09-10
4
netease-youdao/QAnything

基于任何内容的问答。

netease-youdao
⭐ 14,210 Python 👤 netease-youdao User 🕐 已更新 2026-09-23 📅 创建时间 2024-01-03
5
MakazhanAlpamys/Soup

从一个YAML微调LLM。层流式传输在4 GB笔记本GPU上训练8B模型。

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 已更新 2026-11-21 📅 创建时间 2026-02-20
6
LearningCircuit/local-deep-research

~95% 在 SimpleQA 上(例如 Qwen3.6-27B 在 3090 上)。支持所有本地和云端 LLM(llama.cpp、Ollama、Google 等)。10+ 搜索引擎 - arXiv、PubMed、您的私人文档。一切本地且加密。

LearningCircuit
⭐ 9,618 Python 👤 LearningCircuit User 🕐 已更新 2026-11-21 📅 创建时间 2025-02-09
7
langchain-ai/local-deep-researcher

全本地化网络研究与报告撰写助手

langchain-ai
⭐ 9,415 Python 👤 langchain-ai Organization 🕐 已更新 2026-10-15 📅 创建时间 2024-12-04
8
nashsu/FreeAskInternet

FreeAskInternet 是一个完全免费、私有且在本地运行的搜索聚合器和答案生成器,使用多个大型语言模型,无需 GPU。用户可以提出问题,系统将进行多引擎搜索,并将搜索结果与大型语言模型结合,根据搜索结果生成答案。全部免费使用。

nashsu
⭐ 8,734 Python 👤 nashsu User 🕐 已更新 2024-04-18 📅 创建时间 2024-04-05
9
weaviate/Verba

由Weaviate驱动的检索增强生成(RAG)聊天机器人

weaviate
⭐ 7,716 Python 👤 weaviate Organization 🕐 已更新 2026-05-11 📅 创建时间 2023-07-28
10
open-multi-agent/open-multi-agent

自托管的 TypeScript 智能体运行时,支持持久化审批和可验证的运行记录。由你掌控、由你审批、由你审计。

open-multi-agent
⭐ 7,067 TypeScript 👤 open-multi-agent Organization 🕐 已更新 2026-11-17 📅 创建时间 2026-03-31
11
dograh-hq/dograh

开源语音 AI 平台。Vapi 和 Retell 的自托管替代方案。支持本地部署,在语音转语音 (Speech-to-Speech) 或 LLM/STT/TTS 场景下支持 BYOK,配备可视化工作流构建器,原生支持 MCP 和电话集成。

dograh-hq
⭐ 6,240 Python 👤 dograh-hq Organization 🕐 已更新 2026-11-16 📅 创建时间 2025-09-09
12
maziyarpanahi/openmed

本地优先的医疗 AI:在您掌控的硬件上进行临床命名实体识别(NER)和符合 HIPAA 要求的个人身份信息(PII)去标识化。提供 2,200 多个医疗模型、支持 35 种语言的模型驱动型 PII 处理,以及 Python、MLX、Android 和浏览器运行环境。Apache-2.0 许可的 SDK。

maziyarpanahi
⭐ 5,832 Python 👤 maziyarpanahi User 🕐 已更新 2026-11-21 📅 创建时间 2025-10-04
13
dnhkng/GLaDOS

这是 GLaDOS 的个性核心,是 Valve Portal 系列 AI 现实化实现的第一步。

dnhkng
⭐ 5,781 Python 👤 dnhkng User 🕐 已更新 2026-10-11 📅 创建时间 2023-03-23
14
ngxson/smolvlm-realtime-webcam

使用SmolVLM和llama.cpp服务器的实时网络摄像头演示

ngxson
⭐ 5,555 HTML 👤 ngxson User 🕐 已更新 2025-05-12 📅 创建时间 2025-05-12
15
AienTech/dossier

一款可自行托管的求职搜索和简历制作应用,可根据您的个人资料撰写量身定制的简历和求职信。

AienTech
⭐ 5,349 TypeScript 👤 AienTech User 🕐 已更新 2026-11-19 📅 创建时间 2026-10-03
16
vinta/pangu.js

在 JavaScript 中采用固执己见且谨慎的文本空格处理,并结合设备端 AI 语义判断

vinta
⭐ 4,860 TypeScript 👤 vinta User 🕐 已更新 2026-10-24 📅 创建时间 2012-02-21
17
PurpleDoubleD/locally-uncensored

适用于您桌面的一体化本地 AI 工作室:聊天、图像和视频生成以及编程代理,尽在一款免费开源应用中。支持 Windows 和 Linux。无需 Docker,无需终端,无需云端。

PurpleDoubleD
⭐ 4,530 TypeScript 👤 PurpleDoubleD User 🕐 已更新 2026-11-19 📅 创建时间 2026-03-24
18
raullenchai/Rapid-MLX

Rapid-MLX 是一个开源(Apache 2.0)的 LLM 推理服务器,适用于 Apple Silicon,兼容 OpenAI 和 Anthropic,基于 MLX 构建,专注于为编程代理提供可靠的工具调用功能。在使用相同模型权重的情况下,速度最高可达 Apple 的 MLX(mlx-lm)的 4 倍。

raullenchai
⭐ 4,168 Python 👤 raullenchai User 🕐 已更新 2026-11-21 📅 创建时间 2026-02-25
19
langroid/langroid

利用多智能体编程驾驭大语言模型

langroid
⭐ 4,153 Python 👤 langroid Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-04-16
20
deta/surf

个人 AI 笔记本。整理文件和网页,并从中生成笔记。开源、本地和开放数据、开放模型选择(包括本地模型)。

deta
⭐ 3,646 TypeScript 👤 deta Organization 🕐 已更新 2026-08-24 📅 创建时间 2025-10-20
21
AtomicBot-ai/atomic-agent

Atomic Agent 是一款本地优先的 AI 智能体。通过 llama.cpp 在您自己的机器上运行开放权重模型。

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-21
22
nicedreamzapp/claude-code-local

Claude Code 的使用额度用完了?用本地模型继续免费离线使用:Qwen 3.8、Gemma 4,以及 Qwen 4 发布当天即可使用。在搭载 Apple 芯片的 Mac(MLX)、Linux 和 Windows(llama.cpp)上运行,无需 API 密钥。你的代码始终留在本地。

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 已更新 2026-11-21 📅 创建时间 2026-03-26
23
simplexai-labs/linger

Linger 是一款完全在个人电脑上运行的开源个人智能体。我们致力于通过高效的模型与运行框架协同设计,将强大的本地 AI 带给日常电脑用户,打破大型科技公司对 AI 的掌控,让每个人都能运行属于自己的 AI。

simplexai-labs
⭐ 3,188 TypeScript 👤 simplexai-labs Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-11-10
24
mw00/project-maya

在您自己的 GPU 上运行 GLM-5.3(744B)、DeepSeek-V4.1-Flash(748B)、MiniMax-M3.1-Flash(428B)、GLM-5.3-Flash(321B)和 Hy4-Flash(220B)——最低仅需 8 GB 显存,支持 NVIDIA 和 AMD,统一仪表板,并提供兼容 OpenAI 和 Anthropic 的 API。

mw00
⭐ 3,140 C++ 👤 mw00 User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-06
25
zachlatta/freeflow

免费且快速的 Wispr Flow 替代方案

zachlatta
⭐ 3,137 Swift 👤 zachlatta User 🕐 已更新 2026-11-09 📅 创建时间 2026-02-15
26
rafska/awesome-local-llm

一份精选的优秀平台、工具、实践和资源列表,有助于在本地运行大型语言模型(LLMs)

rafska
⭐ 3,079 👤 rafska User 🕐 已更新 2026-11-16 📅 创建时间 2025-06-03
27
Pinvou/pinvou-agent

开源桌面AI代理,用于工具、文件、知识、工作流程和实际交付物。

Pinvou
⭐ 3,043 Rust 👤 Pinvou Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-07-24
28
syv-ai/HyperQwen

在你实际拥有的 GPU 上快速部署大型 Qwen 模型。使用 vLLM 在单张 24 GB 显卡上运行 Qwen3.8-27B:单用户 127 token/秒(答案引用提示词时为 381 token/秒),64 路并发时约 1,035 token/秒,支持 150k–262k 上下文。vLLM 补丁、重新量化流程与基准测试。

syv-ai
⭐ 2,778 Python 👤 syv-ai Organization 🕐 已更新 2026-11-10 📅 创建时间 2026-08-15
29
itayinbarr/little-coder

针对小型大语言模型优化的测试框架

itayinbarr
⭐ 2,736 TypeScript 👤 itayinbarr User 🕐 已更新 2026-09-18 📅 创建时间 2026-04-11
30
youssofal/MTPLX

在 Mac 上运行 Qwen 3.8 Flash Next、Qwen 3.8 27B 和 Ternary Bonsai 2 27B 的最快方式:在 M5 Max 上通过 OpenCode 达到 125 token/秒,并可在 16 GB Mac 上运行 27B 模型。在 Apple Silicon 上原生支持 MTP 推测解码,在任何温度下都能保持精确。兼容 OpenAI 和 Anthropic 的本地服务器。

youssofal
⭐ 2,729 Python 👤 youssofal User 🕐 已更新 2026-11-21 📅 创建时间 2026-05-02
31
papersgpt/papersgpt-for-zotero

Zotero 专业 AI 研究工具:与 PDF 对话、搜索整个文献库、文献雷达、自动驾驶。支持 30 多种大语言模型或本地模型;内置 MCP 服务器。在 iPhone 上随时与 Zotero 对话 → https://www.docsagent.app

papersgpt
⭐ 2,714 JavaScript 👤 papersgpt User 🕐 已更新 2026-11-19 📅 创建时间 2024-11-22
32
ddalcu/mlx-serve

适用于 Apple Silicon 的原生大语言模型推理服务器。兼容 OpenAI 和 Anthropic API。无需 Python。采用 Zig 后端和 Swift 前端的 macOS 应用,支持聊天、音乐、语音和视频生成。

ddalcu
⭐ 2,528 Zig 👤 ddalcu User 🕐 已更新 2026-11-21 📅 创建时间 2026-02-17
33
severian42/GraphRAG-Local-UI

使用本地 LLM 的 GraphRAG - 提供强大的 API 和多个应用程序,用于索引/提示调整/查询/聊天/可视化/等。这旨在成为终极的 GraphRAG/KG 本地 LLM 应用程序。

severian42
⭐ 2,283 Python 👤 severian42 User 🕐 已更新 2024-11-09 📅 创建时间 2024-07-14
34
fikrikarim/parlor

具备类似 GPT-Live 功能的端侧实时多模态人工智能

fikrikarim
⭐ 2,117 Python 👤 fikrikarim User 🕐 已更新 2026-08-03 📅 创建时间 2026-04-05
35
inferstep/ATLAS

自适应测试时学习与自主专精

inferstep
⭐ 2,114 Python 👤 inferstep Organization 🕐 已更新 2026-11-16 📅 创建时间 2026-02-01
36
ex3ndr/llama-coder

替换 Copilot 本地 AI

ex3ndr
⭐ 2,079 TypeScript 👤 ex3ndr User 🕐 已更新 2024-05-13 📅 创建时间 2023-11-20
37
AtomicBot-ai/Atomic-Chat

面向智能体的本地 AI 应用程序和推理引擎。在您的计算机上本地运行开源权重 LLM — 私密、100% 离线。加入我们的 Discord:https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-03-31
38
axoviq-ai/synthadoc

Synthadoc:一款开源的大语言模型知识编译引擎,可将原始文档转化为结构化的本地优先维基。它是传统RAG的一种透明、人类可读的替代方案,无需使用任何工具即可自行管理和自我改进。

axoviq-ai
⭐ 1,998 Python 👤 axoviq-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-11
39
travisvn/openai-edge-tts

免费、高质量的文本转语音 API 端点,可替代 OpenAI、Azure 或 ElevenLabs

travisvn
⭐ 1,962 Python 👤 travisvn User 🕐 已更新 2025-07-01 📅 创建时间 2024-10-09
40
kimjammer/Neuro

Neuro-Sama 的重现,最初在 7 天内完成。

kimjammer
⭐ 1,960 Python 👤 kimjammer User 🕐 已更新 2025-01-17 📅 创建时间 2024-01-07
41
techjarves/USB-Uncensored-LLM

终极零安装、可移植本地AI环境。从任何U盘或SSD直接运行高质量、无审查LLM(Gemma、Qwen、NemoMix)。完全空气隔离、跨平台(Win/Mac/Linux),并以隐私优先,带有持久聊天历史。

techjarves
⭐ 1,835 HTML 👤 techjarves User 🕐 已更新 2026-06-06 📅 创建时间 2026-04-14
42
jacoblee93/fully-local-pdf-chatbot

是的,又一个文档聊天实现……但这次是完全本地化的!

jacoblee93
⭐ 1,815 TypeScript 👤 jacoblee93 User 🕐 已更新 2025-12-06 📅 创建时间 2023-09-17
43
Roy3838/Observer

为你监控一切的微型智能体编排器。完全在本地运行。开源。

Roy3838
⭐ 1,814 TypeScript 👤 Roy3838 User 🕐 已更新 2026-11-20 📅 创建时间 2025-02-05
44
edgerunners-2/capri-ai-desktop

Capri — 免费开源的 Windows AI 桌面宠物、游戏叠加层和语音助手。为 Claude Code、Ollama、DeepSeek 和 MCP 提供可视化 GUI。可加入 Discord 通话、启动 Steam 游戏、点评游戏过程,并离线自动执行屏幕任务。

edgerunners-2
⭐ 1,735 Python 👤 edgerunners-2 User 🕐 已更新 2026-11-15 📅 创建时间 2026-08-15
45
nobodywho-ooo/nobodywho

NobodyWho 是一个推理引擎,允许你在任何设备上本地高效地运行 LLM。

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 已更新 2026-11-19 📅 创建时间 2024-09-03
46
siddsachar/row-bot

Row-Bot:一款本地优先、能真正完成工作的 AI 助手。它会记住重要信息,在你的文件、代码、设计、浏览器和应用中工作,运行工作流和智能体,并在需要你处理时通知你;遇到任何有风险的操作前都会先征求你的同意。你可以使用 ChatGPT、Claude 或 Grok 订阅方案、API 密钥或本地模型。你的数据始终保留在自己的设备上。

siddsachar
⭐ 1,695 Python 👤 siddsachar User 🕐 已更新 2026-11-21 📅 创建时间 2026-03-06
47
razzant/ouroboros

Ouroboros — 自我创造的AI代理。诞生于2026年2月16日。

razzant
⭐ 1,690 Python 👤 razzant User 🕐 已更新 2026-11-21 📅 创建时间 2026-02-11
48
waybarrios/vllm-mlx

适用于 Apple Silicon 的高性能 OpenAI 和 Anthropic 兼容 LLM 推理服务器。原生 MLX、连续批处理、多模态模型、MCP 工具调用和 Claude Code 支持。

waybarrios
⭐ 1,657 Python 👤 waybarrios User 🕐 已更新 2026-11-07 📅 创建时间 2025-12-06
49
autonomous-ai/Personal-AI-Computer

开源 AI 计算机搭建方案,涵盖双 GPU 台式机到 8 GPU 服务器:提供 CAD 图纸、物料清单、BIOS 设置和装机指南。选购附带 PCIe 延长线的机箱套件,或联系我们免费检查兼容性。

autonomous-ai
⭐ 1,601 👤 autonomous-ai Organization 🕐 已更新 2026-11-05 📅 创建时间 2025-08-22
50
najmuzzaman-mohammad/gawkbot

开源 Grok 机器人。Gawk 机器人通过 AI 模型自动化处理你的琐碎工作,并为你构建微型应用来管理结果,让你产生一种虚假的掌控感。

najmuzzaman-mohammad
⭐ 1,586 Go 👤 najmuzzaman-mohammad User 🕐 已更新 2026-11-01 📅 创建时间 2026-03-25

常见问题解答

1

GitHub 上最受欢迎的 #local-llm 仓库是什么?

GitHub 上排名第一的开源 #local-llm 项目是 HKUDS/nanobot,拥有 50,249 个 Star。你的轻量级开源个人智能体。

2

#local-llm 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #local-llm 项目中,最常见的编程语言是 Python, TypeScript, Rust, C++。

3

#local-llm 仓库的排名是如何计算的?

我们跟踪了 122 个标记为 #local-llm 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 383,928 个 Star,平均每个仓库拥有 3,146 个 Star。排名每日根据 GitHub API 更新。