Git Stars Git Stars

#local-inference 仓库

探索 19 个标记为 #local-inference 的活跃开源 GitHub 仓库,它们累计获得 116,603 个 Star(平均每个项目 6,137 个)。该主题的领先项目是 oobabooga/textgen,拥有 47,736 个 Star。

19
仓库总数
116,603
总星标数
6,137
平均每个仓库星标数
1
oobabooga/textgen

用于本地大语言模型的开源桌面应用程序。支持文本、视觉、工具调用,兼容 OpenAI/Anthropic API。100% 隐私保护。

oobabooga
⭐ 47,736 Python 👤 oobabooga User 🕐 已更新 2026-08-17 📅 创建时间 2022-12-21
2
mozilla-ai/llamafile

使用单个文件分发和运行 LLM。

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 已更新 2026-11-09 📅 创建时间 2023-09-10
3
Tiiny-AI/PowerInfer

适用于本地部署的高速大型语言模型服务

Tiiny-AI
⭐ 9,893 C++ 👤 Tiiny-AI Organization 🕐 已更新 2026-05-11 📅 创建时间 2023-12-15
4
nat/openplayground

可在笔记本上运行的大型语言模型游乐场

nat
⭐ 6,342 TypeScript 👤 nat User 🕐 已更新 2026-02-06 📅 创建时间 2023-02-26
⭐ 3,574 Python 👤 XiaoMi Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-11-06
6
linyiLYi/bilibot

一个由bilibili用户评论微调的本地聊天机器人。

linyiLYi
⭐ 3,176 Python 👤 linyiLYi User 🕐 已更新 2024-05-15 📅 创建时间 2024-05-06
7
Mininglamp-AI/Mano-P

Mano-P: 开源 GUI-VLA 边缘设备代理。在 OSWorld 上排名 #1(专业版,58.2%)。在 Apple M4 Mac mini/MacBook 上本地运行 — 无数据离开您的设备。Mano-P 是一个开源 GUI-VLA 项目,支持在 Mac mini/MacBook 上或通过算力棒本地运行推理,实现纯视觉驱动的跨平台 GUI 自动化操作。数据完全本地处理,支持复杂多步骤任务规划与执行。

Mininglamp-AI
⭐ 2,855 👤 Mininglamp-AI Organization 🕐 已更新 2026-06-25 📅 创建时间 2026-03-25
9
mainframecomputer/fullmoon-ios

与私有和本地的大型语言模型进行聊天

mainframecomputer
⭐ 2,255 Swift 👤 mainframecomputer Organization 🕐 已更新 2025-05-05 📅 创建时间 2024-10-09
10
SaiAkhil066/CORTEX-AI-SUPER-RAG

CORTEX RAG 是一款企业级检索与知识助手,帮助团队从公司数据中查找准确答案,支持引用、权限感知检索和快速部署。

SaiAkhil066
⭐ 1,980 Python 👤 SaiAkhil066 User 🕐 已更新 2026-09-28 📅 创建时间 2025-01-30
11
browser-use/macOS-use

使 Mac 应用可供 AI 代理访问

browser-use
⭐ 1,948 Python 👤 browser-use Organization 🕐 已更新 2025-03-05 📅 创建时间 2025-01-23
12
ollaya-dev/ollaya

兼容 Jev 的开放决策模型 API 服务器。面向决策模型的 Ollama:可在本地拉取并运行 29 个模型系列(Laya、pplx-decider、Clef、Winnow、coba……),也可通过 /v1/systemone 自托管。TypeSafe SDK 无需任何改动即可使用:设置基础 URL 并选择一个开放模型。提供 CLI、桌面应用、Docker、MCP 服务器和公开基准测试。

ollaya-dev
⭐ 1,473 Rust 👤 ollaya-dev Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-09-23
13
TheAiSingularity/graphrag-local-ollama

使用 Ollama (llama3, mistral, gemma2 phi3) 实现 Microsoft Graphrag 的本地模型支持 – LLM 与 Embedding 提取

TheAiSingularity
⭐ 1,111 Python 👤 TheAiSingularity User 🕐 已更新 2026-05-08 📅 创建时间 2024-07-08
15
huggingface/meshgen

直接在 Blender 中使用 AI 代理。

huggingface
⭐ 950 Python 👤 huggingface Organization 🕐 已更新 2026-10-22 📅 创建时间 2024-10-14
16
ardanlabs/kronk

用你自己的智能出发!使用 Go,通过 llama.cpp、whisper.cpp 和 stable-diffusion.cpp 实现硬件加速的本地推理,并将其直接集成到你的 Go 应用中。Kronk 提供高级 API 和可用于生产环境的模型服务器。

ardanlabs
⭐ 871 Go 👤 ardanlabs Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-11-18
17
ochyai/vibe-local

免费 AI 编程环境:Ollama + Python

ochyai
⭐ 804 Python 👤 ochyai User 🕐 已更新 2026-11-21 📅 创建时间 2026-02-22
18
Phocinae/Phocinae-Largha-150M-v1

斑海豹 — Phocinae-Largha-150M-v1:一款 144.3M 双语决策模型。小模型,大决断。小海豹,大决断。

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 已更新 2026-10-20 📅 创建时间 2026-10-08
19
alesha-pro/tools

来自 4 张 RTX 3090 本地推理设备的工具、ComfyUI 工作流和基准测试配置

alesha-pro
⭐ 702 HTML 👤 alesha-pro User 🕐 已更新 2026-09-28 📅 创建时间 2026-08-07

常见问题解答

1

GitHub 上最受欢迎的 #local-inference 仓库是什么?

GitHub 上排名第一的开源 #local-inference 项目是 oobabooga/textgen,拥有 47,736 个 Star。用于本地大语言模型的开源桌面应用程序。支持文本、视觉、工具调用,兼容 OpenAI/Anthropic API。100% 隐私保护。

2

#local-inference 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #local-inference 项目中,最常见的编程语言是 Python, C++, TypeScript, Swift。

3

#local-inference 仓库的排名是如何计算的?

我们跟踪了 19 个标记为 #local-inference 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 116,603 个 Star,平均每个仓库拥有 6,137 个 Star。排名每日根据 GitHub API 更新。