#local-inference 仓库
探索 19 个标记为 #local-inference 的活跃开源 GitHub 仓库,它们累计获得 116,603 个 Star(平均每个项目 6,137 个)。该主题的领先项目是 oobabooga/textgen,拥有 47,736 个 Star。
共 19 个仓库
Mano-P: 开源 GUI-VLA 边缘设备代理。在 OSWorld 上排名 #1(专业版,58.2%)。在 Apple M4 Mac mini/MacBook 上本地运行 — 无数据离开您的设备。Mano-P 是一个开源 GUI-VLA 项目,支持在 Mac mini/MacBook 上或通过算力棒本地运行推理,实现纯视觉驱动的跨平台 GUI 自动化操作。数据完全本地处理,支持复杂多步骤任务规划与执行。
兼容 Jev 的开放决策模型 API 服务器。面向决策模型的 Ollama:可在本地拉取并运行 29 个模型系列(Laya、pplx-decider、Clef、Winnow、coba……),也可通过 /v1/systemone 自托管。TypeSafe SDK 无需任何改动即可使用:设置基础 URL 并选择一个开放模型。提供 CLI、桌面应用、Docker、MCP 服务器和公开基准测试。
使用 Ollama (llama3, mistral, gemma2 phi3) 实现 Microsoft Graphrag 的本地模型支持 – LLM 与 Embedding 提取
用你自己的智能出发!使用 Go,通过 llama.cpp、whisper.cpp 和 stable-diffusion.cpp 实现硬件加速的本地推理,并将其直接集成到你的 Go 应用中。Kronk 提供高级 API 和可用于生产环境的模型服务器。
常见问题解答
GitHub 上最受欢迎的 #local-inference 仓库是什么?
GitHub 上排名第一的开源 #local-inference 项目是 oobabooga/textgen,拥有 47,736 个 Star。用于本地大语言模型的开源桌面应用程序。支持文本、视觉、工具调用,兼容 OpenAI/Anthropic API。100% 隐私保护。
#local-inference 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #local-inference 项目中,最常见的编程语言是 Python, C++, TypeScript, Swift。
#local-inference 仓库的排名是如何计算的?
我们跟踪了 19 个标记为 #local-inference 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 116,603 个 Star,平均每个仓库拥有 6,137 个 Star。排名每日根据 GitHub API 更新。