#llama-cpp 仓库
探索 69 个标记为 #llama-cpp 的活跃开源 GitHub 仓库,它们累计获得 212,421 个 Star(平均每个项目 3,078 个)。该主题的领先项目是 QwenLM/Qwen3,拥有 27,753 个 Star。
共 69 个仓库
最快、唯一一款支持设备端语音转文字(STT)并配备定制训练 AI 增强模型的 macOS 听写应用。Windows 和 iOS TestFlight 版现已推出!Android 和 Linux 候补名单现已开放!Wispr Flow 的本地替代方案。关注 https://x.com/fluidvoiceapp 了解更多。
一个自托管、离线、类似 ChatGPT 的聊天机器人。由 Llama 2 提供支持。100% 隐私,没有任何数据离开您的设备。新增:Code Llama 支持!
面向语言、视觉、嵌入、重排序、图像、音频和视频模型的开源推理平台。支持通过多个推理引擎部署在异构硬件上,覆盖从笔记本电脑到分布式集群的各种环境。通过兼容 OpenAI 的 API 提供模型服务。
根据文件内容搜索你的电脑:照片、PDF、文档、录音、视频和代码。可在 Mac、Windows 和 Linux 本地运行,基于 Google DeepMind 的 EmbeddingGemma 2 构建。
Claude Code 的使用额度用完了?用本地模型继续免费离线使用:Qwen 3.8、Gemma 4,以及 Qwen 4 发布当天即可使用。在搭载 Apple 芯片的 Mac(MLX)、Linux 和 Windows(llama.cpp)上运行,无需 API 密钥。你的代码始终留在本地。
离线人工智能的“瑞士军刀”。在您的手机或 Mac 上进行聊天、视觉识别、语音交互和图像生成——支持 GGUF 大语言模型、视觉模型、Whisper 语音转文字、Stable Diffusion、工具调用以及局域网服务器。可在您的 CPU、GPU 或 NPU 上运行。无需账户,无需 API 密钥,数据绝不出设备。
开源 AI 摄像机技术平台,AI NVR 与 CCTV 监控。使用 Qwen、DeepSeek、SmolVLM、LLaVA、YOLO26 进行本地 VLM 视频分析。LLM 驱动的代理安全摄像机代理 — 通过 Telegram、Discord 或 Slack 监视、理解、记忆并保护您的家。可插拔 AI 技能。支持 OpenAI、Google、Anthropic 或本地 AI。在 Mac Mini 与 AI PC 上运行。
保存在你电脑上的私密 AI 会议记录。无需会议机器人。适用于 Mac、Windows 和 Linux 的免费开源软件。Granola、Otter 和 Fireflies 的替代方案。
Maid 是一个免费且开源的应用程序,用于本地与 llama.cpp 模型互动,并与 Anthropic、DeepSeek、Ollama、Mistral 以及 OpenAI 模型进行远程交互。
本课程旨在指导初学者进入激动人心的边缘人工智能世界,涵盖基本概念、流行模型、推理技术、设备特定应用、模型优化以及智能边缘人工智能代理的开发。
参数规模从 0.8B 到 27B 的开放式决策模型:一次推理即可为每个选项给出经过校准的概率,仅在不确定时提供简短思考。适用于 vLLM、llama.cpp 和 MLX 的引擎。
用数据映照你的身体。统一标准,汇集所有来源,呈现完整的你:一份由实验室报告、可穿戴设备数据和基因信息构建的自托管健康档案,每个数字都可追溯至其来源,并内置 MCP 服务器。使用 Docker 和一个 LLM 密钥即可运行,也可以通过 llama.cpp 将所有模型保留在本地。
Fun-ASR 语音识别模型,为 Fun-ASR-Nano 提供原生 Hugging Face Transformers 支持,并提供独立的 FunASR、vLLM 和 llama.cpp 部署路径。
兼容 Jev 的开放决策模型 API 服务器。面向决策模型的 Ollama:可在本地拉取并运行 29 个模型系列(Laya、pplx-decider、Clef、Winnow、coba……),也可通过 /v1/systemone 自托管。TypeSafe SDK 无需任何改动即可使用:设置基础 URL 并选择一个开放模型。提供 CLI、桌面应用、Docker、MCP 服务器和公开基准测试。
零 GPU、纯 CPU 推理,支持 30B–284B MoE 模型(Qwen3.8 176.5B 已在 28.26/48.35 GiB 的 Cgroup v2 冷缓存环境中通过认证、DeepSeek-V4 284B、Nemotron-30B)+ RouteCrack 2.0。
无需 ROOT 的开源 Android 屏幕实时翻译工具,适合游戏、视觉小说和漫画。支持端侧与云端 OCR、离线 LLM、多种翻译服务和文字朗读(TTS),译文可直接显示在画面上。
运行比内存容量更大的 MoE 模型。在手机、笔记本电脑或边缘设备上运行前沿级 MoE。无损,基于原版 llama.cpp。自适应流式优化器。支持任何硬件、任何操作系统、任何模型、任何量化方式,并通过本地兼容 OpenAI 的服务器提供服务。
常见问题解答
GitHub 上最受欢迎的 #llama-cpp 仓库是什么?
GitHub 上排名第一的开源 #llama-cpp 项目是 QwenLM/Qwen3,拥有 27,753 个 Star。Qwen3是阿里云Qwen团队开发的语言大模型系列。
#llama-cpp 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #llama-cpp 项目中,最常见的编程语言是 Python, TypeScript, C++, Swift。
#llama-cpp 仓库的排名是如何计算的?
我们跟踪了 69 个标记为 #llama-cpp 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 212,421 个 Star,平均每个仓库拥有 3,078 个 Star。排名每日根据 GitHub API 更新。