Git Stars Git Stars

#llama-cpp 仓库

69
仓库总数
212,421
总星标数
3,078
平均每个仓库星标数
51
cobanov/PS5LM

在越狱的 PS5 上运行 llama.cpp:在主机上原生运行任意 GGUF 模型,从 Qwen 3.8 开始

cobanov
⭐ 868 C++ 👤 cobanov User 🕐 已更新 2026-11-19 📅 创建时间 2026-10-01
52
nace-ai/kapitsa

为 Qwen 和 Nemotron 优化的极速 Apple Silicon 推理引擎。兼容 OpenAI 和 Anthropic API。由 nace.ai 团队打造。

nace-ai
⭐ 840 C++ 👤 nace-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-10-16
53
OrionStarAI/Orion

Orion-14B 系列模型包括一个具有140亿参数的多语言基座大模型以及一系列相关的衍生模型,包括对话模型,长文本模型,量化模型,RAG微调模型,Agent微调模型等。

OrionStarAI
⭐ 801 Python 👤 OrionStarAI Organization 🕐 已更新 2024-06-03 📅 创建时间 2024-01-17
55
timmyy123/LLM-Hub

本地大语言模型、图像、视频和音乐生成器

timmyy123
⭐ 665 C 👤 timmyy123 User 🕐 已更新 2026-11-19 📅 创建时间 2025-07-08
56
the-crypt-keeper/can-ai-code

AI 程序员的自我评估面试

the-crypt-keeper
⭐ 600 Python 👤 the-crypt-keeper User 🕐 已更新 2025-06-21 📅 创建时间 2023-05-27
57
llmmanorg/llmman

在任意模型上运行任意智能体,模型以 OCI 镜像形式存储

llmmanorg
⭐ 598 Rust 👤 llmmanorg Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-03-22
58
gokayfem/ComfyUI_VLM_nodes

用于视觉语言模型的 ComfyUI 节点:Qwen3-VL、Moondream 3、Florence-2、SmolVLM2、InternVL、Gemma 3、MiniCPM-V。此外还支持开放词汇检测、SAM2/SAM3 分割、视频时序推理、通过 llama.cpp 实现的 GGUF,以及托管的 LLM/VLM API。

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 已更新 2026-08-08 📅 创建时间 2024-01-24
59
WisdomShell/codeshell-vscode

基于 CodeShell 开发的 Visual Studio Code 智能编码助手插件

WisdomShell
⭐ 579 TypeScript 👤 WisdomShell Organization 🕐 已更新 2024-05-09 📅 创建时间 2023-10-19
60
oriveo/oriveo

面向 iOS、Android 和 Web 的开源、自带密钥(BYOK)多模型 AI 聊天客户端。一个 LLM 客户端即可接入 OpenAI、Anthropic、Google Gemini、OpenRouter、DeepSeek 及另外十多个服务商,还支持任何兼容 OpenAI、Anthropic 或 Gemini 的端点——Ollama、LM Studio、llama.cpp、vLLM。优先本地运行,可自行托管,无需账户。AGPL-3.0。

oriveo
⭐ 567 Swift 👤 oriveo Organization 🕐 已更新 2026-11-12 📅 创建时间 2026-09-03
61
spark-arena/sparkrun

sparkrun——在 NVIDIA DGX Spark 系统上启动、管理和停止 LLM 推理工作负载。在线支持:https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 已更新 2026-11-17 📅 创建时间 2026-02-16
62
FrigadeHQ/hob

在自己的电脑上更轻松地使用 AI。免费开源的 Claude 和 ChatGPT 替代方案,可在 Mac、Windows 和 Linux 上本地运行 Gemma 和 gpt-oss 等开放权重模型。保护隐私,并支持离线使用。

FrigadeHQ
⭐ 556 TypeScript 👤 FrigadeHQ Organization 🕐 已更新 2026-10-30 📅 创建时间 2026-10-14
63
automataIA/graphrag-rs

GraphRAG-rs 是一个高性能、最先进的 Rust 实现的 GraphRAG(基于图的检索增强生成),它从文档构建知识图谱,并通过可配置的实体提取和本地 LLM 集成实现自然语言查询

automataIA
⭐ 541 Rust 👤 automataIA User 🕐 已更新 2026-11-16 📅 创建时间 2025-09-21
64
Yzw202011/OmniSpace

本地优先的全栈 AI 创作工作站:AI 对话、AI 漫画、漫剧创作、写作台、知识学习五大模块;支持 vLLM / llama.cpp / Transformers 多引擎本地推理、显存智能调度、舱壁隔离与自愈。仅供学习使用,欢迎交流指正。(除插件系统外,最新进度受协议限制,暂时无法提交到仓库。)

Yzw202011
⭐ 536 Python 👤 Yzw202011 User 🕐 已更新 2026-09-20 📅 创建时间 2026-08-23
65
lucasjinreal/Crane

一款纯 Rust 构建的 LLM、VLM、VLA、TTS 和 OCR 推理引擎,由 Candle 和 Rust 驱动。它是 llama.cpp 的替代方案,更简单、更简洁。

lucasjinreal
⭐ 534 Rust 👤 lucasjinreal User 🕐 已更新 2026-11-16 📅 创建时间 2025-03-19
66
wizardAEI/Gomoon

Gomoon 基于大模型的桌面端效率工具

wizardAEI
⭐ 520 TypeScript 👤 wizardAEI User 🕐 已更新 2026-02-27 📅 创建时间 2023-11-20
67
bofenghuang/vigogne

法语指令遵循和聊天模型

bofenghuang
⭐ 506 Jupyter Notebook 👤 bofenghuang User 🕐 已更新 2024-12-05 📅 创建时间 2023-03-24
68
AudarAI/Audar-ASR-V1

以阿拉伯语为先的生成式语音识别 — Audar-ASR-V1 (Flash + Turbo)。在开放式通用阿拉伯语 ASR 排行榜上排名第一。模型卡、基准测试与推理。

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 已更新 2026-08-22 📅 创建时间 2026-07-06
69
withcatai/catai

在本地运行 AI ✨ 助手!使用适用于 Node.js 的简单 API 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 已更新 2025-11-16 📅 创建时间 2023-03-25