Git Stars Git Stars

#llamacpp 仓库

探索 49 个标记为 #llamacpp 的活跃开源 GitHub 仓库,它们累计获得 215,151 个 Star(平均每个项目 4,390 个)。该主题的领先项目是 janhq/jan,拥有 45,982 个 Star。

49
仓库总数
215,151
总星标数
4,390
平均每个仓库星标数
1
janhq/jan

Jan 是 ChatGPT 的开源替代品,可在您的计算机上 100% 离线运行。

janhq
⭐ 45,982 Rust 👤 janhq Organization 🕐 已更新 2026-11-18 📅 创建时间 2023-08-17
2
khoj-ai/khoj

您的AI第二大脑。可自行托管。从网络或您的文档中获取答案。构建自定义代理,安排自动化,进行深度研究。将任何在线或本地LLM转变为您的个人、自主AI(gpt、claude、gemini、llama、qwen、mistral)。立即开始 - 免费。

khoj-ai
⭐ 38,195 Python 👤 khoj-ai Organization 🕐 已更新 2026-08-02 📅 创建时间 2021-08-16
3
llmware-ai/llmware

面向使用小型、专业化模型构建企业级 RAG 流水线的统一框架

llmware-ai
⭐ 14,820 Python 👤 llmware-ai Organization 🕐 已更新 2026-10-01 📅 创建时间 2023-09-29
4
getumbrel/llama-gpt

一个自托管、离线、类似 ChatGPT 的聊天机器人。由 Llama 2 提供支持。100% 隐私,没有任何数据离开您的设备。新增:Code Llama 支持!

getumbrel
⭐ 10,990 TypeScript 👤 getumbrel Organization 🕐 已更新 2024-04-23 📅 创建时间 2023-07-22
5
RunanywhereAI/runanywhere-sdks

用于在本地运行AI的生产就绪型工具包

RunanywhereAI
⭐ 10,354 C++ 👤 RunanywhereAI Organization 🕐 已更新 2026-11-10 📅 创建时间 2025-07-22
6
xorbitsai/inference

面向语言、视觉、嵌入、重排序、图像、音频和视频模型的开源推理平台。支持通过多个推理引擎部署在异构硬件上,覆盖从笔记本电脑到分布式集群的各种环境。通过兼容 OpenAI 的 API 提供模型服务。

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-06-14
7
reorproject/reor

高熵人群的私有和本地AI个人知识管理应用。

reorproject
⭐ 8,533 JavaScript 👤 reorproject Organization 🕐 已更新 2025-05-13 📅 创建时间 2023-11-27
8
cactus-compute/engine

面向消费级设备的 2 位量化、内核和运行时。

cactus-compute
⭐ 6,200 C++ 👤 cactus-compute Organization 🕐 已更新 2026-11-05 📅 创建时间 2025-04-23
9
Michael-A-Kuykendall/shimmy

⚡ 纯 Rust 编写的 WebGPU 推理引擎 — 兼容 OpenAI API,原生支持 GGUF,可在任何 GPU 上运行。无需 Python。无需 llama.cpp。单一二进制文件。

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 已更新 2026-11-12 📅 创建时间 2025-08-28
10
serge-chat/serge

一个通过 llama.cpp 与 Alpaca 聊天的 Web 界面。完全 Docker 化,并附带易于使用的 API。

serge-chat
⭐ 5,720 Svelte 👤 serge-chat Organization 🕐 已更新 2025-11-21 📅 创建时间 2023-03-19
11
JohnSnowLabs/spark-nlp

最先进的自然语言处理

JohnSnowLabs
⭐ 4,162 Scala 👤 JohnSnowLabs Organization 🕐 已更新 2026-11-14 📅 创建时间 2017-09-24
12
SciSharp/LLamaSharp

一个在本地设备上高效运行 LLM (🦙LLaMA/LLaVA) 的 C#/.NET 库。

SciSharp
⭐ 3,826 C# 👤 SciSharp Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-05-09
13
twinnydotdev/twinny

适用于 VS Code 的开源 AI 编程助手。借助本地或托管模型,实现编程代理、代码补全、聊天、编辑和代码审查。使用你自己的模型和基础设施。

twinnydotdev
⭐ 3,703 TypeScript 👤 twinnydotdev Organization 🕐 已更新 2026-11-18 📅 创建时间 2023-08-21
⭐ 3,537 Shell 👤 PrismML-Eng Organization 🕐 已更新 2026-11-05 📅 创建时间 2026-03-25
15
Josh-XT/AGiXT

AGiXT是一个动态的人工智能代理自动化平台,可跨不同的AI提供商无缝协调指令管理和复杂任务执行。AGiXT结合了自适应记忆、智能功能和多功能插件系统,可提供高效且全面的AI解决方案。

Josh-XT
⭐ 3,214 Python 👤 Josh-XT User 🕐 已更新 2026-07-28 📅 创建时间 2023-04-17
16
SilasMarvin/lsp-ai

LSP-AI是一个开源语言服务器,它作为AI功能后端,旨在协助和赋能软件工程师,而非取代他们。

SilasMarvin
⭐ 3,182 Rust 👤 SilasMarvin User 🕐 已更新 2025-01-07 📅 创建时间 2023-11-24
17
containers/ramalama

RamaLama 是一款开源开发工具,可通过熟悉的容器语言,简化来自任何来源的 AI 模型在本地的部署,并促进其在生产环境中的推理使用。

containers
⭐ 3,116 Python 👤 containers Organization 🕐 已更新 2026-11-14 📅 创建时间 2024-07-24
18
floneum/kalosm

Rust 中即时、可控、本地预训练的 AI 模型

floneum
⭐ 2,236 Rust 👤 floneum Organization 🕐 已更新 2026-10-24 📅 创建时间 2023-05-24
19
AtomicBot-ai/Atomic-Chat

面向智能体的本地 AI 应用程序和推理引擎。在您的计算机上本地运行开源权重 LLM — 私密、100% 离线。加入我们的 Discord:https://discord.com/invite/8wGSsvmg4V

AtomicBot-ai
⭐ 2,040 TypeScript 👤 AtomicBot-ai Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-03-31
20
sybil-solutions/local-studio

VLLM、Sglang、llama.cpp、exllamav3 控制面板

sybil-solutions
⭐ 1,854 TypeScript 👤 sybil-solutions Organization 🕐 已更新 2026-10-26 📅 创建时间 2025-12-17
21
alexpinel/Dot

文本转语音、RAG和LLM。全部本地化!

alexpinel
⭐ 1,848 JavaScript 👤 alexpinel User 🕐 已更新 2024-12-09 📅 创建时间 2024-03-15
22
intentee/paddler

开源 LLM/VLM 负载均衡器和 serving 平台,用于大规模自托管 LLM(和 VLM)🏓🦙 llm-d、Docker Model Runner 等项目的替代品,但移动部件更少,并围绕 ggml 生态系统构建简单部署。在 CPU 和 GPU 上运行。

intentee
⭐ 1,694 Rust 👤 intentee Organization 🕐 已更新 2026-11-11 📅 创建时间 2024-04-27
23
alexrozanski/LlamaChat

在原生 macOS 应用中与您最喜爱的 LLaMA 模型聊天

alexrozanski
⭐ 1,502 Swift 👤 alexrozanski User 🕐 已更新 2026-06-17 📅 创建时间 2023-03-26
24
jofizcd/Soul-of-Waifu

🌌 为你喜爱的角色注入灵魂。Soul of Waifu 是一款桌面角色扮演与 AI 伴侣应用,支持 Live2D/VRM 虚拟形象、语音聊天及本地大语言模型。通过沉浸式聊天、RPG 冒险和桌面互动,与她们共同成长。

jofizcd
⭐ 1,474 Python 👤 jofizcd User 🕐 已更新 2026-08-28 📅 创建时间 2023-09-02
25
benman1/generative_ai_with_langchain

使用 Python、LangChain 和 LangGraph 构建生产就绪的 LLM 应用程序和高级代理。这是关于使用 LangChain 进行生成式 AI 的书籍的配套存储库。

benman1
⭐ 1,460 Jupyter Notebook 👤 benman1 User 🕐 已更新 2026-09-26 📅 创建时间 2023-07-11
26
awaescher/OllamaSharp

.NET 中使用 Ollama 的最简单方法

awaescher
⭐ 1,416 C# 👤 awaescher User 🕐 已更新 2026-11-11 📅 创建时间 2023-10-15
27
ngxson/wllama

llama.cpp 的 WebAssembly 绑定 - 在浏览器中实现 LLM 推理

ngxson
⭐ 1,400 TypeScript 👤 ngxson User 🕐 已更新 2026-11-21 📅 创建时间 2024-03-13
28
RahulSChand/gpu_poor

计算任何 LLM 的 token/s 和 GPU 内存需求。 支持 llama.cpp/ggml/bnb/QLoRA 量化

RahulSChand
⭐ 1,383 JavaScript 👤 RahulSChand User 🕐 已更新 2024-12-03 📅 创建时间 2023-09-12
29
vercel/modelfusion

用于构建 AI 应用程序的 TypeScript 库。

vercel
⭐ 1,307 TypeScript 👤 vercel Organization 🕐 已更新 2024-07-19 📅 创建时间 2023-05-25
30
Dicklesworthstone/swiss_army_llama

一个用于语义文本搜索的FastAPI服务,使用预先计算的嵌入和高级相似性度量,并通过textract内建支持各种文件类型。

Dicklesworthstone
⭐ 1,053 Python 👤 Dicklesworthstone User 🕐 已更新 2026-11-01 📅 创建时间 2023-08-08
31
jegly/Box

当今 Android 平台上最先进、完全离线的客户端 AI 套件。

jegly
⭐ 1,035 Kotlin 👤 jegly User 🕐 已更新 2026-11-21 📅 创建时间 2026-04-17
32
XHToken/Spark-X2.6

Spark-x2.6 开放模型系列:突破端侧模型智能体能力的极限

XHToken
⭐ 927 👤 XHToken Organization 🕐 已更新 2026-11-04 📅 创建时间 2026-08-24
33
shubham0204/SmolChat-Android

在 Android 设备上本地运行任何 GGUF SLMs/LLMs

shubham0204
⭐ 915 Kotlin 👤 shubham0204 User 🕐 已更新 2026-11-15 📅 创建时间 2024-11-10
34
huggingface/llm-ls

利用 LLM 进行代码补全(及更多功能?)的 LSP 服务器

huggingface
⭐ 887 Rust 👤 huggingface Organization 🕐 已更新 2026-09-23 📅 创建时间 2023-08-10
35
dvgodoy/FineTuningLLMs

我的书《PyTorch和Hugging Face 进行LLM微调实战指南》的官方仓库

dvgodoy
⭐ 878 Jupyter Notebook 👤 dvgodoy User 🕐 已更新 2026-02-28 📅 创建时间 2024-08-15
36
varunvasudeva1/llm-server-docs

用于在 Debian 上设置您自己的本地且完全私有的 LLM 服务器的端到端文档。配备聊天、网络搜索、RAG、模型管理、MCP 服务器、图像生成和 TTS。

varunvasudeva1
⭐ 853 👤 varunvasudeva1 User 🕐 已更新 2026-06-30 📅 创建时间 2024-03-26
37
mukel/llama3.java

纯Java中的Llama 3+推理

mukel
⭐ 818 Java 👤 mukel User 🕐 已更新 2026-04-24 📅 创建时间 2024-04-25
38
pythops/tenere

🤖 面向LLM的TUI

pythops
⭐ 685 Rust 👤 pythops User 🕐 已更新 2026-05-10 📅 创建时间 2023-04-05
39
hybridgroup/yzma

用你自己的智能前行——编写 Go 应用,直接集成 llama.cpp,在 Linux、macOS、Windows 和 WebAssembly 上利用硬件加速进行本地推理。

hybridgroup
⭐ 677 Go 👤 hybridgroup Organization 🕐 已更新 2026-11-19 📅 创建时间 2025-09-21
40
Maximilian-Winter/llama-cpp-agent

llama-cpp-agent 框架是一款专为方便与大型语言模型 (LLM) 交互而设计的工具。它允许用户与 LLM 模型进行聊天,执行结构化函数调用并获得结构化输出。也适用于未经 JSON 输出和函数调用微调的模型。

Maximilian-Winter
⭐ 663 Python 👤 Maximilian-Winter User 🕐 已更新 2026-03-09 📅 创建时间 2023-12-29
41
Fast-Editor/Lynkr

使用Lynkr简化您的工作流程,这是一款CLI工具,可作为HTTP代理,通过Claude Code CLI实现高效的代码交互。

Fast-Editor
⭐ 642 JavaScript 👤 Fast-Editor Organization 🕐 已更新 2026-11-15 📅 创建时间 2025-12-03
42
andrewkchan/yalm

另一个语言模型:C++/CUDA中的LLM推理,除I/O外无任何库

andrewkchan
⭐ 597 C++ 👤 andrewkchan User 🕐 已更新 2025-09-13 📅 创建时间 2024-10-02
43
xNul/code-llama-for-vscode

将 Code Llama 与 Visual Studio Code 和 Continue 扩展程序结合使用。GitHub Copilot 的本地 LLM 替代方案。

xNul
⭐ 569 Python 👤 xNul User 🕐 已更新 2024-07-31 📅 创建时间 2023-08-25
44
kelindar/search

使用 llama.cpp 实现嵌入式向量搜索和语义嵌入的 Go 库

kelindar
⭐ 561 Go 👤 kelindar User 🕐 已更新 2026-09-19 📅 创建时间 2024-09-29
45
yassa9/qwen600

无静态、精简、单批次、仅 CUDA 的 qwen3-0.6B 小型推理引擎

yassa9
⭐ 559 Cuda 👤 yassa9 User 🕐 已更新 2025-09-08 📅 创建时间 2025-09-06
46
xybrid-ai/xybrid

跨平台端侧 AI 工具包

xybrid-ai
⭐ 527 Rust 👤 xybrid-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-12-13
47
moxin-org/Moxin-LLM

Moxin 是一系列完全开源且可复现的大型语言模型

moxin-org
⭐ 526 Python 👤 moxin-org Organization 🕐 已更新 2025-07-02 📅 创建时间 2024-12-03
48
QwenLM/QwQ

QwQ是阿里云通义团队开发的推理模型系列。

QwenLM
⭐ 516 Python 👤 QwenLM Organization 🕐 已更新 2025-03-27 📅 创建时间 2025-03-11
49
BrowserOperator/browser-operator-core

Browser Operator——内置多智能体平台的 AI 浏览器!ChatGPT Atlas、Perplexity Comet、Dia 和 Microsoft Copilot Edge 浏览器的开源替代方案

BrowserOperator
⭐ 514 TypeScript 👤 BrowserOperator Organization 🕐 已更新 2026-11-17 📅 创建时间 2025-05-10

常见问题解答

1

GitHub 上最受欢迎的 #llamacpp 仓库是什么?

GitHub 上排名第一的开源 #llamacpp 项目是 janhq/jan,拥有 45,982 个 Star。Jan 是 ChatGPT 的开源替代品,可在您的计算机上 100% 离线运行。

2

#llamacpp 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llamacpp 项目中,最常见的编程语言是 Python, Rust, TypeScript, JavaScript。

3

#llamacpp 仓库的排名是如何计算的?

我们跟踪了 49 个标记为 #llamacpp 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 215,151 个 Star,平均每个仓库拥有 4,390 个 Star。排名每日根据 GitHub API 更新。