Git Stars Git Stars

#llama 仓库

225
仓库总数
1.6M
总星标数
7,102
平均每个仓库星标数

共 225 个仓库

51
Michael-A-Kuykendall/shimmy

⚡ 纯 Rust 编写的 WebGPU 推理引擎 — 兼容 OpenAI API,原生支持 GGUF,可在任何 GPU 上运行。无需 Python。无需 llama.cpp。单一二进制文件。

Michael-A-Kuykendall
⭐ 6,020 Rust 👤 Michael-A-Kuykendall User 🕐 已更新 2026-11-12 📅 创建时间 2025-08-28
52
OpenGVLab/LLaMA-Adapter

[ICLR 2024] 1小时内、使用120万参数对LLaMA进行微调以遵循指令

OpenGVLab
⭐ 5,931 Python 👤 OpenGVLab Organization 🕐 已更新 2024-03-14 📅 创建时间 2023-03-19
53
shibing624/MedicalGPT

MedicalGPT: 使用ChatGPT训练流水线训练您自己的医疗GPT模型。训练医疗大模型,实现了包括增量预训练(PT)、有监督微调(SFT)、RLHF、DPO、ORPO、GRPO。

shibing624
⭐ 5,901 Python 👤 shibing624 User 🕐 已更新 2026-09-15 📅 创建时间 2023-06-02
54
serge-chat/serge

一个通过 llama.cpp 与 Alpaca 聊天的 Web 界面。完全 Docker 化,并附带易于使用的 API。

serge-chat
⭐ 5,720 Svelte 👤 serge-chat Organization 🕐 已更新 2025-11-21 📅 创建时间 2023-03-19
55
baichuan-inc/Baichuan-7B

由百川智能开发的大规模7B预训练语言模型。

baichuan-inc
⭐ 5,683 Python 👤 baichuan-inc Organization 🕐 已更新 2024-07-18 📅 创建时间 2023-06-14
56
OpenBMB/ToolBench

[ICLR'24 Spotlight] 一个用于工具学习的大型语言模型的训练、服务和评估的开放平台。

OpenBMB
⭐ 5,654 Python 👤 OpenBMB Organization 🕐 已更新 2025-05-21 📅 创建时间 2023-05-28
57
transformerlab/transformerlab-app

面向 AI 研究者的开源研究环境,能够无缝训练、评估并扩展模型,覆盖从本地硬件到 GPU 集群。

transformerlab
⭐ 5,200 Python 👤 transformerlab Organization 🕐 已更新 2026-11-05 📅 创建时间 2023-12-24
58
h2oai/h2o-llmstudio

H2O LLM Studio - 用于微调 LLM 的框架和无代码 GUI。文档:https://docs.h2o.ai/h2o-llmstudio/

h2oai
⭐ 5,199 Python 👤 h2oai Organization 🕐 已更新 2026-11-19 📅 创建时间 2023-04-17
59
datawhalechina/tiny-universe

《大模型白盒子构建指南》:一个全手搓的Tiny-Universe

datawhalechina
⭐ 5,148 Jupyter Notebook 👤 datawhalechina Organization 🕐 已更新 2026-02-12 📅 创建时间 2024-04-06
60
SCIR-HI/Huatuo-Llama-Med-Chinese

本草(原名:华驼)模型仓库,基于中文医学知识的大语言模型指令微调

SCIR-HI
⭐ 4,998 Python 👤 SCIR-HI User 🕐 已更新 2026-07-04 📅 创建时间 2023-03-31
61
datawhalechina/llms-from-scratch-cn

仅需Python基础,从0构建大语言模型;从0逐步构建GLM4\Llama3\RWKV6, 深入理解大模型原理

datawhalechina
⭐ 4,470 Jupyter Notebook 👤 datawhalechina Organization 🕐 已更新 2026-09-17 📅 创建时间 2024-02-28
62
ModelTC/LightLLM

LightLLM是一个基于Python的LLM(大语言模型)推理和服务框架,以其轻量级设计、易于扩展和高速性能而闻名。

ModelTC
⭐ 4,368 Python 👤 ModelTC Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-07-22
63
raiyanyahya/how-to-train-your-gpt

从零构建一个现代LLM。每行都有注释。像对五岁孩子一样解释。

raiyanyahya
⭐ 4,183 Jupyter Notebook 👤 raiyanyahya User 🕐 已更新 2026-10-26 📅 创建时间 2026-05-03
64
langroid/langroid

利用多智能体编程驾驭大语言模型

langroid
⭐ 4,153 Python 👤 langroid Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-04-16
65
CrazyBoyM/llama3-Chinese-chat

Llama3-中文后训练版

CrazyBoyM
⭐ 4,133 Python 👤 CrazyBoyM User 🕐 已更新 2026-02-21 📅 创建时间 2024-04-18
66
Facico/Chinese-Vicuna

Chinese-Vicuna: A Chinese Instruction-following LLaMA-based Model —— 一个中文低资源的llama+lora方案,结构参考alpaca

Facico
⭐ 4,123 C 👤 Facico User 🕐 已更新 2025-04-18 📅 创建时间 2023-03-23
67
NVlabs/Eagle

Eagle: 具数据中心策略的 Frontier 视觉-语言模型

NVlabs
⭐ 3,861 Python 👤 NVlabs Organization 🕐 已更新 2026-11-07 📅 创建时间 2024-06-27
68
predibase/lorax

可扩展至数千个微调 LLM 的 Multi-LoRA 推理服务器

predibase
⭐ 3,836 Python 👤 predibase Organization 🕐 已更新 2026-05-28 📅 创建时间 2023-10-20
69
yuanzhoulvpi2017/zero_nlp

中文NLP解决方案(大模型、数据、模型、训练、推理)

yuanzhoulvpi2017
⭐ 3,832 Jupyter Notebook 👤 yuanzhoulvpi2017 User 🕐 已更新 2025-08-05 📅 创建时间 2023-02-05
70
SciSharp/LLamaSharp

一个在本地设备上高效运行 LLM (🦙LLaMA/LLaVA) 的 C#/.NET 库。

SciSharp
⭐ 3,826 C# 👤 SciSharp Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-05-09
72
johnbean393/Sidekick

一款原生的 macOS 应用,可让用户与本地 LLM 聊天,该 LLM 能够使用您 Mac 上的文件、文件夹和网站信息进行响应,无需安装任何其他软件。由 llama.cpp 提供支持。

johnbean393
⭐ 3,324 Swift 👤 johnbean393 User 🕐 已更新 2026-09-30 📅 创建时间 2024-10-09
73
aandrew-me/tgpt

终端版免费AI聊天机器人

aandrew-me
⭐ 3,299 Go 👤 aandrew-me User 🕐 已更新 2026-11-19 📅 创建时间 2023-04-17
74
X-D-Lab/LangChain-ChatGLM-Webui

基于LangChain和ChatGLM-6B等系列LLM的针对本地知识库的自动问答

X-D-Lab
⭐ 3,294 Python 👤 X-D-Lab Organization 🕐 已更新 2024-04-15 📅 创建时间 2023-04-10
75
OpenGVLab/InternGPT

InternGPT (iGPT) 是一个开源演示平台,您可以在其中轻松展示您的AI模型。现在它支持DragGAN、ChatGPT、ImageBind、类似GPT-4的多模态聊天、SAM、交互式图像编辑等。请在igpt.opengvlab.com进行体验(支持DragGAN、ChatGPT、ImageBind、SAM的在线Demo系统)。

OpenGVLab
⭐ 3,223 Python 👤 OpenGVLab Organization 🕐 已更新 2024-08-20 📅 创建时间 2023-05-08
76
Josh-XT/AGiXT

AGiXT是一个动态的人工智能代理自动化平台,可跨不同的AI提供商无缝协调指令管理和复杂任务执行。AGiXT结合了自适应记忆、智能功能和多功能插件系统,可提供高效且全面的AI解决方案。

Josh-XT
⭐ 3,214 Python 👤 Josh-XT User 🕐 已更新 2026-07-28 📅 创建时间 2023-04-17
77
SilasMarvin/lsp-ai

LSP-AI是一个开源语言服务器,它作为AI功能后端,旨在协助和赋能软件工程师,而非取代他们。

SilasMarvin
⭐ 3,182 Rust 👤 SilasMarvin User 🕐 已更新 2025-01-07 📅 创建时间 2023-11-24
78
DAMO-NLP-SG/Video-LLaMA

[EMNLP 2023 Demo] Video-LLaMA:用于视频理解的指令调优视听语言模型

DAMO-NLP-SG
⭐ 3,110 Python 👤 DAMO-NLP-SG Organization 🕐 已更新 2024-06-04 📅 创建时间 2023-05-06
79
run-llama/LlamaIndexTS

LLM 应用的数据框架。专注于服务器端解决方案。

run-llama
⭐ 3,081 TypeScript 👤 run-llama Organization 🕐 已更新 2026-03-11 📅 创建时间 2023-06-13
80
CVI-SZU/Linly

Chinese-LLaMA 1&2、Chinese-Falcon 基础模型;ChatFlow中文对话模型;中文OpenLLaMA模型;NLP预训练/指令微调数据集

CVI-SZU
⭐ 3,057 Python 👤 CVI-SZU Organization 🕐 已更新 2024-04-14 📅 创建时间 2023-03-21
81
pytorch/ao

用于训练和推理的 PyTorch 原生量化

pytorch
⭐ 3,032 Python 👤 pytorch Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-11-03
82
ashishpatel26/LLM-Finetuning

使用 peft 进行 LLM 微调

ashishpatel26
⭐ 2,970 Jupyter Notebook 👤 ashishpatel26 User 🕐 已更新 2025-08-01 📅 创建时间 2023-06-08
83
zjunlp/EasyEdit

[ACL 2024] LLMs 的易用知识编辑框架。

zjunlp
⭐ 2,943 Jupyter Notebook 👤 zjunlp Organization 🕐 已更新 2026-11-07 📅 创建时间 2023-05-09
84
Mobile-Artificial-Intelligence/maid

Maid 是一个免费且开源的应用程序,用于本地与 llama.cpp 模型互动,并与 Anthropic、DeepSeek、Ollama、Mistral 以及 OpenAI 模型进行远程交互。

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 已更新 2026-10-29 📅 创建时间 2023-10-17
85
papersgpt/papersgpt-for-zotero

Zotero 专业 AI 研究工具:与 PDF 对话、搜索整个文献库、文献雷达、自动驾驶。支持 30 多种大语言模型或本地模型;内置 MCP 服务器。在 iPhone 上随时与 Zotero 对话 → https://www.docsagent.app

papersgpt
⭐ 2,714 JavaScript 👤 papersgpt User 🕐 已更新 2026-11-19 📅 创建时间 2024-11-22
86
stochasticai/xTuring

构建、个性化和控制您自己的 LLM。从数据预处理到微调,xTuring 提供了一种轻松个性化开源 LLM 的方法。加入我们的 Discord 社区:https://discord.gg/TgHXuSJEk6

stochasticai
⭐ 2,680 Python 👤 stochasticai Organization 🕐 已更新 2026-11-05 📅 创建时间 2023-03-19
87
om-ai-lab/OmAgent

[EMNLP-2024] 构建多模态语言代理以实现快速原型和生产

om-ai-lab
⭐ 2,670 Python 👤 om-ai-lab Organization 🕐 已更新 2026-10-16 📅 创建时间 2024-07-04
88
X-PLUG/mPLUG-Owl

mPLUG-Owl: 强大的多模态大语言模型家族

X-PLUG
⭐ 2,541 Python 👤 X-PLUG Organization 🕐 已更新 2025-04-02 📅 创建时间 2023-04-25
89
young-geng/EasyLM

轻松掌握大语言模型 (LLM),EasyLM 是一个用于在 JAX/Flax 中预训练、微调、评估和提供 LLM 的一站式解决方案。

young-geng
⭐ 2,505 Python 👤 young-geng User 🕐 已更新 2024-08-13 📅 创建时间 2022-11-22
90
xusenlinzy/api-for-open-llm

适用于开源大语言模型的 OpenAI 风格 API,使用 LLM 就像使用 ChatGPT 一样!支持 LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 等。开源大模型的统一后端接口

xusenlinzy
⭐ 2,462 Python 👤 xusenlinzy User 🕐 已更新 2024-09-26 📅 创建时间 2023-05-23
91
darrenburns/elia

一个响应迅速、以键盘为中心、用于与大型语言模型交互的终端用户界面。与 ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma 等进行聊天。

darrenburns
⭐ 2,403 Python 👤 darrenburns User 🕐 已更新 2024-10-10 📅 创建时间 2023-05-04
92
heshengtao/comfyui_LLM_party

ComfyUI中的LLM Agent框架包含MCP服务器、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0和FLUX prompt节点,可访问Feishu、discord,并适应所有具有类似openai / aisuite接口的LLM,例如o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubao。适配了llama-3.3 Janus-Pro、Linkage GraphRAG等本地LLM、VLM、gguf。

heshengtao
⭐ 2,393 Python 👤 heshengtao User 🕐 已更新 2026-07-29 📅 创建时间 2024-04-13
93
beelzebub-labs/beelzebub

一个安全的低代码欺骗运行时框架,利用 AI 进行系统虚拟化。

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 已更新 2026-11-20 📅 创建时间 2022-05-08
94
floneum/kalosm

Rust 中即时、可控、本地预训练的 AI 模型

floneum
⭐ 2,236 Rust 👤 floneum Organization 🕐 已更新 2026-10-24 📅 创建时间 2023-05-24
95
withcatai/node-llama-cpp

使用 llama.cpp 的 Node.js 绑定在本地机器上运行 AI 模型。在生成级别强制模型输出遵循 JSON 架构。

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 已更新 2026-11-18 📅 创建时间 2023-08-12
96
ggml-org/llama.vim

用于 LLM 辅助代码/文本补全的 Vim 插件

ggml-org
⭐ 2,204 Vim Script 👤 ggml-org Organization 🕐 已更新 2026-09-29 📅 创建时间 2024-10-28
97
MetaGLM/FinGLM

FinGLM: 致力于构建一个开放的、公益的、持久的金融大模型项目,利用开源开放来促进「AI+金融」。

MetaGLM
⭐ 2,135 HTML 👤 MetaGLM Organization 🕐 已更新 2024-05-08 📅 创建时间 2023-09-25
98
tairov/llama2.mojo

纯粹的🔥单文件Llama 2推理

tairov
⭐ 2,126 Mojo 👤 tairov User 🕐 已更新 2026-09-30 📅 创建时间 2023-09-10
99
vitoplantamura/OnnxStream

适用于ONNX文件的轻量级推理库,用C++编写。它可以在RPI Zero 2(或298MB内存)上运行Stable Diffusion XL 1.0,也可以在台式机和服务器上运行Mistral 7B。支持ARM、x86、WASM、RISC-V。由XNNPACK加速。提供Python、C#和JS(WASM)绑定。

vitoplantamura
⭐ 2,091 C++ 👤 vitoplantamura User 🕐 已更新 2026-06-18 📅 创建时间 2023-07-14
100
guinmoon/LLMFarm

使用GGML库在iOS和MacOS上离线运行llama和其他大型语言模型。

guinmoon
⭐ 2,081 C 👤 guinmoon User 🕐 已更新 2026-01-30 📅 创建时间 2023-06-14