Git Stars Git Stars

#llm-training 仓库

探索 58 个标记为 #llm-training 的活跃开源 GitHub 仓库,它们累计获得 316,620 个 Star(平均每个项目 5,458 个)。该主题的领先项目是 karpathy/nanochat,拥有 60,746 个 Star。

58
仓库总数
316,620
总星标数
5,458
平均每个仓库星标数
1
karpathy/nanochat

100美元能买到的最好的ChatGPT。

karpathy
⭐ 60,746 Python 👤 karpathy User 🕐 已更新 2026-09-07 📅 创建时间 2025-10-13
2
gitleaks/gitleaks

使用 Gitleaks 查找秘密 🔑

gitleaks
⭐ 31,234 Go 👤 gitleaks Organization 🕐 已更新 2026-10-28 📅 创建时间 2018-01-27
3
karpathy/llm.c

LLM 训练(简单、原始的 C/CUDA 实现)

karpathy
⭐ 30,323 Cuda 👤 karpathy User 🕐 已更新 2025-06-26 📅 创建时间 2024-04-08
4
Hannibal046/Awesome-LLM

Awesome-LLM: 精选的大型语言模型列表

Hannibal046
⭐ 27,212 👤 Hannibal046 User 🕐 已更新 2025-07-31 📅 创建时间 2023-02-17
5
liguodongiot/llm-action

本项目旨在分享大模型相关技术原理以及实战经验(大模型工程化、大模型应用落地)

liguodongiot
⭐ 25,297 HTML 👤 liguodongiot User 🕐 已更新 2026-10-14 📅 创建时间 2023-05-23
6
ludwig-ai/ludwig

用于构建自定义 LLM、神经网络和其他 AI 模型的低代码框架

ludwig-ai
⭐ 11,793 Python 👤 ludwig-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2018-12-27
7
skypilot-org/skypilot

面向前沿团队的AI计算平台。SkyPilot将分散的AI计算资源整合为一台AI超级计算机,让前沿AI团队更快地构建定制化智能。

skypilot-org
⭐ 10,869 Python 👤 skypilot-org Organization 🕐 已更新 2026-11-21 📅 创建时间 2021-08-11
8
karpathy/minbpe

用于LLM分词的字节对编码(BPE)算法的极简、干净的代码。

karpathy
⭐ 10,241 Python 👤 karpathy User 🕐 已更新 2024-07-01 📅 创建时间 2024-02-16
9
THUDM/slime

slime 是一个用于强化学习规模化的 LLM 训练框架。

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 已更新 2026-11-05 📅 创建时间 2025-06-18
10
bojieli/ai-infra-book

《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验

bojieli
⭐ 8,179 Python 👤 bojieli User 🕐 已更新 2026-10-01 📅 创建时间 2026-08-22
11
Human-Agent-Society/reef

用于持续自我改进型智能体的基础设施

Human-Agent-Society
⭐ 7,652 Python 👤 Human-Agent-Society Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-08-31
12
linkedin/Liger-Kernel

LLM训练的高效Triton内核

linkedin
⭐ 6,707 Python 👤 linkedin Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-08-06
14
rllm-org/rllm

LLM强化学习的民主化

rllm-org
⭐ 5,927 Python 👤 rllm-org Organization 🕐 已更新 2026-10-16 📅 创建时间 2025-01-26
15
h2oai/h2o-llmstudio

H2O LLM Studio - 用于微调 LLM 的框架和无代码 GUI。文档:https://docs.h2o.ai/h2o-llmstudio/

h2oai
⭐ 5,199 Python 👤 h2oai Organization 🕐 已更新 2026-11-19 📅 创建时间 2023-04-17
16
facebookresearch/lingua

Meta Lingua: 一个精简、高效且易于修改的代码库,用于研究 LLMs。

facebookresearch
⭐ 4,758 Python 👤 facebookresearch Organization 🕐 已更新 2025-07-18 📅 创建时间 2024-10-16
17
radixark/miles

Miles 是一个面向企业的强化学习框架,用于 LLM 和 VLM 的后期训练,派生自并与 slime 共进化。

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-10-09
18
openlake-project/openlake

OpenLake 是一个用于高效 LLM 推理和 GPU 训练的高性能存储引擎

openlake-project
⭐ 3,089 Rust 👤 openlake-project Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-04-27
19
openenv/OpenEnv

用于带有环境的RL事后训练的接口库。

openenv
⭐ 2,872 Python 👤 openenv Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-10-01
20
qibin0506/Cortex

从零构建大模型:从预训练到RLHF的完整实践

qibin0506
⭐ 2,705 Python 👤 qibin0506 User 🕐 已更新 2026-08-21 📅 创建时间 2025-06-24
21
databricks/dbrx

DBRX(Databricks 开发的大型语言模型)的代码示例和资源

databricks
⭐ 2,578 Python 👤 databricks Organization 🕐 已更新 2024-05-01 📅 创建时间 2024-03-26
22
langfengQ/verl-agent

verl-agent 是 veRL 的一个扩展,专为通过 RL 训练 LLM/VLM 代理而设计。verl-agent 也是论文 "Group-in-Group Policy Optimization for LLM Agent Training" 的官方代码。

langfengQ
⭐ 2,457 Python 👤 langfengQ User 🕐 已更新 2026-06-09 📅 创建时间 2025-03-23
23
MoonshotAI/MoBA

MoBA: 适用于长上下文LLM的块注意力混合

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 已更新 2025-04-03 📅 创建时间 2025-02-17
24
Open-Reasoner-Zero/Open-Reasoner-Zero

Open-Reasoner-Zero 官方仓库

Open-Reasoner-Zero
⭐ 2,094 Python 👤 Open-Reasoner-Zero Organization 🕐 已更新 2025-06-02 📅 创建时间 2025-02-19
25
allenai/Olmo-core

OLMo生态系统的PyTorch构建模块

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-03-23
26
intelligent-machine-learning/dlrover

DLRover:一个自动化的分布式深度学习系统

intelligent-machine-learning
⭐ 1,695 Python 👤 intelligent-machine-learning Organization 🕐 已更新 2026-11-17 📅 创建时间 2022-06-24
28
alibaba/Pai-Megatron-Patch

Alibaba Cloud 开发的用于 LLM & VLM 大规模训练的 Pai-Megatron-Patch 官方仓库。

alibaba
⭐ 1,601 Python 👤 alibaba Organization 🕐 已更新 2025-12-15 📅 创建时间 2023-09-04
29
utkuozdemir/nvidia_gpu_exporter

使用 nvidia-smi 二进制文件或 NVML 的 Prometheus NVIDIA GPU 导出器

utkuozdemir
⭐ 1,599 Go 👤 utkuozdemir User 🕐 已更新 2026-11-20 📅 创建时间 2021-06-08
30
MoonshotAI/Moonlight

Muon 可扩展用于 LLM 训练

MoonshotAI
⭐ 1,523 👤 MoonshotAI Organization 🕐 已更新 2025-08-03 📅 创建时间 2025-02-22
31
bigscience-workshop/Megatron-DeepSpeed

持续研究大规模训练 Transformer 语言模型,包括:BERT 和 GPT-2

bigscience-workshop
⭐ 1,426 Python 👤 bigscience-workshop Organization 🕐 已更新 2024-03-20 📅 创建时间 2021-07-02
32
NousResearch/atropos

Atropos 是一个用于通过多样化环境收集和评估 LLM 轨迹的语言模型强化学习环境框架。

NousResearch
⭐ 1,324 Python 👤 NousResearch Organization 🕐 已更新 2026-06-29 📅 创建时间 2025-04-29
33
Alibaba-NLP/ZeroSearch

ZeroSearch: 在不搜索的情况下激励LLM的搜索能力

Alibaba-NLP
⭐ 1,305 Python 👤 Alibaba-NLP Organization 🕐 已更新 2025-08-16 📅 创建时间 2025-05-07
34
InternScience/GraphGen

GraphGen:通过知识驱动的合成数据生成增强LLM的监督微调

InternScience
⭐ 1,236 Python 👤 InternScience Organization 🕐 已更新 2026-11-08 📅 创建时间 2025-01-08
35
open-gigaai/giga-train

GigaTrain:一个高效且可扩展的 AI 模型训练框架

open-gigaai
⭐ 1,074 Python 👤 open-gigaai Organization 🕐 已更新 2026-08-25 📅 创建时间 2025-09-26
36
volcengine/veScale

Byted PyTorch Distributed 用于 LLM 和 RL 的超大规模训练

volcengine
⭐ 1,051 Python 👤 volcengine Organization 🕐 已更新 2026-11-11 📅 创建时间 2024-02-26
37
tingaicompass/AI-Compass

“AI-Compass”将为社区指引在 AI 技术海洋中航行的方向,无论你是初学者还是进阶开发者,都能在这里找到通往 AI 各大方向的路径。旨在帮助开发者系统性地了解 AI 的核心概念、主流技术、前沿趋势,并通过实践掌握从理论到落地的全过程。

tingaicompass
⭐ 1,000 Python 👤 tingaicompass User 🕐 已更新 2026-11-20 📅 创建时间 2025-05-27
38
yandex/YaFSDP

YaFSDP: 又一个完全分片数据并行

yandex
⭐ 992 Python 👤 yandex Organization 🕐 已更新 2026-10-26 📅 创建时间 2024-05-27
39
myshell-ai/JetMoE

用 10 万美元达到 LLaMA2 性能

myshell-ai
⭐ 988 Python 👤 myshell-ai Organization 🕐 已更新 2024-07-23 📅 创建时间 2024-04-02
41
yongliang-wu/DFT

[ICLR 2026] 关于 SFT 的泛化: 使用奖励校正的强化学习视角。

yongliang-wu
⭐ 932 Python 👤 yongliang-wu User 🕐 已更新 2026-08-01 📅 创建时间 2025-08-01
42
chrisliu298/awesome-on-policy-distillation

关于大型语言模型在策略蒸馏(OPD)的论文、技术报告、框架和工具的精选集

chrisliu298
⭐ 926 👤 chrisliu298 User 🕐 已更新 2026-10-06 📅 创建时间 2026-03-22
43
EleutherAI/cookbook

菜鸟的深度学习。所有用于处理真实模型的实用细节和有用的工具。

EleutherAI
⭐ 858 Python 👤 EleutherAI Organization 🕐 已更新 2026-10-27 📅 创建时间 2023-12-20
44
qiufengqijun/mini_qwen

这是一个从头训练大语言模型的项目,包括预训练、微调和直接偏好优化,模型拥有1B参数,支持中英文。

qiufengqijun
⭐ 849 Python 👤 qiufengqijun User 🕐 已更新 2025-02-18 📅 创建时间 2025-01-18
46
sail-sg/Adan

Adan:用于更快优化深度模型的自适应Nesterov动量算法

sail-sg
⭐ 818 Python 👤 sail-sg Organization 🕐 已更新 2025-06-08 📅 创建时间 2022-09-01
47
datawhalechina/llm-algo-leetcode

使用 PyTorch、Triton 和 CUDA 实践大模型算法与系统。《大模型算法与系统教程》涵盖模型架构与训练、后训练、推理加速、性能与算子优化,并配套 Notebook 练习、答案解析、测试与实验。

datawhalechina
⭐ 811 Jupyter Notebook 👤 datawhalechina Organization 🕐 已更新 2026-11-16 📅 创建时间 2026-04-01
48
SimpleBerry/LLaMA-O1

大型推理模型

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 已更新 2024-12-03 📅 创建时间 2024-10-10
49
ghimiresunil/LLM-PowerHouse-A-Curated-Guide-for-Large-Language-Models-with-Custom-Training-and-Inferencing

LLM-PowerHouse:通过精选的教程、最佳实践和即用型代码,释放 LLM 的潜力,以实现自定义训练和推理。

ghimiresunil
⭐ 734 Jupyter Notebook 👤 ghimiresunil User 🕐 已更新 2026-03-13 📅 创建时间 2023-05-28
50
RUCAIBox/R1-Searcher

R1-搜索器:通过强化学习激励LLM的搜索能力

RUCAIBox
⭐ 722 Python 👤 RUCAIBox Organization 🕐 已更新 2025-08-05 📅 创建时间 2025-02-26

常见问题解答

1

GitHub 上最受欢迎的 #llm-training 仓库是什么?

GitHub 上排名第一的开源 #llm-training 项目是 karpathy/nanochat,拥有 60,746 个 Star。100美元能买到的最好的ChatGPT。

2

#llm-training 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llm-training 项目中,最常见的编程语言是 Python, Jupyter Notebook, Go, Cuda。

3

#llm-training 仓库的排名是如何计算的?

我们跟踪了 58 个标记为 #llm-training 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 316,620 个 Star,平均每个仓库拥有 5,458 个 Star。排名每日根据 GitHub API 更新。