Git Stars Git Stars

#distributed-training 仓库

探索 147 个标记为 #distributed-training 的活跃开源 GitHub 仓库,它们累计获得 615,835 个 Star(平均每个项目 4,189 个)。该主题的领先项目是 tensorflow/models,拥有 77,631 个 Star。

147
仓库总数
615,835
总星标数
4,189
平均每个仓库星标数

共 147 个仓库

1
tensorflow/models

使用 TensorFlow 构建的模型和示例

tensorflow
⭐ 77,631 Python 👤 tensorflow Organization 🕐 已更新 2026-11-16 📅 创建时间 2016-02-05
2
GokuMohandas/Made-With-ML

学习如何开发、部署和迭代生产级 ML 应用程序。

GokuMohandas
⭐ 50,112 Jupyter Notebook 👤 GokuMohandas User 🕐 已更新 2026-03-04 📅 创建时间 2018-11-05
3
huggingface/pytorch-image-models

PyTorch 图像编码器 / 主干的最大集合。包括训练、评估、推理、导出脚本,以及预训练权重 -- ResNet、ResNeXT、EfficientNet、NFNet、Vision Transformer (ViT)、MobileNetV4、MobileNet-V3 & V2、RegNet、DPN、CSPNet、Swin Transformer、MaxViT、CoAtNet、ConvNeXt 等更多

huggingface
⭐ 37,299 Python 👤 huggingface Organization 🕐 已更新 2026-11-20 📅 创建时间 2019-02-02
4
hpcaitech/Open-Sora

Open-Sora:为所有人实现高效视频制作的民主化

hpcaitech
⭐ 29,943 Python 👤 hpcaitech Organization 🕐 已更新 2026-04-09 📅 创建时间 2024-02-20
5
verl-project/verl

verl/HybridFlow:一个灵活高效的RL后训练框架

verl-project
⭐ 24,302 Python 👤 verl-project Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-10-31
6
PaddlePaddle/Paddle

PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice (『飞桨』核心框架,深度学习&机器学习高性能单机、分布式训练和跨平台部署)

PaddlePaddle
⭐ 24,149 C++ 👤 PaddlePaddle Organization 🕐 已更新 2026-11-20 📅 创建时间 2016-08-15
7
pytorch/examples

围绕 Pytorch 在视觉、文本、强化学习等领域的示例集。

pytorch
⭐ 24,020 Python 👤 pytorch Organization 🕐 已更新 2025-09-01 📅 创建时间 2016-08-24
8
huggingface/trl

使用强化学习训练 Transformer 语言模型。

huggingface
⭐ 19,788 Python 👤 huggingface Organization 🕐 已更新 2026-11-21 📅 创建时间 2020-03-27
9
Jiayi-Pan/TinyZero

DeepSeek R1-Zero 的最小复现

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 已更新 2026-02-27 📅 创建时间 2025-01-21
10
PaddlePaddle/PaddleNLP

一个强大易用的 LLM 和 SLM 库,拥有丰富的模型库。

PaddlePaddle
⭐ 13,000 Python 👤 PaddlePaddle Organization 🕐 已更新 2026-05-23 📅 创建时间 2021-02-05
11
skypilot-org/skypilot

面向前沿团队的AI计算平台。SkyPilot将分散的AI计算资源整合为一台AI超级计算机,让前沿AI团队更快地构建定制化智能。

skypilot-org
⭐ 10,869 Python 👤 skypilot-org Organization 🕐 已更新 2026-11-21 📅 创建时间 2021-08-11
12
Netflix/metaflow

构建、管理和部署 AI/ML 系统

Netflix
⭐ 10,355 Python 👤 Netflix Organization 🕐 已更新 2026-11-19 📅 创建时间 2019-09-17
13
THUDM/slime

slime 是一个用于强化学习规模化的 LLM 训练框架。

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 已更新 2026-11-05 📅 创建时间 2025-06-18
14
datawhalechina/so-large-lm

大模型基础: 一文了解大模型基础知识

datawhalechina
⭐ 7,791 👤 datawhalechina Organization 🕐 已更新 2026-06-22 📅 创建时间 2023-07-17
16
deepspeedai/DeepSpeedExamples

使用 DeepSpeed 的示例模型

deepspeedai
⭐ 6,841 Python 👤 deepspeedai Organization 🕐 已更新 2026-11-20 📅 创建时间 2020-01-29
17
allenai/OLMo

OLMo 的建模、训练、评估和推理代码

allenai
⭐ 6,739 Python 👤 allenai Organization 🕐 已更新 2025-11-24 📅 创建时间 2023-02-20
19
pytorch/torchtitan

用于训练生成式AI模型的PyTorch原生平台

pytorch
⭐ 5,936 Python 👤 pytorch Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-12-13
20
rllm-org/rllm

LLM强化学习的民主化

rllm-org
⭐ 5,927 Python 👤 rllm-org Organization 🕐 已更新 2026-10-16 📅 创建时间 2025-01-26
21
meta-pytorch/torchtune

PyTorch 原生训练后优化库

meta-pytorch
⭐ 5,820 Python 👤 meta-pytorch Organization 🕐 已更新 2026-11-19 📅 创建时间 2023-10-20
22
NVIDIA/tacotron2

Tacotron 2 - PyTorch 实现,比实时更快的推理

NVIDIA
⭐ 5,299 Jupyter Notebook 👤 NVIDIA Organization 🕐 已更新 2024-06-12 📅 创建时间 2018-05-03
23
facebookresearch/moco

MoCo的PyTorch实现:https://arxiv.org/abs/1911.05722

facebookresearch
⭐ 5,139 👤 facebookresearch Organization 🕐 已更新 2026-02-03 📅 创建时间 2020-03-17
24
facebookresearch/lingua

Meta Lingua: 一个精简、高效且易于修改的代码库,用于研究 LLMs。

facebookresearch
⭐ 4,758 Python 👤 facebookresearch Organization 🕐 已更新 2025-07-18 📅 创建时间 2024-10-16
25
mindspore-ai/mindspore

MindSpore是一个新的开源深度学习训练/推理框架,可用于移动、边缘和云场景。

mindspore-ai
⭐ 4,729 C++ 👤 mindspore-ai Organization 🕐 已更新 2026-10-28 📅 创建时间 2020-02-11
26
CalvinXKY/InfraTech

分享AI Infra知识&代码练习:PyTorch、vLLM/SGLang、slime/vime框架入门⚡️、性能加速🚀、大模型基础🧠、AI软硬件🔧等

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 已更新 2026-09-20 📅 创建时间 2025-11-14
27
alibaba/x-deeplearning

用于高维稀疏数据的工业深度学习框架

alibaba
⭐ 4,306 PureBasic 👤 alibaba Organization 🕐 已更新 2024-09-25 📅 创建时间 2018-12-12
⭐ 4,291 Python 👤 thinking-machines-lab Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-07-14
29
microsoft/AI-System

人工智能教育资源系统。

microsoft
⭐ 4,185 Python 👤 microsoft Organization 🕐 已更新 2024-10-25 📅 创建时间 2020-09-02
30
IDEA-CCNL/Fengshenbang-LM

Fengshenbang-LM(封神榜大模型)是IDEA研究院认知计算与自然语言研究中心主导的大模型开源体系,成为中文AIGC和认知智能的基础设施。

IDEA-CCNL
⭐ 4,116 Python 👤 IDEA-CCNL Organization 🕐 已更新 2026-06-08 📅 创建时间 2021-10-28
31
facebookresearch/dlrm

深度学习推荐模型 (DLRM) 的实现

facebookresearch
⭐ 4,076 Python 👤 facebookresearch Organization 🕐 已更新 2026-01-12 📅 创建时间 2019-05-14
32
FedML-AI/FedML

FEDML - 面向大规模分布式训练、模型服务和联邦学习的统一且可扩展的机器学习库。跨云调度器 FEDML Launch 进一步支持在任何 GPU 云或本地集群上运行任何 AI 作业。基于该库构建的 TensorOpera AI (https://TensorOpera.ai) 是您的规模化生成式 AI 平台。

FedML-AI
⭐ 4,068 Python 👤 FedML-AI Organization 🕐 已更新 2026-11-12 📅 创建时间 2020-07-21
33
Stability-AI/stable-audio-tools

条件音频生成的生成模型

Stability-AI
⭐ 3,921 Python 👤 Stability-AI Organization 🕐 已更新 2026-11-01 📅 创建时间 2023-05-23
34
FlagAI-Open/FlagAI

FlagAI (Fast LArge-scale General AI models) 是一个快速、易用且可扩展的大规模模型工具包。

FlagAI-Open
⭐ 3,864 Python 👤 FlagAI-Open Organization 🕐 已更新 2026-07-13 📅 创建时间 2022-05-16
35
fundamentalvision/Deformable-DETR

Deformable DETR:用于端到端目标检测的可变形Transformer。

fundamentalvision
⭐ 3,846 Python 👤 fundamentalvision Organization 🕐 已更新 2024-05-16 📅 创建时间 2020-11-30
36
facebookresearch/ReAgent

推理系统平台(强化学习、上下文 bandits 等)

facebookresearch
⭐ 3,726 Python 👤 facebookresearch Organization 🕐 已更新 2026-11-17 📅 创建时间 2017-07-27
37
facebookresearch/fairscale

用于高性能和大规模训练的PyTorch扩展。

facebookresearch
⭐ 3,408 Python 👤 facebookresearch Organization 🕐 已更新 2025-04-26 📅 创建时间 2020-07-07
38
radixark/miles

Miles 是一个面向企业的强化学习框架,用于 LLM 和 VLM 的后期训练,派生自并与 slime 共进化。

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-10-09
⭐ 3,258 Python 👤 google Organization 🕐 已更新 2024-07-30 📅 创建时间 2021-01-19
40
determined-ai/determined

Determined 是一个开源的机器学习平台,可简化分布式训练、超参数调优、实验跟踪和资源管理。支持 PyTorch 和 TensorFlow。

determined-ai
⭐ 3,225 Go 👤 determined-ai Organization 🕐 已更新 2025-03-20 📅 创建时间 2020-04-07
42
deepseek-ai/DualPipe

一种用于DeepSeek V3/R1训练中计算-通信重叠的双向流水线并行算法。

deepseek-ai
⭐ 3,036 Python 👤 deepseek-ai Organization 🕐 已更新 2026-01-14 📅 创建时间 2025-02-26
⭐ 3,007 Python 👤 google-research Organization 🕐 已更新 2026-08-03 📅 创建时间 2021-11-01
44
huggingface/nanotron

极简主义大语言模型3D并行训练

huggingface
⭐ 2,869 Python 👤 huggingface Organization 🕐 已更新 2026-10-08 📅 创建时间 2023-09-11
45
rail-berkeley/rlkit

强化学习算法集合

rail-berkeley
⭐ 2,841 Python 👤 rail-berkeley Organization 🕐 已更新 2024-06-17 📅 创建时间 2018-01-25
46
eric-mitchell/direct-preference-optimization

DPO(直接偏好优化)的参考实现

eric-mitchell
⭐ 2,826 Python 👤 eric-mitchell User 🕐 已更新 2024-08-11 📅 创建时间 2023-06-22
47
km1994/LLMs_interview_notes

该仓库主要记录 大模型(LLMs) 算法工程师相关的面试题

km1994
⭐ 2,670 👤 km1994 User 🕐 已更新 2026-10-11 📅 创建时间 2023-09-16
48
romeokienzler/TensorFlow

包含我 TensorFlow 文章相关材料的项目

romeokienzler
⭐ 2,597 Jupyter Notebook 👤 romeokienzler User 🕐 已更新 2024-06-17 📅 创建时间 2019-05-15
49
LTH14/JiT

PyTorch 实现的 JiT https://arxiv.org/abs/2511.13720

LTH14
⭐ 2,570 Python 👤 LTH14 User 🕐 已更新 2025-12-08 📅 创建时间 2025-11-10
50
learning-at-home/hivemind

PyTorch 中的去中心化深度学习。旨在训练分布在全球数千名志愿者上的模型。

learning-at-home
⭐ 2,554 Python 👤 learning-at-home Organization 🕐 已更新 2026-01-11 📅 创建时间 2020-02-27

常见问题解答

1

GitHub 上最受欢迎的 #distributed-training 仓库是什么?

GitHub 上排名第一的开源 #distributed-training 项目是 tensorflow/models,拥有 77,631 个 Star。使用 TensorFlow 构建的模型和示例

2

#distributed-training 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #distributed-training 项目中,最常见的编程语言是 Python, Jupyter Notebook, C++, HTML。

3

#distributed-training 仓库的排名是如何计算的?

我们跟踪了 147 个标记为 #distributed-training 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 615,835 个 Star,平均每个仓库拥有 4,189 个 Star。排名每日根据 GitHub API 更新。