Git Stars Git Stars

#model-parallelism 仓库

探索 16 个标记为 #model-parallelism 的活跃开源 GitHub 仓库,它们累计获得 115,629 个 Star(平均每个项目 7,226 个)。该主题的领先项目是 deepspeedai/DeepSpeed,拥有 43,348 个 Star。

16
仓库总数
115,629
总星标数
7,226
平均每个仓库星标数
1
deepspeedai/DeepSpeed

DeepSpeed 是一个深度学习优化库,使分布式训练和推理变得简单、高效且有效。

deepspeedai
⭐ 43,348 Python 👤 deepspeedai Organization 🕐 已更新 2026-11-21 📅 创建时间 2020-01-23
2
hpcaitech/ColossalAI

让大型人工智能模型更便宜、更快、更易于访问

hpcaitech
⭐ 41,421 Python 👤 hpcaitech Organization 🕐 已更新 2026-11-19 📅 创建时间 2021-10-28
3
huggingface/accelerate

一种简单的方法,可以在几乎任何设备和分布式配置上启动、训练和使用 PyTorch 模型,支持自动混合精度(包括 fp8),以及易于配置的 FSDP 和 DeepSpeed

huggingface
⭐ 9,952 Python 👤 huggingface Organization 🕐 已更新 2026-11-18 📅 创建时间 2020-10-30
4
facebookresearch/lingua

Meta Lingua: 一个精简、高效且易于修改的代码库,用于研究 LLMs。

facebookresearch
⭐ 4,758 Python 👤 facebookresearch Organization 🕐 已更新 2025-07-18 📅 创建时间 2024-10-16
5
facebookresearch/fairscale

用于高性能和大规模训练的PyTorch扩展。

facebookresearch
⭐ 3,408 Python 👤 facebookresearch Organization 🕐 已更新 2025-04-26 📅 创建时间 2020-07-07
6
ByteDance-Seed/VeOmni

VeOmni:使用以模型为中心的分布式 Recipe Zoo 扩展任何模态模型训练

ByteDance-Seed
⭐ 2,299 Python 👤 ByteDance-Seed Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-03-28
7
huggingface/picotron

用于教育目的的极简 4D 并行分布式训练框架

huggingface
⭐ 2,286 Python 👤 huggingface Organization 🕐 已更新 2025-08-26 📅 创建时间 2024-09-18
8
laekov/fastmoe

PyTorch 的快速 MoE 实现

laekov
⭐ 1,853 Python 👤 laekov User 🕐 已更新 2025-02-10 📅 创建时间 2021-01-25
9
open-gigaai/giga-train

GigaTrain:一个高效且可扩展的 AI 模型训练框架

open-gigaai
⭐ 1,074 Python 👤 open-gigaai Organization 🕐 已更新 2026-08-25 📅 创建时间 2025-09-26
10
kebijuelun/Awesome-LLM-Learning

学习大型语言模型 (LLM) (大型语言模型学习)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 已更新 2026-01-05 📅 创建时间 2023-08-06
11
whitecircle/halo

Halo 是由 White Circle 构建的用于训练大型语言模型和多模态模型的开源框架

whitecircle
⭐ 868 Python 👤 whitecircle Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-08-26
12
kakaobrain/torchgpipe

PyTorch 中的 GPipe 实现

kakaobrain
⭐ 861 Python 👤 kakaobrain Organization 🕐 已更新 2024-07-25 📅 创建时间 2019-05-10
13
PrimeIntellect-ai/prime-diloco

prime 是一个用于在互联网上对 AI 模型进行高效、全球分布式训练的框架。

PrimeIntellect-ai
⭐ 857 Python 👤 PrimeIntellect-ai Organization 🕐 已更新 2026-07-17 📅 创建时间 2024-09-11
14
nihalsid/mesh-gpt

MeshGPT: 使用仅解码器Transformer生成三角形网格

nihalsid
⭐ 632 👤 nihalsid User 🕐 已更新 2024-10-31 📅 创建时间 2023-11-26
15
XuezheMax/megalodon

Megalodon 7B 模型参考实现

XuezheMax
⭐ 525 Cuda 👤 XuezheMax User 🕐 已更新 2025-05-17 📅 创建时间 2024-04-01
16
NVIDIA/NeMo-Framework-Launcher

提供适用于 LLM 和多模态模型的端到端模型开发管道,这些管道可以在本地或云原生环境中启动。

NVIDIA
⭐ 508 Python 👤 NVIDIA Organization 🕐 已更新 2025-04-18 📅 创建时间 2023-01-05

常见问题解答

1

GitHub 上最受欢迎的 #model-parallelism 仓库是什么?

GitHub 上排名第一的开源 #model-parallelism 项目是 deepspeedai/DeepSpeed,拥有 43,348 个 Star。DeepSpeed 是一个深度学习优化库,使分布式训练和推理变得简单、高效且有效。

2

#model-parallelism 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #model-parallelism 项目中,最常见的编程语言是 Python, TypeScript, Cuda。

3

#model-parallelism 仓库的排名是如何计算的?

我们跟踪了 16 个标记为 #model-parallelism 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 115,629 个 Star,平均每个仓库拥有 7,226 个 Star。排名每日根据 GitHub API 更新。