Git Stars Git Stars

#distributed-training Repositorios

147
Total de Repositorios
615,835
Total de estrellas
4,189
Promedio de Estrellas/Repo

147 repositorios en total

51
google/tunix

Una biblioteca ligera de post-entrenamiento para LLM

google
⭐ 2,516 Python 👤 google Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-04-02
52
Unakar/Logic-RL

Reproducir R1 Zero en el rompecabezas lógico

Unakar
⭐ 2,451 Python 👤 Unakar User 🕐 Actualizado 2025-03-20 📅 Creado 2025-02-02
53
aigc-apps/VideoX-Fun

📹 Un marco más flexible que puede generar videos en cualquier resolución y crea videos a partir de imágenes.

aigc-apps
⭐ 2,337 Python 👤 aigc-apps Organization 🕐 Actualizado 2026-11-19 📅 Creado 2024-09-10
54
AmberLJC/LLMSys-PaperList

Lista de Artículos sobre Sistemas de Modelos Lingüísticos Grandes (LLMs)

AmberLJC
⭐ 2,332 Python 👤 AmberLJC User 🕐 Actualizado 2026-10-20 📅 Creado 2023-06-06
55
ByteDance-Seed/VeOmni

VeOmni: Escalando el entrenamiento de modelos de cualquier modalidad con un zoológico de recetas distribuidas centrado en el modelo

ByteDance-Seed
⭐ 2,299 Python 👤 ByteDance-Seed Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-03-28
56
PrimeIntellect-ai/prime-rl

Entrenamiento RL Agentico a Gran Escala

PrimeIntellect-ai
⭐ 2,268 Python 👤 PrimeIntellect-ai Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-02-18
57
cfregly/ai-performance-engineering

Código, laboratorios y recursos para O'Reilly AI Systems Performance Engineering: optimización de GPU, entrenamiento distribuido, escalado de inferencia y ajuste de pila completa.

cfregly
⭐ 2,233 Python 👤 cfregly User 🕐 Actualizado 2026-11-19 📅 Creado 2025-04-21
58
NVIDIA-NeMo/RL

Kit de herramientas escalable para un refuerzo eficiente de modelos

NVIDIA-NeMo
⭐ 2,146 Python 👤 NVIDIA-NeMo Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-03-16
59
km1994/LLMsNineStoryDemonTower

【LLMs Torre del Demonio de Nueve Capas】Compartiendo experiencias prácticas y conocimientos sobre LLMs en campos como el procesamiento del lenguaje natural (ChatGLM, Chinese-LLaMA-Alpaca, Xiaoyangtuo Vicuna, LLaMA, GPT4ALL, etc.), recuperación de información (langchain), síntesis de lenguaje, reconocimiento de lenguaje, multimodal (Stable Diffusion, MiniGPT-4, VisualGLM-6B, Ziya-Visual, etc.).

km1994
⭐ 2,140 👤 km1994 User 🕐 Actualizado 2024-03-30 📅 Creado 2023-05-01
60
epfLLM/meditron

Meditron es una suite de grandes modelos de lenguaje (LLM) de código abierto para uso médico.

epfLLM
⭐ 2,125 Python 👤 epfLLM Organization 🕐 Actualizado 2024-04-10 📅 Creado 2023-11-23
61
aceliuchanghong/FAQ_Of_LLM_Interview

Preguntas de entrevista para puestos de algoritmos de modelos grandes (con respuestas): preguntas frecuentes y análisis de conceptos "Preguntas de entrevista para modelos grandes", "Entrevista para puestos de algoritmos", "Preguntas frecuentes de entrevista", "Entrevista de algoritmos de modelos grandes", "Fundamentos de aplicaciones de modelos grandes"

aceliuchanghong
⭐ 2,064 Jupyter Notebook 👤 aceliuchanghong User 🕐 Actualizado 2026-09-17 📅 Creado 2024-03-13
62
NUS-HPC-AI-Lab/VideoSys

VideoSys: Un sistema fácil y eficiente para la generación de vídeo

NUS-HPC-AI-Lab
⭐ 2,022 Python 👤 NUS-HPC-AI-Lab Organization 🕐 Actualizado 2025-08-27 📅 Creado 2024-02-17
63
LTH14/mar

Implementación de PyTorch de MAR+DiffLoss https://arxiv.org/abs/2406.11838

LTH14
⭐ 1,956 Python 👤 LTH14 User 🕐 Actualizado 2026-02-20 📅 Creado 2024-07-24
64
flexflow/flexflow-train

Descubrimiento automático de estrategias de paralelización rápidas para el entrenamiento distribuido de redes neuronales profundas

flexflow
⭐ 1,900 C++ 👤 flexflow Organization 🕐 Actualizado 2026-11-20 📅 Creado 2018-12-08
65
laekov/fastmoe

Una implementación MoE rápida para PyTorch

laekov
⭐ 1,853 Python 👤 laekov User 🕐 Actualizado 2025-02-10 📅 Creado 2021-01-25
67
allenai/Olmo-core

Bloques de construcción de PyTorch para el ecosistema OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-03-23
68
facebookresearch/coconut

Entrenamiento de modelos de lenguaje grandes para razonar en un espacio latente continuo

facebookresearch
⭐ 1,752 Python 👤 facebookresearch Organization 🕐 Actualizado 2026-07-02 📅 Creado 2025-01-15
69
NVIDIA/nccl-tests

Pruebas de NCCL

NVIDIA
⭐ 1,711 Cuda 👤 NVIDIA Organization 🕐 Actualizado 2026-10-05 📅 Creado 2017-08-08
70
intelligent-machine-learning/dlrover

DLRover: Un sistema distribuido automático de aprendizaje profundo

intelligent-machine-learning
⭐ 1,695 Python 👤 intelligent-machine-learning Organization 🕐 Actualizado 2026-11-17 📅 Creado 2022-06-24
71
gensyn-ai/rl-swarm

Un marco completamente de código abierto para crear enjambres de entrenamiento de RL a través de Internet.

gensyn-ai
⭐ 1,673 Python 👤 gensyn-ai Organization 🕐 Actualizado 2026-11-16 📅 Creado 2025-02-25
72
tczhangzhi/pytorch-distributed

Una guía de inicio rápido y benchmark para el entrenamiento distribuido de PyTorch.

tczhangzhi
⭐ 1,665 Python 👤 tczhangzhi User 🕐 Actualizado 2024-07-25 📅 Creado 2019-12-20
73
XueFuzhao/OpenMoE

Una familia de modelos de lenguaje grandes Mixture-of-Experts (MoE) de código abierto

XueFuzhao
⭐ 1,648 Python 👤 XueFuzhao User 🕐 Actualizado 2024-03-08 📅 Creado 2023-08-08
74
alibaba/Pai-Megatron-Patch

El repositorio oficial de Pai-Megatron-Patch para el entrenamiento a gran escala de LLM y VLM desarrollado por Alibaba Cloud.

alibaba
⭐ 1,601 Python 👤 alibaba Organization 🕐 Actualizado 2025-12-15 📅 Creado 2023-09-04
75
EvolvingLMMs-Lab/open-r1-multimodal

Una bifurcación para agregar el entrenamiento de modelos multimodales a open-r1

EvolvingLMMs-Lab
⭐ 1,556 Python 👤 EvolvingLMMs-Lab Organization 🕐 Actualizado 2025-02-08 📅 Creado 2025-01-27
76
AnswerDotAI/fsdp_qlora

Entrenamiento de LLMs con QLoRA + FSDP

AnswerDotAI
⭐ 1,534 Jupyter Notebook 👤 AnswerDotAI Organization 🕐 Actualizado 2024-11-09 📅 Creado 2024-01-14
77
Tencent/TFace

Una plataforma de investigación de análisis facial confiable desarrollada por Tencent Youtu Lab

Tencent
⭐ 1,524 Python 👤 Tencent Organization 🕐 Actualizado 2025-12-11 📅 Creado 2021-05-20
78
MoonshotAI/Moonlight

Muon es escalable para el entrenamiento de LLM

MoonshotAI
⭐ 1,523 👤 MoonshotAI Organization 🕐 Actualizado 2025-08-03 📅 Creado 2025-02-22
79
fastnlp/fitlog

fitlog es una herramienta utilizada en el entrenamiento de aprendizaje profundo para ayudar a los usuarios a registrar logs y gestionar código.

fastnlp
⭐ 1,517 Python 👤 fastnlp Organization 🕐 Actualizado 2024-01-16 📅 Creado 2019-04-03
80
Lightning-AI/lightning-thunder

Compilador de PyTorch que acelera el entrenamiento y la inferencia. Obtenga optimizaciones integradas para el rendimiento, la memoria, el paralelismo y escriba fácilmente las suyas.

Lightning-AI
⭐ 1,476 Python 👤 Lightning-AI Organization 🕐 Actualizado 2026-10-12 📅 Creado 2024-03-18
81
pytorch/gloo

Biblioteca de comunicación colectiva con varias primitivas para entrenamiento multimaquina.

pytorch
⭐ 1,469 C++ 👤 pytorch Organization 🕐 Actualizado 2026-11-18 📅 Creado 2017-02-03
82
kubeflow/examples

Un repositorio para alojar ejemplos y tutoriales extendidos

kubeflow
⭐ 1,463 Jsonnet 👤 kubeflow Organization 🕐 Actualizado 2025-04-14 📅 Creado 2018-02-01
85
mapillary/inplace_abn

BatchNorm Activado In Situ para el Entrenamiento Optimizado en Memoria de DNNs

mapillary
⭐ 1,331 Python 👤 mapillary Organization 🕐 Actualizado 2026-11-18 📅 Creado 2017-11-23
87
XueFuzhao/awesome-mixture-of-experts

Una colección de cosas IMPRESIONANTES sobre modelos de mezcla de expertos

XueFuzhao
⭐ 1,247 👤 XueFuzhao User 🕐 Actualizado 2024-12-08 📅 Creado 2022-03-30
88
LTH14/fractalgen

Implementación de PyTorch de FractalGen https://arxiv.org/abs/2502.17437

LTH14
⭐ 1,238 Python 👤 LTH14 User 🕐 Actualizado 2025-02-25 📅 Creado 2025-02-18
90
DeepRec-AI/DeepRec

DeepRec es un framework de aprendizaje profundo de alto rendimiento para recomendaciones basado en TensorFlow. Está alojado en incubación en LF AI & Data Foundation.

DeepRec-AI
⭐ 1,183 C++ 👤 DeepRec-AI Organization 🕐 Actualizado 2025-01-21 📅 Creado 2021-12-24
91
deepseek-ai/profile-data

Analizar la superposición de cómputo y comunicación en V3/R1.

deepseek-ai
⭐ 1,159 👤 deepseek-ai Organization 🕐 Actualizado 2025-03-21 📅 Creado 2025-02-26
92
gpu-mode/awesomeMLSys

Una lista de incorporación de sistemas ML

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 Actualizado 2026-02-19 📅 Creado 2024-05-06
93
HITsz-TMG/Uni-MoE

Uni-MoE: La familia de modelos multimodales grandes de Lychee.

HITsz-TMG
⭐ 1,120 Python 👤 HITsz-TMG Organization 🕐 Actualizado 2026-08-06 📅 Creado 2024-03-04
94
arcee-ai/DistillKit

Un toolkit de código abierto para la destilación de LLM

arcee-ai
⭐ 1,095 Python 👤 arcee-ai Organization 🕐 Actualizado 2026-05-12 📅 Creado 2024-07-31
95
open-gigaai/giga-train

GigaTrain: Un Marco de Entrenamiento Eficiente y Escalable para Modelos de IA

open-gigaai
⭐ 1,074 Python 👤 open-gigaai Organization 🕐 Actualizado 2026-08-25 📅 Creado 2025-09-26
96
zhuzilin/ring-flash-attention

Implementación de atención en anillo con flash attention

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 Actualizado 2025-09-10 📅 Creado 2024-02-21
97
mryab/efficient-dl-systems

Materiales del curso de sistemas eficientes de aprendizaje profundo

mryab
⭐ 1,052 Jupyter Notebook 👤 mryab User 🕐 Actualizado 2026-05-28 📅 Creado 2021-12-06
98
isaac-sim/OmniIsaacGymEnvs

Entornos de aprendizaje por refuerzo para Omniverse Isaac Gym

isaac-sim
⭐ 1,020 Python 👤 isaac-sim Organization 🕐 Actualizado 2024-06-06 📅 Creado 2022-06-01
99
PsycheFoundation/nousnet

Una infraestructura abierta para democratizar y descentralizar el desarrollo de la superinteligencia para la humanidad.

PsycheFoundation
⭐ 983 Rust 👤 PsycheFoundation Organization 🕐 Actualizado 2026-03-24 📅 Creado 2025-01-23
100
SandAI-org/MagiAttention

Atención distribuida hacia la escalabilidad lineal para el entrenamiento de contextos ultralargos y datos heterogéneos

SandAI-org
⭐ 975 Python 👤 SandAI-org Organization 🕐 Actualizado 2026-11-21 📅 Creado 2025-04-20