Git Stars Git Stars

#distributed-training Репозитории

Откройте для себя 147 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #distributed-training, с общим числом 615,835 звёзд (в среднем 4,189 на проект). Лидером этой темы является tensorflow/models, набравший 77,631 звёзд.

147
Всего репозиториев
615,835
Всего звезд
4,189
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook C++ HTML PureBasic Go

Всего репозиториев: 147

1
tensorflow/models

Модели и примеры, построенные с помощью TensorFlow

tensorflow
⭐ 77,631 Python 👤 tensorflow Organization 🕐 Обновлено 2026-11-16 📅 Создано 2016-02-05
2
GokuMohandas/Made-With-ML

Узнайте, как разрабатывать, развертывать и итерировать производственные приложения ML.

GokuMohandas
⭐ 50,112 Jupyter Notebook 👤 GokuMohandas User 🕐 Обновлено 2026-03-04 📅 Создано 2018-11-05
3
huggingface/pytorch-image-models

Самая большая коллекция PyTorch-энкодеров изображений / backbone. Включая скрипты для обучения, оценки, инференса, экспорта и предобученные веса -- ResNet, ResNeXT, EfficientNet, NFNet, Vision Transformer (ViT), MobileNetV4, MobileNet-V3 & V2, RegNet, DPN, CSPNet, Swin Transformer, MaxViT, CoAtNet, ConvNeXt и многое другое

huggingface
⭐ 37,299 Python 👤 huggingface Organization 🕐 Обновлено 2026-11-20 📅 Создано 2019-02-02
4
hpcaitech/Open-Sora

Open-Sora: Демократизация эффективного производства видео для всех

hpcaitech
⭐ 29,943 Python 👤 hpcaitech Organization 🕐 Обновлено 2026-04-09 📅 Создано 2024-02-20
5
verl-project/verl

verl/HybridFlow: Гибкая и эффективная среда для постобучения RL

verl-project
⭐ 24,302 Python 👤 verl-project Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-10-31
6
PaddlePaddle/Paddle

PArallel Distributed Deep LEarning: Фреймворк машинного обучения из промышленной практики (Основной фреймворк『FeiJiang』, высокопроизводительное одноузловое и распределенное обучение Deep Learning & Machine Learning, а также кроссплатформенное развертывание)

PaddlePaddle
⭐ 24,149 C++ 👤 PaddlePaddle Organization 🕐 Обновлено 2026-11-20 📅 Создано 2016-08-15
7
pytorch/examples

Набор примеров, связанных с pytorch в области компьютерного зрения, текста, обучения с подкреплением и т. д.

pytorch
⭐ 24,020 Python 👤 pytorch Organization 🕐 Обновлено 2025-09-01 📅 Создано 2016-08-24
8
huggingface/trl

Обучайте языковые модели Transformer с помощью обучения с подкреплением.

huggingface
⭐ 19,788 Python 👤 huggingface Organization 🕐 Обновлено 2026-11-21 📅 Создано 2020-03-27
9
Jiayi-Pan/TinyZero

Минимальная репродукция DeepSeek R1-Zero

Jiayi-Pan
⭐ 13,259 Python 👤 Jiayi-Pan User 🕐 Обновлено 2026-02-27 📅 Создано 2025-01-21
10
PaddlePaddle/PaddleNLP

Простая в использовании и мощная библиотека LLM и SLM с потрясающим зоопарком моделей.

PaddlePaddle
⭐ 13,000 Python 👤 PaddlePaddle Organization 🕐 Обновлено 2026-05-23 📅 Создано 2021-02-05
11
skypilot-org/skypilot

Платформа AI-вычислений для передовых команд. SkyPilot превращает фрагментированные AI-вычисления в один AI-суперкомпьютер, позволяя передовым AI-командам быстрее создавать индивидуальный интеллект.

skypilot-org
⭐ 10,869 Python 👤 skypilot-org Organization 🕐 Обновлено 2026-11-21 📅 Создано 2021-08-11
12
Netflix/metaflow

Создавать, управлять и развертывать системы ИИ/МЛ

Netflix
⭐ 10,355 Python 👤 Netflix Organization 🕐 Обновлено 2026-11-19 📅 Создано 2019-09-17
13
THUDM/slime

slime — это фреймворк для обучения LLM, предназначенный для масштабирования обучения с подкреплением.

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 Обновлено 2026-11-05 📅 Создано 2025-06-18
14
datawhalechina/so-large-lm

Основы больших моделей: Понимание основ больших моделей в одной статье

datawhalechina
⭐ 7,791 👤 datawhalechina Organization 🕐 Обновлено 2026-06-22 📅 Создано 2023-07-17
15
zhaochenyang20/Awesome-ML-SYS-Tutorial

Мои учебные заметки по ML SYS.

zhaochenyang20
⭐ 7,695 HTML 👤 zhaochenyang20 User 🕐 Обновлено 2026-10-21 📅 Создано 2024-11-09
16
deepspeedai/DeepSpeedExamples

Примерные модели с использованием DeepSpeed

deepspeedai
⭐ 6,841 Python 👤 deepspeedai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2020-01-29
17
allenai/OLMo

Код для моделирования, обучения, оценки и инференса для OLMo

allenai
⭐ 6,739 Python 👤 allenai Organization 🕐 Обновлено 2025-11-24 📅 Создано 2023-02-20
18
KellerJordan/modded-nanogpt

NanoGPT (124M) за 90 секунд

KellerJordan
⭐ 6,058 Python 👤 KellerJordan User 🕐 Обновлено 2026-09-28 📅 Создано 2024-06-01
19
pytorch/torchtitan

Нативная платформа PyTorch для обучения генеративных моделей ИИ

pytorch
⭐ 5,936 Python 👤 pytorch Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-12-13
20
rllm-org/rllm

Демократизация обучения с подкреплением для LLM

rllm-org
⭐ 5,927 Python 👤 rllm-org Organization 🕐 Обновлено 2026-10-16 📅 Создано 2025-01-26
21
meta-pytorch/torchtune

Нативная библиотека PyTorch для посттренировочной оптимизации

meta-pytorch
⭐ 5,820 Python 👤 meta-pytorch Organization 🕐 Обновлено 2026-11-19 📅 Создано 2023-10-20
22
NVIDIA/tacotron2

Tacotron 2 - Реализация на PyTorch с выводом быстрее реального времени

NVIDIA
⭐ 5,299 Jupyter Notebook 👤 NVIDIA Organization 🕐 Обновлено 2024-06-12 📅 Создано 2018-05-03
23
facebookresearch/moco

Реализация MoCo на PyTorch: https://arxiv.org/abs/1911.05722

facebookresearch
⭐ 5,139 👤 facebookresearch Organization 🕐 Обновлено 2026-02-03 📅 Создано 2020-03-17
24
facebookresearch/lingua

Meta Lingua: компактная, эффективная и простая в модификации кодовая база для исследований LLM.

facebookresearch
⭐ 4,758 Python 👤 facebookresearch Organization 🕐 Обновлено 2025-07-18 📅 Создано 2024-10-16
25
mindspore-ai/mindspore

MindSpore — это новый фреймворк для обучения/вывода глубокого обучения с открытым исходным кодом, который может использоваться для мобильных, периферийных и облачных сценариев.

mindspore-ai
⭐ 4,729 C++ 👤 mindspore-ai Organization 🕐 Обновлено 2026-10-28 📅 Создано 2020-02-11
26
CalvinXKY/InfraTech

Обмен знаниями об AI Infra и практика кода: PyTorch, vLLM/SGLang, введение в фреймворк slime/vime ⚡️, ускорение производительности 🚀, основы больших моделей 🧠, программное и аппаратное обеспечение ИИ 🔧 и т.д.

CalvinXKY
⭐ 4,411 Jupyter Notebook 👤 CalvinXKY User 🕐 Обновлено 2026-09-20 📅 Создано 2025-11-14
27
alibaba/x-deeplearning

Промышленная среда глубокого обучения для разреженных данных высокой размерности

alibaba
⭐ 4,306 PureBasic 👤 alibaba Organization 🕐 Обновлено 2024-09-25 📅 Создано 2018-12-12
28
thinking-machines-lab/tinker-cookbook

После тренировки с Tinker

thinking-machines-lab
⭐ 4,291 Python 👤 thinking-machines-lab Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-07-14
29
microsoft/AI-System

Система образовательных ресурсов по ИИ.

microsoft
⭐ 4,185 Python 👤 microsoft Organization 🕐 Обновлено 2024-10-25 📅 Создано 2020-09-02
30
IDEA-CCNL/Fengshenbang-LM

Fengshenbang-LM (封神榜大模型) — это система больших моделей с открытым исходным кодом, разработанная Исследовательским центром когнитивных вычислений и обработки естественного языка Института IDEA, которая служит инфраструктурой для китайского AIGC и когнитивного интеллекта.

IDEA-CCNL
⭐ 4,116 Python 👤 IDEA-CCNL Organization 🕐 Обновлено 2026-06-08 📅 Создано 2021-10-28
31
facebookresearch/dlrm

Реализация модели рекомендаций глубокого обучения (DLRM)

facebookresearch
⭐ 4,076 Python 👤 facebookresearch Organization 🕐 Обновлено 2026-01-12 📅 Создано 2019-05-14
32
FedML-AI/FedML

FEDML – Единая и масштабируемая ML-библиотека для крупномасштабного распределенного обучения, обслуживания моделей и федеративного обучения. FEDML Launch, кросс-облачный планировщик, позволяет запускать любые ИИ-задания в любом облаке GPU или локальном кластере. TensorOpera AI (https://TensorOpera.ai), построенная на основе этой библиотеки, — это ваша платформа генеративного ИИ в больших масштабах.

FedML-AI
⭐ 4,068 Python 👤 FedML-AI Organization 🕐 Обновлено 2026-11-12 📅 Создано 2020-07-21
33
Stability-AI/stable-audio-tools

Генеративные модели для условной генерации аудио

Stability-AI
⭐ 3,921 Python 👤 Stability-AI Organization 🕐 Обновлено 2026-11-01 📅 Создано 2023-05-23
34
FlagAI-Open/FlagAI

FlagAI (Fast LArge-scale General AI models) - это быстрый, простой в использовании и расширяемый набор инструментов для масштабных моделей.

FlagAI-Open
⭐ 3,864 Python 👤 FlagAI-Open Organization 🕐 Обновлено 2026-07-13 📅 Создано 2022-05-16
35
fundamentalvision/Deformable-DETR

Deformable DETR: Деформируемые трансформеры для сквозного обнаружения объектов.

fundamentalvision
⭐ 3,846 Python 👤 fundamentalvision Organization 🕐 Обновлено 2024-05-16 📅 Создано 2020-11-30
36
facebookresearch/ReAgent

Платформа для систем рассуждений (Обучение с подкреплением, Контекстные бандиты и т.д.)

facebookresearch
⭐ 3,726 Python 👤 facebookresearch Organization 🕐 Обновлено 2026-11-17 📅 Создано 2017-07-27
37
facebookresearch/fairscale

Расширения PyTorch для высокопроизводительного и масштабного обучения.

facebookresearch
⭐ 3,408 Python 👤 facebookresearch Organization 🕐 Обновлено 2025-04-26 📅 Создано 2020-07-07
38
radixark/miles

Miles – это корпоративно ориентированная система обучения с подкреплением для пост‑тренировки LLM и VLM, форк, созданный и совместно развиваемый со slime.

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-10-09
⭐ 3,258 Python 👤 google Organization 🕐 Обновлено 2024-07-30 📅 Создано 2021-01-19
40
determined-ai/determined

Determined — это платформа машинного обучения с открытым исходным кодом, которая упрощает распределенное обучение, настройку гиперпараметров, отслеживание экспериментов и управление ресурсами. Работает с PyTorch и TensorFlow.

determined-ai
⭐ 3,225 Go 👤 determined-ai Organization 🕐 Обновлено 2025-03-20 📅 Создано 2020-04-07
42
deepseek-ai/DualPipe

Двунаправленный алгоритм конвейерного параллелизма для перекрытия вычислений и коммуникаций при обучении DeepSeek V3/R1.

deepseek-ai
⭐ 3,036 Python 👤 deepseek-ai Organization 🕐 Обновлено 2026-01-14 📅 Создано 2025-02-26
⭐ 3,007 Python 👤 google-research Organization 🕐 Обновлено 2026-08-03 📅 Создано 2021-11-01
44
huggingface/nanotron

Минималистичное 3D-параллельное обучение больших языковых моделей

huggingface
⭐ 2,869 Python 👤 huggingface Organization 🕐 Обновлено 2026-10-08 📅 Создано 2023-09-11
45
rail-berkeley/rlkit

Коллекция алгоритмов обучения с подкреплением

rail-berkeley
⭐ 2,841 Python 👤 rail-berkeley Organization 🕐 Обновлено 2024-06-17 📅 Создано 2018-01-25
46
eric-mitchell/direct-preference-optimization

Эталонная реализация для DPO (Direct Preference Optimization)

eric-mitchell
⭐ 2,826 Python 👤 eric-mitchell User 🕐 Обновлено 2024-08-11 📅 Создано 2023-06-22
47
km1994/LLMs_interview_notes

Этот репозиторий в основном записывает вопросы собеседования, связанные с инженерами алгоритмов больших языковых моделей (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Обновлено 2026-10-11 📅 Создано 2023-09-16
48
romeokienzler/TensorFlow

Проект, содержащий связанные материалы для моих статей по TensorFlow

romeokienzler
⭐ 2,597 Jupyter Notebook 👤 romeokienzler User 🕐 Обновлено 2024-06-17 📅 Создано 2019-05-15
49
LTH14/JiT

Реализация JiT на PyTorch https://arxiv.org/abs/2511.13720

LTH14
⭐ 2,570 Python 👤 LTH14 User 🕐 Обновлено 2025-12-08 📅 Создано 2025-11-10
50
learning-at-home/hivemind

Децентрализованное глубокое обучение в PyTorch. Создано для обучения моделей на тысячах волонтеров по всему миру.

learning-at-home
⭐ 2,554 Python 👤 learning-at-home Organization 🕐 Обновлено 2026-01-11 📅 Создано 2020-02-27

Часто задаваемые вопросы

1

Какой репозиторий по теме #distributed-training наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #distributed-training на GitHub — tensorflow/models, набравший 77,631 звёзд. Модели и примеры, построенные с помощью TensorFlow

2

Какие языки программирования чаще всего используются в репозиториях по теме #distributed-training?

Среди наиболее высоко оценённых проектов по теме #distributed-training на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, C++, HTML.

3

Как рассчитывается рейтинг репозиториев по теме #distributed-training?

Мы отслеживаем 147 активных репозиториев с открытым исходным кодом, отмеченных тегом #distributed-training (500 и более звёзд), с общим числом 615,835 звёзд и в среднем 4,189 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.