Git Stars Git Stars

#llm-training Репозитории

Откройте для себя 58 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-training, с общим числом 316,620 звёзд (в среднем 5,458 на проект). Лидером этой темы является karpathy/nanochat, набравший 60,746 звёзд.

58
Всего репозиториев
316,620
Всего звезд
5,458
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook Go Cuda HTML Rust

Всего репозиториев: 59

1
karpathy/nanochat

Лучший ChatGPT, который можно купить за 100 долларов.

karpathy
⭐ 60,746 Python 👤 karpathy User 🕐 Обновлено 2026-09-07 📅 Создано 2025-10-13
2
gitleaks/gitleaks

Найдите секреты с помощью Gitleaks 🔑

gitleaks
⭐ 31,234 Go 👤 gitleaks Organization 🕐 Обновлено 2026-10-28 📅 Создано 2018-01-27
3
karpathy/llm.c

Обучение LLM на простом, низкоуровневом C/CUDA

karpathy
⭐ 30,323 Cuda 👤 karpathy User 🕐 Обновлено 2025-06-26 📅 Создано 2024-04-08
4
Hannibal046/Awesome-LLM

Awesome-LLM: курируемый список больших языковых моделей

Hannibal046
⭐ 27,212 👤 Hannibal046 User 🕐 Обновлено 2025-07-31 📅 Создано 2023-02-17
5
liguodongiot/llm-action

Этот проект направлен на обмен техническими принципами и практическим опытом, связанным с большими моделями (инженерия больших моделей, практическое применение больших моделей).

liguodongiot
⭐ 25,297 HTML 👤 liguodongiot User 🕐 Обновлено 2026-10-14 📅 Создано 2023-05-23
6
ludwig-ai/ludwig

Фреймворк с низким кодом для создания пользовательских LLM, нейронных сетей и других моделей ИИ

ludwig-ai
⭐ 11,793 Python 👤 ludwig-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2018-12-27
7
skypilot-org/skypilot

Платформа AI-вычислений для передовых команд. SkyPilot превращает фрагментированные AI-вычисления в один AI-суперкомпьютер, позволяя передовым AI-командам быстрее создавать индивидуальный интеллект.

skypilot-org
⭐ 10,869 Python 👤 skypilot-org Organization 🕐 Обновлено 2026-11-21 📅 Создано 2021-08-11
8
karpathy/minbpe

Минимальный, чистый код для алгоритма Byte Pair Encoding (BPE), часто используемого при токенизации LLM.

karpathy
⭐ 10,241 Python 👤 karpathy User 🕐 Обновлено 2024-07-01 📅 Создано 2024-02-16
9
THUDM/slime

slime — это фреймворк для обучения LLM, предназначенный для масштабирования обучения с подкреплением.

THUDM
⭐ 8,856 Python 👤 THUDM Organization 🕐 Обновлено 2026-11-05 📅 Создано 2025-06-18
10
bojieli/ai-infra-book

《Глубокое понимание AI-инфраструктуры: количественный анализ и проектирование систем》 (автор — Ли Боцзе), рукопись книги с открытым исходным кодом: исходя из аппаратных ограничений и архитектур моделей, количественно выводит принципы проектирования систем инференса и обучения LLM. Включает полный текст книги, PDF, сопутствующие вычислительные инструменты и эксперименты.

bojieli
⭐ 8,179 Python 👤 bojieli User 🕐 Обновлено 2026-10-01 📅 Создано 2026-08-22
11
Human-Agent-Society/reef

Инфраструктура для постоянно совершенствующихся агентов

Human-Agent-Society
⭐ 7,652 Python 👤 Human-Agent-Society Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-08-31
12
linkedin/Liger-Kernel

Эффективные ядра Triton для обучения LLM

linkedin
⭐ 6,707 Python 👤 linkedin Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-08-06
13
KellerJordan/modded-nanogpt

NanoGPT (124M) за 90 секунд

KellerJordan
⭐ 6,058 Python 👤 KellerJordan User 🕐 Обновлено 2026-09-28 📅 Создано 2024-06-01
14
rllm-org/rllm

Демократизация обучения с подкреплением для LLM

rllm-org
⭐ 5,927 Python 👤 rllm-org Organization 🕐 Обновлено 2026-10-16 📅 Создано 2025-01-26
15
h2oai/h2o-llmstudio

H2O LLM Studio - фреймворк и графический интерфейс без кода для тонкой настройки LLM. Документация: https://docs.h2o.ai/h2o-llmstudio/

h2oai
⭐ 5,199 Python 👤 h2oai Organization 🕐 Обновлено 2026-11-19 📅 Создано 2023-04-17
16
facebookresearch/lingua

Meta Lingua: компактная, эффективная и простая в модификации кодовая база для исследований LLM.

facebookresearch
⭐ 4,758 Python 👤 facebookresearch Organization 🕐 Обновлено 2025-07-18 📅 Создано 2024-10-16
17
radixark/miles

Miles – это корпоративно ориентированная система обучения с подкреплением для пост‑тренировки LLM и VLM, форк, созданный и совместно развиваемый со slime.

radixark
⭐ 3,386 Python 👤 radixark Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-10-09
18
openlake-project/openlake

OpenLake — это высокопроизводительный движок хранения данных для эффективного вывода LLM и обучения на GPU

openlake-project
⭐ 3,089 Rust 👤 openlake-project Organization 🕐 Обновлено 2026-11-19 📅 Создано 2026-04-27
19
openenv/OpenEnv

Библиотека интерфейса для постобучения RL с окружениями.

openenv
⭐ 2,872 Python 👤 openenv Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-10-01
20
qibin0506/Cortex

Создание больших моделей с нуля: полная практика от предобучения до RLHF

qibin0506
⭐ 2,705 Python 👤 qibin0506 User 🕐 Обновлено 2026-08-21 📅 Создано 2025-06-24
21
databricks/dbrx

Примеры кода и ресурсы для DBRX, большой языковой модели, разработанной Databricks

databricks
⭐ 2,578 Python 👤 databricks Organization 🕐 Обновлено 2024-05-01 📅 Создано 2024-03-26
22
langfengQ/verl-agent

verl-agent — это расширение veRL, разработанное для обучения LLM/VLM агентов с помощью RL. verl-agent также является официальным кодом для статьи «Group-in-Group Policy Optimization for LLM Agent Training»

langfengQ
⭐ 2,457 Python 👤 langfengQ User 🕐 Обновлено 2026-06-09 📅 Создано 2025-03-23
23
MoonshotAI/MoBA

MoBA: Смесь блочного внимания для LLM с длинным контекстом

MoonshotAI
⭐ 2,122 Python 👤 MoonshotAI Organization 🕐 Обновлено 2025-04-03 📅 Создано 2025-02-17
24
Open-Reasoner-Zero/Open-Reasoner-Zero

Официальный репозиторий для Open-Reasoner-Zero

Open-Reasoner-Zero
⭐ 2,094 Python 👤 Open-Reasoner-Zero Organization 🕐 Обновлено 2025-06-02 📅 Создано 2025-02-19
25
allenai/Olmo-core

Строительные блоки PyTorch для экосистемы OLMo

allenai
⭐ 1,810 Python 👤 allenai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-03-23
26
intelligent-machine-learning/dlrover

DLRover: Автоматизированная распределенная система глубокого обучения

intelligent-machine-learning
⭐ 1,695 Python 👤 intelligent-machine-learning Organization 🕐 Обновлено 2026-11-17 📅 Создано 2022-06-24
28
alibaba/Pai-Megatron-Patch

Официальный репозиторий Pai-Megatron-Patch для крупномасштабного обучения LLM и VLM, разработанный Alibaba Cloud.

alibaba
⭐ 1,601 Python 👤 alibaba Organization 🕐 Обновлено 2025-12-15 📅 Создано 2023-09-04
29
utkuozdemir/nvidia_gpu_exporter

Экспортер GPU NVIDIA для Prometheus с использованием бинарного файла nvidia-smi ИЛИ NVML

utkuozdemir
⭐ 1,599 Go 👤 utkuozdemir User 🕐 Обновлено 2026-11-20 📅 Создано 2021-06-08
30
MoonshotAI/Moonlight

Muon масштабируется для обучения LLM

MoonshotAI
⭐ 1,523 👤 MoonshotAI Organization 🕐 Обновлено 2025-08-03 📅 Создано 2025-02-22
31
bigscience-workshop/Megatron-DeepSpeed

Текущие исследования по обучению масштабируемых языковых моделей Transformer, включая: BERT и GPT-2

bigscience-workshop
⭐ 1,426 Python 👤 bigscience-workshop Organization 🕐 Обновлено 2024-03-20 📅 Создано 2021-07-02
32
NousResearch/atropos

Atropos — это фреймворк сред обучения с подкреплением для языковых моделей, предназначенный для сбора и оценки траекторий LLM в различных средах

NousResearch
⭐ 1,324 Python 👤 NousResearch Organization 🕐 Обновлено 2026-06-29 📅 Создано 2025-04-29
33
Alibaba-NLP/ZeroSearch

ZeroSearch: Стимулирование возможности поиска LLM без поиска

Alibaba-NLP
⭐ 1,305 Python 👤 Alibaba-NLP Organization 🕐 Обновлено 2025-08-16 📅 Создано 2025-05-07
34
InternScience/GraphGen

GraphGen: Улучшение контролируемой дообучения для LLM с помощью генерации синтетических данных на основе знаний

InternScience
⭐ 1,236 Python 👤 InternScience Organization 🕐 Обновлено 2026-11-08 📅 Создано 2025-01-08
35
open-gigaai/giga-train

GigaTrain: Эффективная и масштабируемая платформа для обучения моделей ИИ

open-gigaai
⭐ 1,074 Python 👤 open-gigaai Organization 🕐 Обновлено 2026-08-25 📅 Создано 2025-09-26
36
volcengine/veScale

Byted PyTorch Distributed для обучения LLM и RL в гипермасштабе

volcengine
⭐ 1,051 Python 👤 volcengine Organization 🕐 Обновлено 2026-11-11 📅 Создано 2024-02-26
37
tingaicompass/AI-Compass

"AI-Compass" поможет сообществу ориентироваться в океане технологий ИИ. Независимо от того, новичок вы или опытный разработчик, здесь вы найдете пути к основным направлениям ИИ. Цель проекта — помочь разработчикам систематически разобраться в ключевых концепциях ИИ, в ведущих технологиях и передовых тенденциях, а также практическим освоением полного процесса от теории до реализации.

tingaicompass
⭐ 1,000 Python 👤 tingaicompass User 🕐 Обновлено 2026-11-20 📅 Создано 2025-05-27
38
yandex/YaFSDP

YaFSDP: Еще один Fully Sharded Data Parallel

yandex
⭐ 992 Python 👤 yandex Organization 🕐 Обновлено 2026-10-26 📅 Создано 2024-05-27
39
myshell-ai/JetMoE

Достижение производительности LLaMA2 за 0,1 млн долларов

myshell-ai
⭐ 988 Python 👤 myshell-ai Organization 🕐 Обновлено 2024-07-23 📅 Создано 2024-04-02
41
yongliang-wu/DFT

[ICLR 2026] О обобщении SFT: перспектива обучения с подкреплением с исправлением вознаграждения.

yongliang-wu
⭐ 932 Python 👤 yongliang-wu User 🕐 Обновлено 2026-08-01 📅 Создано 2025-08-01
42
chrisliu298/awesome-on-policy-distillation

Курируемая коллекция статей, технических отчетов, фреймворков и инструментов для дистилляции по политике (OPD) больших языковых моделей

chrisliu298
⭐ 926 👤 chrisliu298 User 🕐 Обновлено 2026-10-06 📅 Создано 2026-03-22
43
EleutherAI/cookbook

Глубокое обучение для чайников. Все практические детали и полезные утилиты, необходимые для работы с реальными моделями.

EleutherAI
⭐ 858 Python 👤 EleutherAI Organization 🕐 Обновлено 2026-10-27 📅 Создано 2023-12-20
44
qiufengqijun/mini_qwen

Это проект по обучению больших языковых моделей с нуля, включая предварительное обучение, тонкую настройку и прямую оптимизацию предпочтений, модель имеет 1 миллиард параметров и поддерживает китайский и английский языки.

qiufengqijun
⭐ 849 Python 👤 qiufengqijun User 🕐 Обновлено 2025-02-18 📅 Создано 2025-01-18
46
sail-sg/Adan

Adan: Адаптивный алгоритм импульса Нестерова для более быстрой оптимизации глубоких моделей

sail-sg
⭐ 818 Python 👤 sail-sg Organization 🕐 Обновлено 2025-06-08 📅 Создано 2022-09-01
47
datawhalechina/llm-algo-leetcode

Практическое изучение алгоритмов и систем LLM с PyTorch, Triton и CUDA. «Руководство по алгоритмам и системам LLM»: архитектуры моделей и обучение, постобучение, ускорение инференса, оптимизация производительности и операторов; включает задания в Notebook, разбор ответов, тесты и эксперименты.

datawhalechina
⭐ 811 Jupyter Notebook 👤 datawhalechina Organization 🕐 Обновлено 2026-11-16 📅 Создано 2026-04-01
48
SimpleBerry/LLaMA-O1

Большие модели рассуждений

SimpleBerry
⭐ 806 Python 👤 SimpleBerry Organization 🕐 Обновлено 2024-12-03 📅 Создано 2024-10-10
49
ghimiresunil/LLM-PowerHouse-A-Curated-Guide-for-Large-Language-Models-with-Custom-Training-and-Inferencing

LLM-PowerHouse: Раскройте потенциал LLM с помощью тщательно отобранных руководств, лучших практик и готового к использованию кода для пользовательского обучения и логического вывода.

ghimiresunil
⭐ 734 Jupyter Notebook 👤 ghimiresunil User 🕐 Обновлено 2026-03-13 📅 Создано 2023-05-28
50
RUCAIBox/R1-Searcher

R1-поисковик: Стимулирование поисковых возможностей в LLM с помощью обучения с подкреплением

RUCAIBox
⭐ 722 Python 👤 RUCAIBox Organization 🕐 Обновлено 2025-08-05 📅 Создано 2025-02-26

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-training наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-training на GitHub — karpathy/nanochat, набравший 60,746 звёзд. Лучший ChatGPT, который можно купить за 100 долларов.

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-training?

Среди наиболее высоко оценённых проектов по теме #llm-training на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Go, Cuda.

3

Как рассчитывается рейтинг репозиториев по теме #llm-training?

Мы отслеживаем 58 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-training (500 и более звёзд), с общим числом 316,620 звёзд и в среднем 5,458 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.