Git Stars Git Stars

#transformer-architecture Репозитории

Откройте для себя 147 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #transformer-architecture, с общим числом 594,368 звёзд (в среднем 4,043 на проект). Лидером этой темы является karpathy/nanoGPT, набравший 64,617 звёзд.

147
Всего репозиториев
594,368
Всего звезд
4,043
Среднее количество звезд на репозиторий

Всего репозиториев: 147

1
karpathy/nanoGPT

Самый простой и быстрый репозиторий для обучения/дообучения GPT среднего размера.

karpathy
⭐ 64,617 Python 👤 karpathy User 🕐 Обновлено 2025-11-12 📅 Создано 2022-12-28
2
shiyu-coder/Kronos

Kronos: Базовая модель для языка финансовых рынков

shiyu-coder
⭐ 48,042 Python 👤 shiyu-coder User 🕐 Обновлено 2026-04-13 📅 Создано 2025-07-01
3
google-research/timesfm

TimesFM (Time Series Foundation Model) — это предварительно обученная базовая модель для временных рядов, разработанная Google Research для прогнозирования временных рядов.

google-research
⭐ 35,653 Python 👤 google-research Organization 🕐 Обновлено 2026-11-13 📅 Создано 2024-04-29
4
Hannibal046/Awesome-LLM

Awesome-LLM: курируемый список больших языковых моделей

Hannibal046
⭐ 27,212 👤 Hannibal046 User 🕐 Обновлено 2025-07-31 📅 Создано 2023-02-17
5
Dao-AILab/flash-attention

Быстрое и эффективное по памяти точное внимание

Dao-AILab
⭐ 25,330 Python 👤 Dao-AILab Organization 🕐 Обновлено 2026-11-21 📅 Создано 2022-05-19
6
facebookresearch/sam2

Репозиторий предоставляет код для выполнения инференса с помощью Meta Segment Anything Model 2 (SAM 2), ссылки для загрузки обученных чекпоинтов модели и примеры ноутбуков, демонстрирующие, как использовать модель.

facebookresearch
⭐ 20,204 Jupyter Notebook 👤 facebookresearch Organization 🕐 Обновлено 2026-05-30 📅 Создано 2024-07-29
7
ZJU-LLMs/Foundations-of-LLMs

Книга для изучения основ больших языковых моделей (LLM)

ZJU-LLMs
⭐ 18,631 👤 ZJU-LLMs User 🕐 Обновлено 2025-12-12 📅 Создано 2024-06-30
8
Stability-AI/StableLM

StableLM: Языковые модели Stability AI

Stability-AI
⭐ 15,784 Jupyter Notebook 👤 Stability-AI Organization 🕐 Обновлено 2024-04-08 📅 Создано 2023-04-19
9
naklecha/llama3-from-scratch

Реализация Llama3: одно матричное умножение за раз

naklecha
⭐ 15,215 Jupyter Notebook 👤 naklecha User 🕐 Обновлено 2024-05-23 📅 Создано 2024-05-19
10
facebookresearch/vggt

[CVPR 2025 Best Paper Award] VGGT: Visual Geometry Grounded Transformer

facebookresearch
⭐ 14,654 Python 👤 facebookresearch Organization 🕐 Обновлено 2026-05-19 📅 Создано 2025-02-18
12
facebookresearch/sam3

Репозиторий предоставляет код для выполнения вывода и тонкой настройки с помощью модели Meta Segment Anything Model 3 (SAM 3), ссылки для загрузки обученных контрольных точек модели и примеры ноутбуков, демонстрирующие использование модели.

facebookresearch
⭐ 12,369 Python 👤 facebookresearch Organization 🕐 Обновлено 2026-11-17 📅 Создано 2025-07-17
13
PKU-YuanGroup/Open-Sora-Plan

Этот проект направлен на воспроизведение Sora (модели T2V от OpenAI), мы хотим, чтобы сообщество open source внесло свой вклад в этот проект.

PKU-YuanGroup
⭐ 12,201 Python 👤 PKU-YuanGroup Organization 🕐 Обновлено 2026-11-18 📅 Создано 2024-02-20
14
MoonshotAI/Kimi-K2

Kimi K2 — это серия больших языковых моделей, разработанная командой Moonshot AI.

MoonshotAI
⭐ 11,121 👤 MoonshotAI Organization 🕐 Обновлено 2026-01-21 📅 Создано 2025-07-03
15
dair-ai/ML-Papers-Explained

Объяснение ключевых концепций в ML

dair-ai
⭐ 8,575 👤 dair-ai Organization 🕐 Обновлено 2025-06-30 📅 Создано 2023-01-12
16
QwenLM/Qwen-Image

Qwen-Image — это мощная базовая модель для генерации изображений, способная выполнять сложное рендеринг текста и точное редактирование изображений.

QwenLM
⭐ 8,489 Python 👤 QwenLM Organization 🕐 Обновлено 2026-02-10 📅 Создано 2025-08-03
17
datawhalechina/so-large-lm

Основы больших моделей: Понимание основ больших моделей в одной статье

datawhalechina
⭐ 7,791 👤 datawhalechina Organization 🕐 Обновлено 2026-06-22 📅 Создано 2023-07-17
18
LargeWorldModel/LWM

Large World Model -- Моделирование текста и видео с миллионами контекстов

LargeWorldModel
⭐ 7,391 Python 👤 LargeWorldModel Organization 🕐 Обновлено 2024-10-19 📅 Создано 2024-02-08
19
mit-han-lab/streaming-llm

[ICLR 2024] Эффективные потоковые языковые модели с центром внимания (Attention Sinks)

mit-han-lab
⭐ 7,165 Python 👤 mit-han-lab Organization 🕐 Обновлено 2024-07-11 📅 Создано 2023-09-29
20
karminski/one-small-step

Это простой проект технического科普-туториала, в основном посвященный объяснению интересных, передовых технических концепций и принципов. Каждая статья должна быть прочитана за 5 минут.

karminski
⭐ 7,006 Python 👤 karminski User 🕐 Обновлено 2026-03-08 📅 Создано 2025-01-16
⭐ 6,721 Python 👤 ByteDance-Seed Organization 🕐 Обновлено 2026-07-27 📅 Создано 2025-11-12
22
deepseek-ai/DeepSeek-LLM

DeepSeek LLM: Да будут ответы

deepseek-ai
⭐ 6,688 Makefile 👤 deepseek-ai Organization 🕐 Обновлено 2024-02-04 📅 Создано 2023-11-29
23
meta-pytorch/gpt-fast

Простая и эффективная генерация текста Transformer на основе Pytorch менее чем за 1000 строк кода Python.

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 Обновлено 2025-08-22 📅 Создано 2023-10-17
24
KellerJordan/modded-nanogpt

NanoGPT (124M) за 90 секунд

KellerJordan
⭐ 6,058 Python 👤 KellerJordan User 🕐 Обновлено 2026-09-28 📅 Создано 2024-06-01
25
OpenGVLab/LLaMA-Adapter

[ICLR 2024] Дообучение LLaMA для выполнения инструкций за 1 час и 1,2 млн параметров

OpenGVLab
⭐ 5,931 Python 👤 OpenGVLab Organization 🕐 Обновлено 2024-03-14 📅 Создано 2023-03-19
26
bbycroft/llm-viz

3D-визуализация LLM в стиле GPT

bbycroft
⭐ 5,599 TypeScript 👤 bbycroft User 🕐 Обновлено 2026-08-10 📅 Создано 2023-03-01
27
bojone/bert4keras

Реализация Transformers на Keras для людей

bojone
⭐ 5,422 Python 👤 bojone User 🕐 Обновлено 2024-11-11 📅 Создано 2019-08-26
28
deepseek-ai/DeepSeek-V2

DeepSeek-V2: Мощная, экономичная и эффективная языковая модель Mixture-of-Experts

deepseek-ai
⭐ 4,988 👤 deepseek-ai Organization 🕐 Обновлено 2024-09-25 📅 Создано 2024-04-22
29
cmhungsteve/Awesome-Transformer-Attention

В конечном итоге исчерпывающий список работ по Vision Transformer/Attention, включая статьи, коды и связанные веб-сайты

cmhungsteve
⭐ 4,987 👤 cmhungsteve User 🕐 Обновлено 2024-07-30 📅 Создано 2021-09-15
30
facebookresearch/vjepa2

Код и модели PyTorch для самообуча VJEPA2 на основе видео.

facebookresearch
⭐ 4,911 Python 👤 facebookresearch Organization 🕐 Обновлено 2026-10-29 📅 Создано 2025-04-25
31
karpathy/build-nanogpt

Видео+лекция по коду о создании nanoGPT с нуля

karpathy
⭐ 4,640 Python 👤 karpathy User 🕐 Обновлено 2024-08-13 📅 Создано 2024-06-09
33
649453932/Bert-Chinese-Text-Classification-Pytorch

Использование Bert, ERNIE для классификации китайского текста

649453932
⭐ 4,366 Python 👤 649453932 User 🕐 Обновлено 2024-06-28 📅 Создано 2019-07-15
34
skindhu/Build-A-Large-Language-Model-CN

"Build a Large Language Model (From Scratch)" — это электронная книга, которая углубляется в принципы и реализацию больших языковых моделей, подходящая для учащихся, желающих глубоко понять архитектуру, процесс обучения и разработку приложений таких больших моделей, как GPT. Чтобы больше китайских читателей могли получить доступ к этому чрезвычайно ценному учебному пособию, я решил перевести его на китайский язык и поделиться им как открытым исходным кодом через GitHub.

skindhu
⭐ 4,188 HTML 👤 skindhu User 🕐 Обновлено 2026-08-10 📅 Создано 2024-10-23
35
ML-GSAI/LLaDA

Официальная реализация PyTorch для «Large Language Diffusion Models»

ML-GSAI
⭐ 4,020 Python 👤 ML-GSAI Organization 🕐 Обновлено 2026-07-15 📅 Создано 2025-02-13
36
genmoai/mochi

Лучшие модели генерации видео с открытым исходным кодом, созданные Genmo

genmoai
⭐ 3,766 Python 👤 genmoai Organization 🕐 Обновлено 2026-10-22 📅 Создано 2024-09-11
37
tekaratzas/RustGPT

LLM на основе трансформера. Полностью написан на Rust

tekaratzas
⭐ 3,187 Rust 👤 tekaratzas User 🕐 Обновлено 2025-10-10 📅 Создано 2025-09-13
39
MLNLP-World/LLMs-from-scratch-CN

Китайский перевод проекта LLMs-from-scratch

MLNLP-World
⭐ 3,100 Jupyter Notebook 👤 MLNLP-World Organization 🕐 Обновлено 2026-04-19 📅 Создано 2025-01-20
40
Saiyan-World/goku

[CVPR2025 Highlight] Фундаментальные модели генерации видео: https://saiyan-world.github.io/goku/

Saiyan-World
⭐ 2,909 Python 👤 Saiyan-World Organization 🕐 Обновлено 2025-02-19 📅 Создано 2025-02-10
41
kzl/decision-transformer

Официальная кодовая база для Decision Transformer: Обучение с подкреплением через моделирование последовательностей.

kzl
⭐ 2,738 Python 👤 kzl User 🕐 Обновлено 2024-04-29 📅 Создано 2021-06-02
42
km1994/LLMs_interview_notes

Этот репозиторий в основном записывает вопросы собеседования, связанные с инженерами алгоритмов больших языковых моделей (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Обновлено 2026-10-11 📅 Создано 2023-09-16
44
yuqinie98/PatchTST

Официальная реализация PatchTST: «A Time Series is Worth 64 Words: Long-term Forecasting with Transformers.» (ICLR 2023) https://arxiv.org/abs/2211.14730

yuqinie98
⭐ 2,353 Python 👤 yuqinie98 User 🕐 Обновлено 2024-08-12 📅 Создано 2022-10-25
45
MineDojo/NitroGen

Фундаментальная модель для универсальных игровых агентов

MineDojo
⭐ 2,251 Python 👤 MineDojo Organization 🕐 Обновлено 2026-01-25 📅 Создано 2025-12-17
46
aburkov/theLMbook

Это официальный репозиторий книги "The Hundred-Page Language Models Book" от Андрея Буркова

aburkov
⭐ 2,194 Jupyter Notebook 👤 aburkov User 🕐 Обновлено 2026-02-08 📅 Создано 2024-06-28
47
dabochen/spreadsheet-is-all-you-need

Конвейер nanoGPT, упакованный в электронную таблицу

dabochen
⭐ 2,142 👤 dabochen User 🕐 Обновлено 2024-06-17 📅 Создано 2024-06-08
48
tairov/llama2.mojo

Вывод Llama 2 в одном файле чистого 🔥

tairov
⭐ 2,126 Mojo 👤 tairov User 🕐 Обновлено 2026-09-30 📅 Создано 2023-09-10
49
facebookresearch/blt

Код для исследовательской статьи BLT

facebookresearch
⭐ 2,070 Python 👤 facebookresearch Organization 🕐 Обновлено 2025-11-03 📅 Создано 2024-12-09
50
haykgrigo3/TimeCapsuleLLM

LLM, обученная на данных только из определенных периодов времени для уменьшения современных предубеждений

haykgrigo3
⭐ 2,014 Python 👤 haykgrigo3 User 🕐 Обновлено 2026-11-16 📅 Создано 2025-07-02

Часто задаваемые вопросы

1

Какой репозиторий по теме #transformer-architecture наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #transformer-architecture на GitHub — karpathy/nanoGPT, набравший 64,617 звёзд. Самый простой и быстрый репозиторий для обучения/дообучения GPT среднего размера.

2

Какие языки программирования чаще всего используются в репозиториях по теме #transformer-architecture?

Среди наиболее высоко оценённых проектов по теме #transformer-architecture на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Makefile, TypeScript.

3

Как рассчитывается рейтинг репозиториев по теме #transformer-architecture?

Мы отслеживаем 147 активных репозиториев с открытым исходным кодом, отмеченных тегом #transformer-architecture (500 и более звёзд), с общим числом 594,368 звёзд и в среднем 4,043 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.