Git Stars Git Stars

#transformer-architecture リポジトリ

147
リポジトリ総数
594,368
合計スター数
4,043
リポジトリあたりの平均スター数

リポジトリ合計147件

51
PixArt-alpha/PixArt-sigma

PixArt-Σ: 4K テキストから画像への生成のための拡散トランスフォーマーの弱から強へのトレーニング

PixArt-alpha
⭐ 1,884 Python 👤 PixArt-alpha Organization 🕐 更新日時 2024-10-31 📅 作成日 2024-02-29
52
QwenLM/Qwen-Audio

Alibaba Cloudが提案するQwen-Audio (通义千问-Audio) チャット&事前学習済み大規模オーディオ言語モデルの公式リポジトリ。

QwenLM
⭐ 1,857 Python 👤 QwenLM Organization 🕐 更新日時 2024-07-05 📅 作成日 2023-11-07
53
nlpodyssey/spago

Goのスタンドアロン型機械学習・自然言語処理ライブラリ

nlpodyssey
⭐ 1,850 Go 👤 nlpodyssey Organization 🕐 更新日時 2025-04-01 📅 作成日 2020-01-05
54
DGoettlich/history-llms

最大規模の歴史的LLMをトレーニングする当社のプロジェクトの情報ハブ。

DGoettlich
⭐ 1,808 👤 DGoettlich User 🕐 更新日時 2025-12-22 📅 作成日 2025-12-14
55
llmgenai/LLMInterviewQuestions

このリポジトリには、Google、Nvidia、Meta、Microsoft、Fortune 500企業などのトップ企業で出題されるLLM(大規模言語モデル)の面接問題が含まれています。

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 更新日時 2025-02-12 📅 作成日 2024-12-26
59
baaivision/Emu3.5

ネイティブマルチモーダルモデルは世界の学習者である

baaivision
⭐ 1,567 Python 👤 baaivision Organization 🕐 更新日時 2025-12-30 📅 作成日 2025-10-29
60
ZeyueT/AudioX

[ICLR 2026] AudioX リポジトリ

ZeyueT
⭐ 1,559 Python 👤 ZeyueT User 🕐 更新日時 2026-03-10 📅 作成日 2025-03-13
⭐ 1,503 Python 👤 Stability-AI Organization 🕐 更新日時 2025-01-08 📅 作成日 2024-10-09
63
facebookresearch/MobileLLM

MobileLLM デバイスでのユースケース向けに10億未満のパラメータを持つ言語モデルの最適化。ICML 2024にて。

facebookresearch
⭐ 1,471 Python 👤 facebookresearch Organization 🕐 更新日時 2026-04-30 📅 作成日 2024-07-09
64
FireRedTeam/FireRedTTS2

マルチスピーカー対話生成のための長尺ストリーミングTTSシステム

FireRedTeam
⭐ 1,433 Python 👤 FireRedTeam Organization 🕐 更新日時 2025-10-26 📅 作成日 2025-09-02
65
bigscience-workshop/Megatron-DeepSpeed

BERT & GPT-2を含む、大規模なTransformer言語モデルのトレーニングに関する継続的な研究

bigscience-workshop
⭐ 1,426 Python 👤 bigscience-workshop Organization 🕐 更新日時 2024-03-20 📅 作成日 2021-07-02
67
thunlp/ERNIE

ACL 2019 論文 "ERNIE: Informative Entities を用いた強化された言語表現" のソースコードとデータセット

thunlp
⭐ 1,418 Python 👤 thunlp Organization 🕐 更新日時 2024-01-10 📅 作成日 2019-05-17
68
tianweiy/CausVid

(CVPR 2025) 遅い双方向から速い自己回帰ビデオ拡散モデルへ

tianweiy
⭐ 1,414 Python 👤 tianweiy User 🕐 更新日時 2025-08-07 📅 作成日 2025-03-14
69
PKU-VCL-3DV/SLAM3R

[CVPR 2025 Highlight] SLAM3Rによるリアルタイム高密度シーン再構成

PKU-VCL-3DV
⭐ 1,378 Python 👤 PKU-VCL-3DV Organization 🕐 更新日時 2025-10-18 📅 作成日 2024-12-11
70
tanishqkumar/beyond-nanogpt

現代のディープラーニング研究の主要なアイデアの最小限の注釈付き実装。

tanishqkumar
⭐ 1,361 Python 👤 tanishqkumar User 🕐 更新日時 2026-01-29 📅 作成日 2025-04-16
71
wzzheng/TPVFormer

[CVPR 2023] 自動運転のためのテスラの占有ネットワークに対する学術的な代替案。

wzzheng
⭐ 1,314 Python 👤 wzzheng User 🕐 更新日時 2024-09-07 📅 作成日 2022-11-19
72
agemagician/ProtTrans

ProtTransは、タンパク質のための最先端の事前学習済み言語モデルを提供します。ProtTransは、Transformersモデルを使用して、Summitの数千のGPUと数百のGoogle TPUでトレーニングされました。

agemagician
⭐ 1,310 Jupyter Notebook 👤 agemagician User 🕐 更新日時 2025-05-22 📅 作成日 2020-05-11
73
hemingkx/SpeculativeDecodingPapers

📰 Speculative Decoding に関する必読論文とブログ ⚡️

hemingkx
⭐ 1,309 👤 hemingkx User 🕐 更新日時 2026-06-27 📅 作成日 2023-09-20
74
glouppe/info8010-deep-learning

INFO8010 ディープラーニング, ULiège の講義

glouppe
⭐ 1,294 Jupyter Notebook 👤 glouppe User 🕐 更新日時 2026-07-13 📅 作成日 2018-03-14
75
Ma-Lab-Berkeley/CRATE

CRATE(Coding RAte reduction TransformEr)のコード。

Ma-Lab-Berkeley
⭐ 1,261 Python 👤 Ma-Lab-Berkeley Organization 🕐 更新日時 2024-10-23 📅 作成日 2023-05-29
76
ga642381/speech-trident

素晴らしいスピーチ/オーディオLLM、表現学習、コーデックモデル

ga642381
⭐ 1,249 👤 ga642381 User 🕐 更新日時 2026-07-10 📅 作成日 2024-04-08
77
willisma/SiT

「SiT:スケーラブルな補間トランスフォーマーによるフローベースおよび拡散ベースの生成モデルの探索」の公式PyTorch実装

willisma
⭐ 1,228 Python 👤 willisma User 🕐 更新日時 2025-12-22 📅 作成日 2023-11-28
78
awslabs/sockeye

PyTorch を基盤としたシーケンス・トゥ・シーケンス フレームワーク、ニューラル機械翻訳に焦点を当てて

awslabs
⭐ 1,217 Python 👤 awslabs Organization 🕐 更新日時 2024-10-24 📅 作成日 2017-06-08
80
gpu-mode/awesomeMLSys

MLシステムオンボーディングリスト

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 更新日時 2026-02-19 📅 作成日 2024-05-06
82
HITsz-TMG/Uni-MoE

Uni-MoE:ライチの大規模マルチモーダルモデルファミリー。

HITsz-TMG
⭐ 1,120 Python 👤 HITsz-TMG Organization 🕐 更新日時 2026-08-06 📅 作成日 2024-03-04
83
XiaomiMiMo/MiMo-Audio

MiMo-Audio: オーディオ言語モデルは少数ショット学習者です

XiaomiMiMo
⭐ 1,095 Python 👤 XiaomiMiMo Organization 🕐 更新日時 2026-10-29 📅 作成日 2025-09-19
84
chaytonmin/Awesome-BEV-Perception-Multi-Cameras

DETR3D、BEVDet、BEVFormer、BEVDepth、UniADなどの、鳥瞰図におけるマルチカメラ3Dオブジェクト検出およびセグメンテーションに関する優れた論文

chaytonmin
⭐ 1,088 👤 chaytonmin User 🕐 更新日時 2024-04-26 📅 作成日 2022-04-24
85
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: スタンドアロン自己回帰画像モデリング

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 更新日時 2025-11-03 📅 作成日 2025-04-03
86
dzyim/ilya-sutskever-recommended-reading

Ilya SutskeverがJohn Carmackに、深層学習に関する約30の研究論文の読書リストを渡したと言われています。

dzyim
⭐ 1,080 👤 dzyim User 🕐 更新日時 2024-06-04 📅 作成日 2024-05-14
87
gangweix/pixel-perfect-depth

[TPAMI 2026 & NeurIPS 2025] ピクセル単位で正確な深度

gangweix
⭐ 1,076 Python 👤 gangweix User 🕐 更新日時 2026-02-13 📅 作成日 2025-05-26
88
hans0809/MiniMind-in-Depth

軽量大規模言語モデルMiniMindのソースコード解説、トークナイザー、RoPE、MoE、KV Cache、事前学習、SFT、LoRA、DPOなどの完全なプロセスを含む。

hans0809
⭐ 1,072 👤 hans0809 User 🕐 更新日時 2025-06-16 📅 作成日 2025-06-16
89
OpenGVLab/SAM-Med2D

SAM-Med2Dの公式実装

OpenGVLab
⭐ 1,071 Jupyter Notebook 👤 OpenGVLab Organization 🕐 更新日時 2024-06-18 📅 作成日 2023-08-26
90
abertsch72/unlimiformer

NeurIPS 2023論文「Unlimiformer: 無限長入力を備えた長距離トランスフォーマー」の公開リポジトリ

abertsch72
⭐ 1,063 Python 👤 abertsch72 User 🕐 更新日時 2024-03-07 📅 作成日 2023-05-03
91
tspeterkim/flash-attention-minimal

CUDA約100行のFlash Attention(フォワードパスのみ)

tspeterkim
⭐ 1,036 Cuda 👤 tspeterkim User 🕐 更新日時 2024-12-30 📅 作成日 2024-03-07
92
fla-org/native-sparse-attention

🐳 「Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention」のための効率的なTriton実装

fla-org
⭐ 1,030 Python 👤 fla-org Organization 🕐 更新日時 2026-02-05 📅 作成日 2025-02-21
93
Ligo-Biosciences/AlphaFold3

AlphaFold3のオープンソース実装

Ligo-Biosciences
⭐ 1,024 Python 👤 Ligo-Biosciences Organization 🕐 更新日時 2024-10-07 📅 作成日 2023-11-11
94
qiuzh20/gated_attention

[NeurIPS2025 Oral] 大規模言語モデルのためのゲーテッドアテンション:非線形性、スパース性、Attention-Sink-Free の公式実装

qiuzh20
⭐ 994 Jupyter Notebook 👤 qiuzh20 User 🕐 更新日時 2025-12-20 📅 作成日 2025-05-09
95
likejazz/llama3.np

llama3.npは、Llama 3モデルの純粋なNumPy実装です。

likejazz
⭐ 991 Python 👤 likejazz User 🕐 更新日時 2025-04-27 📅 作成日 2024-05-13
96
wzzheng/StreamVGGT

[ICLR 2026] 4Dビジュアルジオメトリ・トランスフォーマーのストリーミング

wzzheng
⭐ 988 Python 👤 wzzheng User 🕐 更新日時 2025-10-27 📅 作成日 2025-07-14
97
myshell-ai/JetMoE

0.1M ドルで LLaMA2 のパフォーマンスを達成する

myshell-ai
⭐ 988 Python 👤 myshell-ai Organization 🕐 更新日時 2024-07-23 📅 作成日 2024-04-02
98
kebijuelun/Awesome-LLM-Learning

大規模言語モデル(LLM)の学習(大規模言語モデル学習)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 更新日時 2026-01-05 📅 作成日 2023-08-06
99
nathanrs/tiny-diffusion

Tiny Shakespeareで訓練された文字レベルの言語拡散モデル

nathanrs
⭐ 935 Python 👤 nathanrs User 🕐 更新日時 2026-01-16 📅 作成日 2025-10-21
100
facebookresearch/spiritlm

論文「Spirit-LM Interleaved Spoken and Written Language Model」の推論コード。

facebookresearch
⭐ 926 Python 👤 facebookresearch Organization 🕐 更新日時 2024-10-28 📅 作成日 2024-09-06