Git Stars Git Stars

#attention-mechanisms リポジトリ

#attention-mechanismsのタグが付いた、GitHub上の39件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は77,773個で、プロジェクトあたりの平均は1,994個です。このトピックをリードしているのは、7,858個のスターを獲得しているlucidrains/PaLM-rlhf-pytorchです。

39
リポジトリ総数
77,773
合計スター数
1,994
リポジトリあたりの平均スター数
プログラミング言語: Python Jupyter Notebook TypeScript

リポジトリ合計39件

1
lucidrains/PaLM-rlhf-pytorch

PaLMアーキテクチャ上にRLHF(Human Feedbackによる強化学習)を実装。基本的にChatGPTだがPaLMを使用

lucidrains
⭐ 7,858 Python 👤 lucidrains User 🕐 更新日時 2026-09-20 📅 作成日 2022-12-09
2
lllyasviel/Omost

画像はほぼ完了です!

lllyasviel
⭐ 7,661 Python 👤 lllyasviel User 🕐 更新日時 2024-07-26 📅 作成日 2024-05-29
3
mit-han-lab/streaming-llm

[ICLR 2024] Attention Sinks を用いた効率的なストリーミング言語モデル

mit-han-lab
⭐ 7,165 Python 👤 mit-han-lab Organization 🕐 更新日時 2024-07-11 📅 作成日 2023-09-29
5
cmhungsteve/Awesome-Transformer-Attention

Vision Transformer/Attention に関する最終的な包括的な論文リスト。論文、コード、関連ウェブサイトを含む

cmhungsteve
⭐ 4,987 👤 cmhungsteve User 🕐 更新日時 2024-07-30 📅 作成日 2021-09-15
6
fundamentalvision/Deformable-DETR

Deformable DETR: End-to-End オブジェクト検出のための変形可能トランスフォーマー。

fundamentalvision
⭐ 3,846 Python 👤 fundamentalvision Organization 🕐 更新日時 2024-05-16 📅 作成日 2020-11-30
7
Everlyn-Labs/Everlyn-1

初のオープンな自己回帰型基礎ビデオAIモデル。

Everlyn-Labs
⭐ 2,891 👤 Everlyn-Labs Organization 🕐 更新日時 2026-10-07 📅 作成日 2024-10-13
8
MenghaoGuo/Awesome-Vision-Attentions

視覚的注意に関する関連論文の概要。関連コードはJittorに基づいて段階的にリリースされます。

MenghaoGuo
⭐ 2,844 Python 👤 MenghaoGuo User 🕐 更新日時 2024-10-20 📅 作成日 2021-09-01
9
lucidrains/audiolm-pytorch

Google Research のオーディオ生成のための SOTA 言語モデリングアプローチである AudioLM を PyTorch で実装

lucidrains
⭐ 2,620 Python 👤 lucidrains User 🕐 更新日時 2025-01-12 📅 作成日 2022-09-09
10
heykeetae/Self-Attention-GAN

Self-Attention Generative Adversarial Networks (SAGAN) の PyTorch 実装

heykeetae
⭐ 2,603 Python 👤 heykeetae User 🕐 更新日時 2024-04-22 📅 作成日 2018-05-28
11
lucidrains/toolformer-pytorch

MetaAIによるToolformerの実装:ツールを使用できる言語モデル

lucidrains
⭐ 2,055 Python 👤 lucidrains User 🕐 更新日時 2024-07-22 📅 作成日 2023-02-10
12
lucidrains/make-a-video-pytorch

Meta AIの新しいSOTAテキストからビデオへのジェネレーターMake-A-VideoをPytorchで実装

lucidrains
⭐ 1,983 Python 👤 lucidrains User 🕐 更新日時 2024-05-03 📅 作成日 2022-09-29
13
lehaifeng/T-GCN

都市交通流予測のための時間的グラフ畳み込みネットワーク方法

lehaifeng
⭐ 1,782 Jupyter Notebook 👤 lehaifeng User 🕐 更新日時 2025-09-01 📅 作成日 2018-11-12
14
lucidrains/alphafold3-pytorch

Google DeepmindのAlphafold 3をPytorchで実装

lucidrains
⭐ 1,700 Python 👤 lucidrains User 🕐 更新日時 2026-08-10 📅 作成日 2024-05-08
15
franciszzj/Leffa

[CVPR 2025] 制御可能な人物画像生成のためのアテンションにおけるフローフィールド学習

franciszzj
⭐ 1,675 Python 👤 franciszzj User 🕐 更新日時 2025-09-12 📅 作成日 2024-12-05
16
AIFengheshu/Plug-play-modules

2025年、全ネットで最も包括的なプラグアンドプレイモジュールを無料共有!CVPR2025、AAAI2025、ICLR2025、TNNLS2025、arXiv2025......機械学習、ディープラーニングなど、AIの全分野を網羅。画像分類、物体検出、インスタンスセグメンテーション、セマンティックセグメンテーション、パノプティックセグメンテーション、姿勢推定、医療画像セグメンテーション、ビデオ物体セグメンテーション、画像切り抜き、画像編集、単一物体追跡、複数物体追跡、歩行者再識別、RGBT、画像ノイズ除去、雨除去、霧除去、影除去、ぼかし除去、超解像、反射除去、モアレ除去、画像復元、画像修復、ハイパースペクトル画像復元、画像融合、画像カラー化、ハイダイナミックレンジイメージング、ビデオ・画像圧縮、3D点群、3D物体検出、3Dセマンティックセグメンテーション、3D姿勢推定など、様々なコンピュータビジョンおよび画像処理タスク、さらに自然言語処理、大規模言語モデル、マルチモーダルなどのAI関連タスクにも対応。継続的に更新中......

AIFengheshu
⭐ 1,547 Python 👤 AIFengheshu User 🕐 更新日時 2025-05-24 📅 作成日 2024-10-09
17
XPixelGroup/HAT

CVPR2023 - 画像超解像トランスフォーマーにおけるより多くのピクセルを活性化 TPAMI - HAT: 画像復元のためのハイブリッドアテンショントランスフォーマー

XPixelGroup
⭐ 1,455 Python 👤 XPixelGroup Organization 🕐 更新日時 2024-06-02 📅 作成日 2022-04-27
18
facebookresearch/llm-transparency-tool

LLM Transparency Tool (LLM-TT) は、Transformerベースの言語モデルの内部動作を分析するためのオープンソースのインタラクティブツールキットです。*デモはこちらでご覧ください:* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo

facebookresearch
⭐ 1,228 Python 👤 facebookresearch Organization 🕐 更新日時 2024-12-03 📅 作成日 2023-12-21
19
DAMO-NLP-SG/VideoLLaMA3

画像およびビデオ理解のためのフロンティアマルチモーダル基盤モデル

DAMO-NLP-SG
⭐ 1,174 Jupyter Notebook 👤 DAMO-NLP-SG Organization 🕐 更新日時 2025-08-14 📅 作成日 2025-01-19
20
gpu-mode/awesomeMLSys

MLシステムオンボーディングリスト

gpu-mode
⭐ 1,154 👤 gpu-mode Organization 🕐 更新日時 2026-02-19 📅 作成日 2024-05-06
21
zhuzilin/ring-flash-attention

フラッシュアテンションによるリングアテンションの実装

zhuzilin
⭐ 1,054 Python 👤 zhuzilin User 🕐 更新日時 2025-09-10 📅 作成日 2024-02-21
22
lucidrains/BS-RoFormer

ByteDance AI Labs による音楽ソース分離のための SOTA アテンションネットワーク、Band Split Roformer の実装

lucidrains
⭐ 1,030 Python 👤 lucidrains User 🕐 更新日時 2026-11-04 📅 作成日 2023-09-09
23
microsoft/Samba

[ICLR 2025] Samba: 効率的な無制限コンテキスト言語モデリングのためのシンプルなハイブリッド状態空間モデル

microsoft
⭐ 981 Python 👤 microsoft Organization 🕐 更新日時 2025-11-16 📅 作成日 2024-06-05
24
daixiangzi/Awesome-Token-Compress

VitおよびVLMのトークン圧縮に関する最近のいくつかの作業の論文リスト

daixiangzi
⭐ 966 👤 daixiangzi User 🕐 更新日時 2026-11-13 📅 作成日 2024-09-06
25
lucidrains/muse-maskgit-pytorch

Museの実装:Pytorchにおけるマスク付き生成トランスフォーマーによるテキストから画像への生成

lucidrains
⭐ 920 Python 👤 lucidrains User 🕐 更新日時 2024-02-29 📅 作成日 2023-01-03
26
lucidrains/meshgpt-pytorch

PytorchにおけるAttentionを用いたSOTAメッシュ生成、MeshGPTの実装

lucidrains
⭐ 858 Python 👤 lucidrains User 🕐 更新日時 2024-12-24 📅 作成日 2023-11-29
27
mystorm16/FastVGGT

[ICLR 2026] FastVGGT: 高速視覚幾何トランスフォーマー

mystorm16
⭐ 826 Python 👤 mystorm16 User 🕐 更新日時 2026-01-28 📅 作成日 2025-09-01
28
lucidrains/phenaki-pytorch

Pytorchで最大2分間のテキストガイド付きビデオを生成するためにMask GITを使用するPhenaki Videoの実装

lucidrains
⭐ 792 Python 👤 lucidrains User 🕐 更新日時 2024-07-29 📅 作成日 2022-09-29
29
D-Keqi/mtla

MTLA: Multi-head Temporal Latent Attention

D-Keqi
⭐ 761 Python 👤 D-Keqi User 🕐 更新日時 2025-10-06 📅 作成日 2025-05-19
31
kyegomez/LongNet

「LongNet: Scaling Transformers to 1,000,000,000 Tokens」からのプラグイン・アンド・プレイ・アテンションの実装

kyegomez
⭐ 715 Python 👤 kyegomez User 🕐 更新日時 2024-01-07 📅 作成日 2023-07-06
32
JulesBelveze/time-series-autoencoder

多変量時系列のためのPyTorchデュアルアテンションLSTMオートエンコーダー

JulesBelveze
⭐ 715 Python 👤 JulesBelveze User 🕐 更新日時 2025-11-11 📅 作成日 2020-06-05
33
lucidrains/magvit2-pytorch

PytorchにおけるMagViT2トークナイザーの実装

lucidrains
⭐ 664 Python 👤 lucidrains User 🕐 更新日時 2025-01-12 📅 作成日 2023-10-10
34
LeapLabTHU/Agent-Attention

Agent Attention (ECCV2024) 公式リポジトリ

LeapLabTHU
⭐ 657 Python 👤 LeapLabTHU User 🕐 更新日時 2024-11-17 📅 作成日 2023-12-12
35
lucidrains/MEGABYTE-pytorch

PyTorchにおけるMEGABYTEの実装:マルチスケールTransformerによる百万バイトシーケンスの予測

lucidrains
⭐ 655 Python 👤 lucidrains User 🕐 更新日時 2024-12-27 📅 作成日 2023-05-15
36
lucidrains/mmdit

Stable Diffusion 3で提案されたMMDiTの単一レイヤーをPytorchで実装

lucidrains
⭐ 564 Python 👤 lucidrains User 🕐 更新日時 2026-01-18 📅 作成日 2024-05-04
37
lucidrains/iTransformer

iTransformerの非公式実装 - Attentionネットワークを使用したSOTA時系列予測、Tsinghua / Ant groupより

lucidrains
⭐ 535 Python 👤 lucidrains User 🕐 更新日時 2025-06-12 📅 作成日 2023-10-11
38
changzy00/pytorch-attention

🦖人気のあるアテンションメカニズム、ビジョントランスフォーマー、MLPライクモデル、CNNのPytorch実装。🔥🔥🔥

changzy00
⭐ 530 Python 👤 changzy00 User 🕐 更新日時 2024-01-11 📅 作成日 2023-05-26
39
lucidrains/local-attention

言語モデリングのためのローカルウィンドウ注意機構の実装

lucidrains
⭐ 502 Python 👤 lucidrains User 🕐 更新日時 2025-07-16 📅 作成日 2020-07-05

よくある質問

1

GitHubで最も人気のある#attention-mechanismsリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#attention-mechanismsプロジェクトは、7,858個のスターを獲得しているlucidrains/PaLM-rlhf-pytorchです。PaLMアーキテクチャ上にRLHF(Human Feedbackによる強化学習)を実装。基本的にChatGPTだがPaLMを使用

2

#attention-mechanismsリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#attention-mechanismsプロジェクトでは、Python, Jupyter Notebook, TypeScriptが最も一般的なプログラミング言語です。

3

#attention-mechanismsリポジトリのランキングはどのように算出されていますか?

#attention-mechanismsのタグが付いた39件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は77,773個で、リポジトリあたりの平均は1,994個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。