#attention リポジトリ
#attentionのタグが付いた、GitHub上の29件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は203,649個で、プロジェクトあたりの平均は7,022個です。このトピックをリードしているのは、67,780個のスターを獲得しているlabmlai/annotated_deep_learning_paper_implementationsです。
リポジトリ合計29件
🧑🏫 60以上のディープラーニング論文の実装/チュートリアルと並記されたノート 📝;トランスフォーマー(オリジナル、xl、switch、feedback、vit、...)、オプティマイザー(adam、adabelief、sophia、...)、gan(cyclegan、stylegan2、...)、🎮強化学習(ppo、dqn)、capsnet、蒸留など 🧠
🍀 様々なアテンションメカニズム、MLP、再パラメータ化、畳み込みのPytorch実装。論文のさらなる理解に役立ちます。⭐⭐⭐
「Attention is All You Need」のTransformerモデルのPyTorch実装。
PyTorch と TorchText を使用した、いくつかのシーケンストゥシーケンス (seq2seq) モデルの実装に関するチュートリアル。
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention は、FlashAttention と比較して 2~5 倍の高速化を達成し、言語、画像、動画モデル全体の評価指標(エンドツーエンドメトリクス)を損なうことはありません。
PASCAL VOCおよびCOCOを備えたYOLOv4、attentive YOLOv4、mobilenet YOLOv4のPytorchリポジトリです。
cuDNN Frontendは、cuDNNライブラリへのNVIDIAのモダンなオープンソース・エントリーポイントであり、高性能なオープンソース・カーネルの成長を続けるコレクションです。
Deepseekチームの「Native Sparse Attention」論文で提案されたスパースアテンションパターンの実装
マルチラベルテキスト分類、マルチラベル分類、テキスト分類、multi-label、classifier、text classification、BERT、seq2seq、attention、multi-label-classification
「LongNet: Scaling Transformers to 1,000,000,000 Tokens」からのプラグイン・アンド・プレイ・アテンションの実装
EEG Transformer 2.0. i. EEGデコーディングのための畳み込みトランスフォーマー。 ii. 新しい可視化 - クラス活性化トポグラフィー。
llama3 の推論ステップを段階的に実行し、コアコンセプトを把握し、プロセス導出をマスターし、コードを実装します。
Keras beit,caformer,CMT,CoAtNet,convnext,davit,dino,efficientdet,edgenext,efficientformer,efficientnet,eva,fasternet,fastervit,fastvit,flexivit,gcvit,ghostnet,gpvit,hornet,hiera,iformer,inceptionnext,lcnet,levit,maxvit,mobilevit,moganet,nat,nfnets,pvt,swin,tinynet,tinyvit,uniformer,volo,vanillanet,yolor,yolov7,yolov8,yolox,gpt2,llama2, alias kecam
論文「SAITS: 時系列のための自己注意機構ベースの補完」の公式PyTorch実装。高速かつ最先端(SOTA)の深層学習ニューラルネットワークモデルで、効率的な時系列補完用(NaN欠損データ/値を伴う多変量不完全時系列を機械学習で補完)。https://arxiv.org/abs/2202.08516
よくある質問
GitHubで最も人気のある#attentionリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#attentionプロジェクトは、67,780個のスターを獲得しているlabmlai/annotated_deep_learning_paper_implementationsです。🧑🏫 60以上のディープラーニング論文の実装/チュートリアルと並記されたノート 📝;トランスフォーマー(オリジナル、xl、switch、feedback、vit、...)、オプティマイザー(adam、adabelief、sophia、...)、gan(cyclegan、stylegan2、...)、🎮強化学習(ppo、dqn)、capsnet、蒸留など 🧠
#attentionリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#attentionプロジェクトでは、Python, Jupyter Notebook, Cuda, C++が最も一般的なプログラミング言語です。
#attentionリポジトリのランキングはどのように算出されていますか?
#attentionのタグが付いた29件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は203,649個で、リポジトリあたりの平均は7,022個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。