#attention Repositories
Entdecke 29 aktive Open-Source-GitHub-Repositories, die mit #attention getaggt sind und insgesamt 203,649 Sterne gesammelt haben (durchschnittlich 7,022 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist labmlai/annotated_deep_learning_paper_implementations mit 67,780 Sternen.
Insgesamt 29 Repositories
🧑🏫 60+ Implementierungen/Tutorials von Deep-Learning-Papieren mit begleitenden Notizen 📝; einschließlich Transformatoren (Original, xl, switch, feedback, vit, ...), Optimierern (adam, adabelief, sophia, ...), gans (cyclegan, stylegan2, ...), 🎮 Reinforcement Learning (ppo, dqn), capsnet, Destillation, ... 🧠
SGLang ist ein Hochleistungs-Serving-Framework für große Sprachmodelle und multimodale Modelle.
Eine theoretische Rekonstruktion der Claude-Mythos-Architektur, aufgebaut aus ersten Prinzipien unter Verwendung der verfügbaren Forschungs-literatur.
🍀 Pytorch-Implementierung verschiedener Aufmerksamkeitsmechanismen, MLPs, Reparameterisierung, Faltung, die zum weiteren Verständnis von Arbeiten hilfreich sind.⭐⭐⭐
Eine PyTorch-Implementierung des Transformer-Modells aus „Attention is All You Need“.
Tutorials zur Implementierung einiger Sequence-to-Sequence (Seq2Seq) Modelle mit PyTorch und TorchText.
Dieses Repository enthält hauptsächlich Notizen zur Lektüre von Beiträgen führender Konferenzen im Bereich der NLP-Algorithmusentwicklung.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention erzielt eine Beschleunigung um das 2- bis 5-fache im Vergleich zu FlashAttention, ohne die End-to-End-Metriken bei Sprach-, Bild- und Videomodellen zu verschlechtern.
Scenic: Eine Jax-Bibliothek für Computer Vision Forschung und darüber hinaus
Dies ist ein Pytorch-Repository von YOLOv4, attentive YOLOv4 und mobilenet YOLOv4 mit PASCAL VOC und COCO
Pytorch-Implementierung von Transfusion, „Vorhersage des nächsten Tokens und Diffusion von Bildern mit einem multimodalen Modell“ von MetaAI
[ICML2025] SpargeAttention: Ein trainingsfreier spärlicher Aufmerksamkeitsmechanismus, der die Inferenz jedes Modells beschleunigt.
Replikation einfacher CV-Projekte einschließlich Attention, Klassifikation, Detektion, Keypoint-Detektion usw.
Baue deine eigene Hochleistungs-LLM-Inferenz-Engine in C++ und CUDA - eine kleinere Version von vLLM
cuDNN Frontend ist NVIDIAs moderner Open-Source-Einstiegspunkt zur cuDNN-Bibliothek und eine wachsende Sammlung von leistungsstarken Open-Source-Kernels.
Eine PyTorch-Bibliothek für alles rund um Reinforcement Learning (RL) für kombinatorische Optimierung (CO)
Implementierung des von Deepseek in ihrem Paper „Native Sparse Attention“ vorgeschlagenen Sparse Attention Musters
Multi-Label-Textklassifizierung, Multi-Label-Klassifizierung, Textklassifizierung, Multi-Label, Klassifikator, Textklassifizierung, BERT, Seq2Seq, Attention, Multi-Label-Klassifizierung
Implementierung von Plug-in-and-Play-Attention aus "LongNet: Skalierung von Transformatoren auf 1.000.000.000 Token"
EEG Transformer 2.0. i. Konvolutioneller Transformer für die EEG-Dekodierung. ii. Neue Visualisierung - Klassenaktivierungstopographie.
Erreichen Sie den Llama3-Inferenzschritt für Schritt, erfassen Sie die Kernkonzepte, meistern Sie die Prozessableitung, implementieren Sie den Code.
Keras beit,caformer,CMT,CoAtNet,convnext,davit,dino,efficientdet,edgenext,efficientformer,efficientnet,eva,fasternet,fastervit,fastvit,flexivit,gcvit,ghostnet,gpvit,hornet,hiera,iformer,inceptionnext,lcnet,levit,maxvit,mobilevit,moganet,nat,nfnets,pvt,swin,tinynet,tinyvit,uniformer,volo,vanillanet,yolor,yolov7,yolov8,yolox,gpt2,llama2, alias kecam
Die offizielle PyTorch-Implementierung des Papers "SAITS: Self-Attention-basierte Imputation für Zeitreihen". Ein schnelles und State-of-the-Art (SOTA) Deep-Learning-Neuronal-Netzwerk-Modell für effiziente Zeitreihen-Imputation (Imputation multivariater unvollständiger Zeitreihen mit NaN fehlenden Daten/Werten mittels Machine Learning). https://arxiv.org/abs/2202.08516
Entwerfen Sie hardwarefreundliche Modellarchitekturen und migrieren Sie bestehende LLMs mit minimalem Leistungsverlust
Häufig gestellte Fragen
Welches ist das beliebteste #attention-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#attention-Projekt auf GitHub ist labmlai/annotated_deep_learning_paper_implementations mit 67,780 Sternen. 🧑🏫 60+ Implementierungen/Tutorials von Deep-Learning-Papieren mit begleitenden Notizen 📝; einschließlich Transformatoren (Original, xl, switch, feedback, vit, ...), Optimierern (adam, adabelief, sophia, ...), gans (cyclegan, stylegan2, ...), 🎮 Reinforcement Learning (ppo, dqn), capsnet, Destillation, ... 🧠
Welche Programmiersprachen werden in #attention-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #attention-Projekten auf GitHub sind Python, Jupyter Notebook, Cuda, C++ die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #attention-Repositories berechnet?
Wir verfolgen 29 aktive Open-Source-Repositories, die mit #attention getaggt sind (500+ Sterne), mit insgesamt 203,649 Sternen und durchschnittlich 7,022 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.