#attention-mechanisms Repositories
Entdecke 39 aktive Open-Source-GitHub-Repositories, die mit #attention-mechanisms getaggt sind und insgesamt 77,773 Sterne gesammelt haben (durchschnittlich 1,994 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist lucidrains/PaLM-rlhf-pytorch mit 7,858 Sternen.
Insgesamt 39 Repositories
Implementierung von RLHF (Reinforcement Learning with Human Feedback) auf der PaLM-Architektur. Im Grunde ChatGPT, aber mit PaLM
Eine letztlich umfassende Liste von Papieren zu Vision Transformer/Attention, einschließlich Papieren, Codes und verwandter Websites
Deformable DETR: Deformable Transformer für die End-to-End Objekterkennung.
Zusammenfassung verwandter Arbeiten zur visuellen Aufmerksamkeit. Verwandter Code wird schrittweise auf Jittor veröffentlicht.
Implementierung von AudioLM, einem SOTA Language Modeling Ansatz zur Audiogenerierung aus Google Research, in Pytorch
PyTorch-Implementierung von Self-Attention Generative Adversarial Networks (SAGAN)
Implementierung von Toolformer, Sprachmodellen, die Werkzeuge verwenden können, von MetaAI
Implementierung von Make-A-Video, dem neuen SOTA-Text-zu-Video-Generator von Meta AI, in Pytorch
Temporales Graph-Convolutional-Netzwerk für die Vorhersage des städtischen Verkehrsflusses
[CVPR 2025] Erlernen von Flussfeldern in Attention für kontrollierbare Personengenerierung
Die umfassendsten Plug-and-Play-Module für das gesamte Netz 2025, kostenlos geteilt! CVPR2025, AAAI2025, ICLR2025, TNNLS2025, arXiv2025...... Umfasst alle Bereiche der künstlichen Intelligenz (maschinelles Lernen, Deep Learning usw.), geeignet für Bildklassifizierung, Objektdetektion, Instanzsegmentierung, semantische Segmentierung, panoptische Segmentierung, Posenschätzung, medizinische Bildsegmentierung, Video-Objektsegmentierung, Bildfreistellung, Bildbearbeitung, Einzelobjektverfolgung, Mehrfachobjektverfolgung, Personenwiedererkennung, RGBT, Bildrauschen, Regenentfernung, Nebelentfernung, Schattenentfernung, Unschärferentfernung, Super-Resolution, Reflektionsentfernung, Moiré-Muster-Entfernung, Bildwiederherstellung, Bildrekonstruktion, Hyperspektrale Bildwiederherstellung, Bildfusion, Kolorierung von Bildern, High-Dynamic-Range-Imaging, Video- und Bildkomprimierung, 3D-Punktwolken, 3D-Objektdetektion, 3D-semantische Segmentierung, 3D-Posenschätzung usw. sowie andere KI-bezogene Aufgaben wie natürliche Sprachverarbeitung, große Sprachmodelle, Multimodalität usw. Kontinuierliche Aktualisierung......
CVPR2023 - Aktivierung von mehr Pixeln in Image Super-Resolution Transformer TPAMI - HAT: Hybrid Attention Transformer für Image Restoration
LLM Transparency Tool (LLM-TT), ein Open-Source-Toolkit für die Analyse der internen Funktionsweise von Transformer-basierten Sprachmodellen. *Demo ansehen unter* https://huggingface.co/spaces/facebook/llm-transparency-tool-demo
Implementierung von Band Split Roformer, einem SOTA-Aufmerksamkeitsnetzwerk für die Musikquellentrennung aus den ByteDance AI Labs
[ICLR 2025] Samba: Einfache hybride Zustandsraummodelle für effizientes Sprachmodellieren mit unbegrenztem Kontext
Eine Papiersammlung einiger neuer Arbeiten über Token-Kompression für Vit und VLM
Implementierung von Muse: Text-zu-Bild-Generierung über maskierte generative Transformer in Pytorch
Implementierung von MeshGPT, SOTA-Mesh-Generierung mittels Attention, in Pytorch
Implementierung von Phenaki Video, das Mask GIT verwendet, um textgesteuerte Videos von bis zu 2 Minuten Länge in Pytorch zu produzieren
Implementierung von Plug-in-and-Play-Attention aus "LongNet: Skalierung von Transformatoren auf 1.000.000.000 Token"
PyTorch Dual-Attention LSTM-Autoencoder für multivariate Zeitreihen
Implementierung von MEGABYTE, Vorhersage von Million-Byte-Sequenzen mit multiskalaren Transformatoren, in Pytorch
Implementierung einer einzelnen Schicht des MMDiT, vorgeschlagen in Stable Diffusion 3, in Pytorch
Inoffizielle Implementierung von iTransformer - SOTA Zeitreihenvorhersage unter Verwendung von Aufmerksamkeitsnetzwerken, von Tsinghua / Ant-Gruppe
🦖Pytorch-Implementierung beliebter Aufmerksamkeitsmechanismen, Vision Transformers, MLP-ähnlicher Modelle und CNNs.🔥🔥🔥
Eine Implementierung lokaler gefensterter Aufmerksamkeit für die Sprachmodellierung
Häufig gestellte Fragen
Welches ist das beliebteste #attention-mechanisms-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#attention-mechanisms-Projekt auf GitHub ist lucidrains/PaLM-rlhf-pytorch mit 7,858 Sternen. Implementierung von RLHF (Reinforcement Learning with Human Feedback) auf der PaLM-Architektur. Im Grunde ChatGPT, aber mit PaLM
Welche Programmiersprachen werden in #attention-mechanisms-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #attention-mechanisms-Projekten auf GitHub sind Python, Jupyter Notebook, TypeScript die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #attention-mechanisms-Repositories berechnet?
Wir verfolgen 39 aktive Open-Source-Repositories, die mit #attention-mechanisms getaggt sind (500+ Sterne), mit insgesamt 77,773 Sternen und durchschnittlich 1,994 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.