#flash-attention Repositories
Entdecke 48 aktive Open-Source-GitHub-Repositories, die mit #flash-attention getaggt sind und insgesamt 156,291 Sterne gesammelt haben (durchschnittlich 3,256 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist deepseek-ai/DeepSeek-OCR mit 24,180 Sternen.
Insgesamt 48 Repositories
Das offizielle Repository des Chat- und vortrainierten großen Sprachmodells Qwen (通义千问) von Alibaba Cloud.
Ein Open-Source-Buch mit Lernnotizen zu modernem CUDA für Anfänger – BF16/FP8/FP4, HGEMM, CuTe, Flash-Attention usw.
Offizielle Veröffentlichung der InternLM-Reihe (InternLM, InternLM2, InternLM2.5, InternLM3).
Chinesische LLaMA-2 & Alpaca-2 LLMs der zweiten Phase + 64K Super-Long-Context-Modelle (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)
Dies ist ein einfaches technisches科普-Tutorial-Projekt, das sich hauptsächlich darauf konzentriert, einige interessante, hochmoderne technische Konzepte und Prinzipien zu erklären. Jeder Artikel wird angestrebt, in 5 Minuten gelesen zu werden.
📚Eine kuratierte Liste von Awesome LLM/VLM-Inferenz-Papers mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelism usw.🎉
Eine schnelle Inferenzbibliothek zum Ausführen von LLMs lokal auf modernen Consumer-GPUs
Qwen3-ASR ist eine Open-Source-Serie von ASR-Modellen, die vom Qwen-Team von Alibaba Cloud entwickelt wurde und stabile Mehrsprachigkeits-Erkennung von Sprache/Musik/Liedern, Spracherkennung und Zeitstempelvorhersage unterstützt.
Offizieller Quellcode für „Self Forcing: Bridging Training and Inference in Autoregressive Video Diffusion“ (NeurIPS 2025 Spotlight)
[ECCV 2024] Offizielle Code-Implementierung von Vary: Skalierung des Vision-Vokabulars von großen Vision-Language-Modellen.
Bereitstellen vorkompilierter flash-attention 2- und 3-Paket-Räder unter Linux und Windows mit GitHub Actions
SoulX-FlashTalk ist das erste 14B-Modell, das eine Startverzögerung unter einer Sekunde (0,87 s) erreicht, während es eine Echtzeit-Durchsatzrate von 32 FPS auf einem 8xH800-Knoten aufrechterhält.
Aufbau von Universalrobotern auf der Grundlage von verkörperten Basismodellen
cuDNN Frontend ist NVIDIAs moderner Open-Source-Einstiegspunkt zur cuDNN-Bibliothek und eine wachsende Sammlung von leistungsstarken Open-Source-Kernels.
Verteilte Aufmerksamkeit für lineare Skalierbarkeit beim Training mit ultra-langem Kontext und heterogenen Daten
Lumina-Image 2.0: Ein einheitlicher und effizienter Framework für die Bilderzeugung
Eine flexible und effiziente Codebasis für das Training von visuell-konditionierten Sprachmodellen (VLMs)
Eine umfassende Bibliothek zur Implementierung von LLMs, einschließlich einer einheitlichen Trainingspipeline und umfassender Modellevaluierung.
rCM & Causal-rCM: Führende und vereinheitlichte Algorithmen/Infrastrukturen für die bidirektionale/autoregressive Videodiffusionsdestillation im großen Maßstab
[ICCV 2023] StreamPETR: Erforschung objektzentrierter zeitlicher Modellierung für effiziente Multi-View 3D-Objekterkennung
Speicheroptimierung und Trainingsrezepte zur Extrapolation der Kontextlänge von Sprachmodellen auf 1 Million Token mit minimaler Hardware.
Trainierbare, schnelle und speichereffiziente spärliche Aufmerksamkeit
[CVPR 2026 Highlight] Offizielle Implementierungen für das Paper - HoloCine: Holistische Generierung kinematischer Multi-Shot-Langer Videoerzählungen
PyTorch-Implementierung von „V* : Guided Visual Search as a Core Mechanism in Multimodal LLMs“
[ICML 2024 Best Paper] Diskrete Diffusionsmodellierung durch Schätzung der Verhältnisse der Datenverteilung (https://arxiv.org/abs/2310.16834)
WeDLM: Das schnellste Diffusions-Sprachmodell mit standardmäßiger kausaler Aufmerksamkeit und nativer KV-Cache-Kompatibilität, das echte Geschwindigkeitssteigerungen gegenüber vLLM-optimierten Basismodellen liefert.
Vom Lehrer zu Kacheln — eine von Grund auf neu entwickelte LLM-Destillations- und Serving-Engine: benutzerdefinierte Triton/CUDA-Kernel, FSDP-Destillation, kontinuierliches Batching mit paged-KV, spekulative Dekodierung, ein Rust-Gateway, ein JAX-Orakel und Interpretierbarkeitswerkzeuge.
[ICLR 2025] DuoAttention: Effiziente Langkontext-LLM-Inferenz mittels Retrieval- und Streaming-Heads
Häufig gestellte Fragen
Welches ist das beliebteste #flash-attention-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#flash-attention-Projekt auf GitHub ist deepseek-ai/DeepSeek-OCR mit 24,180 Sternen. Kontexte optische Kompression
Welche Programmiersprachen werden in #flash-attention-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #flash-attention-Projekten auf GitHub sind Python, Cuda, TeX, C++ die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #flash-attention-Repositories berechnet?
Wir verfolgen 48 aktive Open-Source-Repositories, die mit #flash-attention getaggt sind (500+ Sterne), mit insgesamt 156,291 Sternen und durchschnittlich 3,256 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.