#gpu-optimization Repositories
Entdecke 55 aktive Open-Source-GitHub-Repositories, die mit #gpu-optimization getaggt sind und insgesamt 216,210 Sterne gesammelt haben (durchschnittlich 3,931 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist Dao-AILab/flash-attention mit 25,330 Sternen.
Insgesamt 55 Repositories
Eine PyTorch-Erweiterung: Tools für einfaches Mixed-Precision- und verteiltes Training in PyTorch
Implementierung des LLaMA-Sprachmodells basierend auf nanoGPT. Unterstützt Flash-Attention, Int8- und GPTQ-4-Bit-Quantisierung, LoRA- und LLaMA-Adapter-Feinabstimmung, Vortraining. Unter der Apache-2.0-Lizenz.
Ein bidirektionaler Pipeline-Parallelismus-Algorithmus für die Berechnung-Kommunikations-Überlappung beim DeepSeek V3/R1-Training.
📹 Ein flexibleres Framework, das Videos in jeder Auflösung generieren und Videos aus Bildern erstellen kann.
Code für das ICLR 2023-Paper "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
Code, Labs und Ressourcen für O'Reilly AI Systems Performance Engineering: GPU-Optimierung, verteiltes Training, Inferenz-Skalierung und Full-Stack-Tuning.
Ein Projekt, das Lidar-bezogene KI-Lösungen demonstriert, einschließlich dreier GPU-beschleunigter Lidar/Kamera-DL-Netzwerke (PointPillars, CenterPoint, BEVFusion) und der zugehörigen Bibliotheken (cuPCL, 3D SparseConvolution, YUV2RGB, cuOSD).
NVIDIA DLSS ist ein neues und verbessertes Deep-Learning-neuronales Netzwerk, das Bildraten erhöht und schöne, gestochen scharfe Bilder für Ihre Spiele erzeugt
FB (Facebook) + GEMM (Generische Matrix-Matrix-Multiplikation) - https://code.fb.com/ml-applications/fbgemm/
Offizielle Implementierung des SIGGRAPH 2024-Papiers „Eine hierarchische 3D-Gaußsche Darstellung für die Echtzeit-Darstellung sehr großer Datensätze“
CUDA Tile IR ist eine MLIR-basierte Zwischenrepräsentation und Compiler-Infrastruktur für die CUDA-Kernel-Optimierung, die sich auf kachelbasierte Berechnungsmuster und Optimierungen konzentriert, die auf NVIDIA Tensor Core-Einheiten abzielen.
Checkpoint-engine ist eine einfache Middleware zur Aktualisierung von Modellgewichten in LLM-Inferenz-Engines
Verteilte Aufmerksamkeit für lineare Skalierbarkeit beim Training mit ultra-langem Kontext und heterogenen Daten
Beispiele, die verfügbare Optionen zum Programmieren mehrerer GPUs in einem einzelnen Knoten oder Cluster demonstrieren
Notebooks für die Spezialisierung auf Große Sprachmodelle (LLMs)
Echtzeit-Diffusionsbasiertes Streaming-Video-Super-Resolution / Echtzeit-Video-Streaming-Super-Resolution-Modell basierend auf der Diffusion-Architektur
C++ plattformübergreifendes 3D-Grafik-SDK. Enthält Demos & Hilfscode (Ressourcen laden usw.), um die Entwicklung von Vulkan-, OpenGL ES 2.0- & 3.x-Anwendungen zu beschleunigen
Anleitung zum Feinabstimmen von Llama/Mistral/CodeLlama-Modellen und mehr
JNeRF ist ein NeRF-Benchmark basierend auf Jittor. JNeRF implementierte instant-ngp neu und erreichte die gleiche Leistung wie in der Originalarbeit.
Häufig gestellte Fragen
Welches ist das beliebteste #gpu-optimization-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#gpu-optimization-Projekt auf GitHub ist Dao-AILab/flash-attention mit 25,330 Sternen. Schnelle und speichereffiziente exakte Aufmerksamkeit
Welche Programmiersprachen werden in #gpu-optimization-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #gpu-optimization-Projekten auf GitHub sind Python, C++, Cuda, HTML die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #gpu-optimization-Repositories berechnet?
Wir verfolgen 55 aktive Open-Source-Repositories, die mit #gpu-optimization getaggt sind (500+ Sterne), mit insgesamt 216,210 Sternen und durchschnittlich 3,931 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.