#cuda Repositories
Insgesamt 325 Repositories
NVIDIAs CUDA-Plattform für Rust. Host-Laufzeit-Crates sowie die Tile- (cutile-rs) und SIMT-Kernel-Programmiermodelle (cuda-oxide) in idiomatischem Rust.
Ein retargetbarer MLIR-basierter Compiler und Runtime-Toolkit für maschinelles Lernen.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention erzielt eine Beschleunigung um das 2- bis 5-fache im Vergleich zu FlashAttention, ohne die End-to-End-Metriken bei Sprach-, Bild- und Videomodellen zu verschlechtern.
Selbst gehostete, nur lokale NVR- und KI-Computer-Vision-Software. Mit Funktionen wie Objekterkennung, Bewegungserkennung, Gesichtserkennung und mehr gibt sie Ihnen die Möglichkeit, Ihr Zuhause, Ihr Büro oder jeden anderen Ort, den Sie überwachen möchten, im Auge zu behalten.
Eine Bibliothek zur Beschleunigung von Transformer-Modellen auf NVIDIA-GPUs, einschließlich der Verwendung von 8-Bit- und 4-Bit-Gleitkomma-Präzision (FP8 und FP4) auf Hopper-, Ada- und Blackwell-GPUs, um sowohl beim Training als auch bei der Inferenz eine bessere Leistung bei geringerem Speicherverbrauch zu erzielen.
KI-Grundlagen – GPU-Architektur, CUDA-Programmierung, Grundlagen großer Sprachmodelle und Wissen zu KI-Agenten.
LYGIA, ist eine granulare und mehrsprachige (GLSL, HLSL, Metal, WGSL, WEGL und CUDA) Shader-Bibliothek, die auf Leistung und Flexibilität ausgelegt ist
Open-Source-Neural-Network-Schach-Engine mit GPU-Beschleunigung und breiter Hardware-Unterstützung.
Jittor ist ein Hochleistungs-Deep-Learning-Framework, das auf JIT-Kompilierung und Meta-Operatoren basiert.
Führen Sie GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) und Hy4-Flash (220B) auf Ihren eigenen GPUs aus – ab 8 GB VRAM, mit Unterstützung für NVIDIA und AMD, einem einzigen Dashboard sowie einer mit OpenAI und Anthropic kompatiblen API.
RamaLama ist ein Open-Source-Entwicklertool, das das lokale Bereitstellen von KI-Modellen aus beliebigen Quellen vereinfacht und deren Verwendung für Inferenzen in der Produktion erleichtert, und das alles über die vertraute Sprache von Containern.
Dieses Paket enthält den ursprünglichen AlexNet-Code von 2012.
Minkowski Engine ist eine Auto-Diff-Neural-Network-Bibliothek für hochdimensionale sparse Tensoren
Führe große Qwen-Modelle schnell auf den GPUs aus, die du tatsächlich besitzt. Qwen3.8-27B auf einer einzelnen 24-GB-Karte mit vLLM: 127 Tok/s bei einem einzelnen Nutzer (381, wenn die Antwort den Prompt zitiert), etwa 1.035 Tok/s bei 64 gleichzeitigen Anfragen und ein Kontext von 150k–262k. vLLM-Patches, Requantisierungs-Pipeline und Benchmarks.
CV-CUDA™ ist eine Open-Source-Bibliothek mit GPU-Beschleunigung für die bildverarbeitung und das maschinelle Sehen in Cloud-Größe.
Computer Vision Projekte | Lustige KI-Projekte im Bereich Computer Vision (Python, C++, eingebettetes System)
Herstellerübergreifendes 3D-Gaussian-Splatting-Trainingstool – von Video zu Splats zu Mesh, mit Vulkan oder CUDA.
LUPINE ist eine GPU-over-IP-Brücke, die es ermöglicht, GPUs von entfernten Maschinen an CPU-only-Maschinen anzuschließen.
Lokaler KI-Songgenerator mit bearbeitbarer Partitur – YuE2 auf deiner GPU: vollständige Songs mit Gesang, Notenblätter, Coverversionen und exakte Wiedergabe. Native Windows-App, kein Python erforderlich, Installer mit automatischen Updates.
Apache Mahout – eine Umgebung zur schnellen Erstellung skalierbarer, leistungsfähiger Machine‑Learning-Anwendungen.
Offizieller SGLang-x-Datawhale-Kurs zur LLM-Inferenz: Verstehe die Inferenz, entwickle ein Mini-SGLang von Grund auf, lies anschließend den echten SGLang-Quellcode und reiche deinen ersten PR ein. Auf Englisch und Chinesisch verfügbar.
Viele Studien haben gezeigt, dass die Leistung auf Deep Learning erheblich vom Umfang der Trainingsdaten beeinflusst wird. Das MedicalNet-Projekt stellt eine Reihe von vortrainierten 3D-ResNet-Modellen und den dazugehörigen Code bereit.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. Vielleicht nützlich
Code für das ICLR 2023-Paper "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
Von NVIDIA kuratierte Sammlung von Bildungsressourcen für die allgemeine GPU-Programmierung.
GPU-Shader und Compute-Kernels mithilfe der CrossGL-IR zwischen GLSL, HLSL, Metal, SPIR-V, Slang, CUDA und HIP sowie in WGSL übersetzen
Führen Sie KI-Modelle lokal auf Ihrem Computer mit Node.js-Bindings für llama.cpp aus. Erzwingen Sie ein JSON-Schema für die Modellausgabe auf der Generierungsebene.
Ein Deep-Learning-Paket für die Darstellung von Viele-Teilchen-Potentialenergie und Molekulardynamik