#cuda Repositories
Insgesamt 325 Repositories
Xolotl: Führe DeepSeek-V4.1-Flash mit allen 552B Parametern als lokalen Coding-Agent auf einem einzigen Gaming-PC aus (RTX 4090 + 110 GB RAM): ca. 33 Tok/s im Agentenmodus, ca. 41 im Schnellmodus, 512K Kontext. Dazu Inkling-2-Mini (Thinking Machines, eigene Engine + MTP-Entwurfsmodul), GLM-5.3-Flash, Qwen3.8 und LFM3-Omni. MoE-Experten werden stufenweise über VRAM, RAM und NVMe verteilt (Xolotl Direct). OpenAI- und Anthropic-API.
Eine offene Sammlung von Methodologien zur erfolgreichen Schulung großer Sprachmodelle.
Maximale Rechenleistung, Speicherbandbreite und Latenz von CPUs, GPUs und NPUs: dieselben Tests über jede API, die auf ein Gerät zugreift. Kommandozeile und App für Windows, macOS, Linux und Android
Lokaler multimodaler KI-Desktop-Begleiter für Windows mit Bildschirm- und Audioerkennung.
Datenvisualisierung und Raytracing in Python basierend auf dem OptiX 9.1-Framework.
Docker-Image für Ubuntu Desktop, das HW-GPU-beschleunigte GUI-Apps unterstützt. Du kannst auf den Container mit SSH oder Remote-Desktop zugreifen, genau wie bei einer Cloud-VM.
ppl.cv ist eine leistungsstarke Bildverarbeitungsbibliothek von openPPL, die verschiedene Plattformen unterstützt.
eine Implementierung von Softmax Splatting für differenzierbares Forward Warping mit PyTorch
Mehrere Optimierungsmethoden für die halbgenaue allgemeine Matrixmultiplikation (HGEMM) unter Verwendung des Tensor-Kerns mit der WMMA-API und der MMA-PTX-Anweisung.
Open-Source-, lokaler und selbst gehosteter hochoptimierter Sprach-Inferenz-Server mit Unterstützung für ASR/STT, TTS und LLM über WebRTC, REST und WS
ManagedCUDA zielt auf eine einfache Integration von NVidias CUDA in .NET-Anwendungen ab, die in C#, Visual Basic oder jeder anderen .NET-Sprache geschrieben sind.
Demoprojekt, das zeigt, wie eine einzige Rust-Codebasis auf CPUs und direkt auf GPUs ausgeführt wird
Eine Hardware-Beschleunigungsbibliothek für rechenintensive Kryptographie :ice_cube:
Ein High-Performance-Inferenzsystem für große Sprachmodelle, das für Produktionsumgebungen entwickelt wurde.
🚀🚀🚀 Dieses Repository listet einige großartige öffentliche Projekte zu CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX und High Performance Computing (HPC) auf.
Tilus ist eine Programmiersprache für Kernel auf Tile-Ebene, die eine explizite Kontrolle über den gemeinsam genutzten Speicher und die Register ermöglicht.