#cuda Repositories
Insgesamt 325 Repositories
Lokale KI-Hintergrundmusik und Soundeffekte für Claude Code und jeden MCP-Client. Stable Audio 3 auf Apple Silicon (MLX) und Windows mit NVIDIA-GPUs (PyTorch). Keine Cloud, kein API-Schlüssel.
MARS: Ein instanzbewusster, modularer und realistischer Simulator für autonomes Fahren
Eine App und Anleitung zum einfachen Konfigurieren von Windows, Linux, macOS, Google TV, Stremio, Home Assistant und mehr (einschließlich WSL2, GPU-Treiber und Entwicklungstools). Verbessern Sie Ihre UX und Produktivität.
Eine native .NET-Inferenz-Engine für große Sprachmodelle (LLMs) und eine Agenten-Laufzeitumgebung für GGUF-Modelle. TensorSharp bietet eine Konsolenanwendung, eine webbasierte Chatbot-Oberfläche, eine iPhone-App sowie mit Ollama/OpenAI kompatible HTTP-APIs für den programmgesteuerten Zugriff. Es unterstützt Windows, macOS, iOS und Linux mit vollständiger GPU-Unterstützung.
Mit eigener Intelligenz voran: Schreiben Sie Go-Anwendungen, die llama.cpp direkt integrieren, um unter Linux, macOS, Windows und WebAssembly lokale Inferenz mit Hardwarebeschleunigung durchzuführen.
[CVPR 2025] WildGS-SLAM: Monokulares Gaussian Splatting SLAM in dynamischen Umgebungen
[ECCV 2024] Szene als Gaußsche für die visuelle 3D-semantische Belegungsvorhersage
Eine Reimplementation von PWC-Net in PyTorch, die der offiziellen Caffe-Version entspricht
CUDA-Voxelizer zur Umwandlung von Polygonnetzen in annotierte Voxelgitter
🚀 200-fache Geschwindigkeit! Das Download-Tool der KI-Ära | Volle Beschleunigung für Docker/PyPI/HuggingFace/CRAN | Parallelpartitionierung + intelligenter Cache, lass die Downloads abheben.
Best Practices und Anleitungen zum Schreiben von verteiltem PyTorch-Trainingscode
Hochleistungs-Cross-Platform-Monte-Carlo-Renderer basierend auf LuisaCompute
Repository für nvCOMP-Dokumentation und Beispiele. nvCOMP ist eine Bibliothek für schnelle verlustfreie Kompression/Dekomprimierung auf der GPU, die von https://developer.nvidia.com/nvcomp heruntergeladen werden kann.
Dies ist ein Projekt, bei dem ich Ihnen eine Möglichkeit gebe, SOLIDWORKS unter Linux zu nutzen!
[CVPR 2024 Highlight] Feature 3DGS: Supercharging 3D Gaussian Splatting zur Ermöglichung destillierter Feature-Felder
Eine Teilmenge von PyTorchs neuronalen Netzwerkmodulen, geschrieben in Python unter Verwendung von OpenAI's Triton.
NVIDIA NVSHMEM ist eine parallele Programmierschnittstelle für NVIDIA GPUs, die auf OpenSHMEM basiert. NVSHMEM kann den Kommunikations- und Koordinationsoverhead mehrerer Prozesse erheblich reduzieren, indem es Programmierern ermöglicht, einseitige Kommunikation direkt aus CUDA-Kerneln und auf CUDA-Streams durchzuführen.
Ein weiteres Sprachmodell: LLM-Inferenz in C++/CUDA, keine Bibliotheken außer I/O
Nutzen Sie den VRAM Ihrer NVIDIA-GPU als Swap-Speicher unter Linux. Entwickelt für Laptops mit verlötetem Speicher und ohne Aufrüstmöglichkeit. Wenn Sie eine RTX-Karte mit 8 GB VRAM haben und auf SSD ausgelagert wird, setzt dies den VRAM ein.
Schulrekrutierung, Herbstrekrutierung, Frühlingsrekrutierung, tolle Praktika-Projekte, führen Sie von Null an bei der Umsetzung eines Large-Model-Inferenz-Frameworks, das Llama2/3 und Qwen2.5 unterstützt.
Moderne MoE-Modelle auf RTX PRO 6000 / RTX 5090 (sm_120): DeepSeek-V4.1-Flash auf 4 RTX PRO 6000, als GPU+CPU-Hybrid auf 4 RTX 5090 und 2-Bit-Experten auf vLLM v0.24.0
Offizielle Implementierung der On-the-fly-Rekonstruktion für die groß angelegte Neuansicht-Synthese aus unbezeichneten Bildern. A. Meuleman, I. Shah, A. Lanvin, B. Kerbl, G. Drettakis, ACM TOG (proc. SIGGRAPH) 2025
Eine Single-Header-C++-Bibliothek zur Vereinfachung der Nutzung der CUDA Runtime Compilation (NVRTC).
Echtzeit-Multimodal-Desktop-Agent, der sich zu einer permanent verfügbaren KI-Betriebssystemoberfläche entwickelt (0.17 α).
Schnelle, exakte Inferenz für StartLux-Decision-Modelle auf NVIDIA-GPUs: Die veröffentlichten GGUF-Dateien laufen über die /v1/systemone-API auf int8- und 4-Bit-Tensor-Kernen und bieten in FP8 eine bis zu 5,3-mal geringere Latenz als vLLM bei bitidentischen Antworten.
Statische, minimalistische, einzelne Charge, nur CUDA, qwen3-0.6B Mini-Inferenz-Engine
Vom Lehrer zu Kacheln — eine von Grund auf neu entwickelte LLM-Destillations- und Serving-Engine: benutzerdefinierte Triton/CUDA-Kernel, FSDP-Destillation, kontinuierliches Batching mit paged-KV, spekulative Dekodierung, ein Rust-Gateway, ein JAX-Orakel und Interpretierbarkeitswerkzeuge.