#cuda Repository
325 repository in totale
Xolotl: esegui DeepSeek-V4.1-Flash, con tutti i 552B parametri, come agente di programmazione locale su un singolo PC da gaming (RTX 4090 + 110 GB di RAM): ~33 tok/s come agente, ~41 in modalitร veloce, contesto da 512K. Inoltre, Inkling-2-Mini (Thinking Machines, motore proprietario + generatore di bozze MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Esperti MoE organizzati a livelli tra VRAM, RAM e NVMe (Xolotl Direct). API OpenAI + Anthropic.
Una raccolta aperta di metodologie per aiutare nell'addestramento di successo di grandi modelli linguistici.
Potenza di calcolo massima, larghezza di banda della memoria e latenza di CPU, GPU e NPU: gli stessi test tramite ogni API che consente di accedere a un dispositivo. Riga di comando e app per Windows, macOS, Linux e Android
Compagno desktop IA multimodale locale per Windows, con percezione dello schermo e dellโaudio.
Visualizzazione dei dati e ray tracing in Python basato sul framework OptiX 9.1.
Immagine Docker per Ubuntu Desktop che supporta applicazioni GUI accelerate da GPU HW. Puoi accedere al Container con ssh o desktop remoto, proprio come una Cloud VM.
ppl.cv รจ una libreria di elaborazione delle immagini ad alte prestazioni di openPPL che supporta varie piattaforme.
un'implementazione di softmax splatting per il forward warping differenziabile utilizzando PyTorch
Diversi metodi di ottimizzazione della moltiplicazione generale di matrici a mezza precisione (HGEMM) utilizzando il core tensoriale con l'API WMMA e l'istruzione MMA PTX.
Server di inferenza linguistica altamente ottimizzato open source, locale e auto-ospitato che supporta ASR/STT, TTS e LLM su WebRTC, REST e WS
ManagedCUDA mira a una facile integrazione di CUDA di NVidia in applicazioni .NET scritte in C#, Visual Basic o qualsiasi altro linguaggio .NET.
Progetto dimostrativo che mostra una singola codebase Rust in esecuzione su CPU e direttamente su GPU
Pagina principale degli esempi Python di cuQuantum e C++ dellโSDK NVIDIA cuQuantum
Una libreria di accelerazione hardware per la crittografia ad alta intensitร di calcolo :ice_cube:
Un sistema di inferenza ad alte prestazioni per modelli linguistici di grandi dimensioni, progettato per ambienti di produzione.
๐๐๐ Questo repository elenca alcuni fantastici progetti pubblici su CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e High Performance Computing (HPC).
Tilus รจ un linguaggio di programmazione per kernel a livello di tile, che offre un controllo esplicito sulla memoria condivisa e sui registri.