#cuda Repository
325 repository in totale
https://wavespeed.ai/ Miglior framework per l'ottimizzazione delle prestazioni di inferenza per HuggingFace Diffusers su GPU NVIDIA.
Toolkit per la quantizzazione (compressione) di modelli LLM, con supporto allโaccelerazione hardware per Nvidia CUDA, AMD ROCm, Intel XPU, Tenstorrent, NPU Huawei Ascend e CPU Intel/AMD/Apple tramite HF, vLLM e SGLang.
Esegui modelli piรน grandi della tua RAM o VRAM caricando in streaming gli esperti MoE da un SSD. Basato su llama.cpp.
GraphVite: Un sistema generale e ad alte prestazioni per l'embedding di grafi
Lo script di build FFmpeg fornisce un modo semplice per creare una FFmpeg statica su OSX e Linux con codec non gratuiti inclusi.
Costruisci il tuo motore di inferenza LLM ad alte prestazioni in C++ e CUDA - una versione piรน piccola di vLLM
CUDA Tile IR รจ una rappresentazione intermedia e un'infrastruttura di compilazione basata su MLIR per l'ottimizzazione dei kernel CUDA, che si concentra su pattern di calcolo basati su tile e ottimizzazioni mirate alle unitร Tensor Core di NVIDIA.
cuTile Rust fornisce un DSL sicuro per la programmazione di kernel basato su tile per il linguaggio di programmazione Rust. Dispone di un'API sicura lato host per passare tensori a funzioni kernel eseguite in modo asincrono.
RAFT contiene algoritmi e primitive fondamentali e ampiamente utilizzati per il machine learning e il recupero delle informazioni. Gli algoritmi sono accelerati da CUDA e formano blocchi di costruzione per scrivere piรน facilmente applicazioni ad alte prestazioni.
Framework multipiattaforma e personalizzabile per l'elaborazione multimediale/video. Con una forte accelerazione GPU, design eterogeneo, supporto multilingua, facilitร d'uso, compatibilitร multi-framework e alte prestazioni, il framework รจ ideale per transcodifica, inferenza AI, integrazione di algoritmi, streaming video live e altro ancora.
Libreria di machine learning con API TypeScript e backend Rust. Compatibilitร con CUDA e WebGPU. Costruita per comprendere il funzionamento interno dei framework e modelli ML.
un'implementazione dell'Interpolazione di Frame Video tramite Convoluzione Separabile Adattiva usando PyTorch
UniLab: infrastruttura basata su contratti per lโapprendimento robotico su diversi backend fisici e hardware
cuDNN Frontend รจ il moderno punto di accesso open source di NVIDIA alla libreria cuDNN e a una crescente raccolta di kernel open source ad alte prestazioni.
Un DSL integrato in Python che facilita la scrittura di kernel ML veloci e scalabili con una boilerplate minima.
Nodi di inferenza per deep learning per ROS / ROS2 con supporto per NVIDIA Jetson e TensorRT
Addestramento rapido del campo di radianza neurale con traiettorie della fotocamera libere
Materiali di formazione associati alla NVIDIA CUDA Training Series (www.olcf.ornl.gov/cuda-training-series/)
BitCracker รจ il primo strumento di cracking delle password open source per unitร di memoria crittografate con BitLocker.
Esempi che dimostrano le opzioni disponibili per programmare piรน GPU in un singolo nodo o in un cluster
Obiettivo: Abilitare fantastici strumenti per gli utenti Bazel della famiglia di linguaggi C.
Un motore di accelerazione per l'inferenza LLM altamente ottimizzato per Llama e le sue varianti.