#cuda Repository
325 repository in totale
La piattaforma CUDA di NVIDIA per Rust. Crate di runtime lato host, oltre ai modelli di programmazione dei kernel Tile (cutile-rs) e SIMT (cuda-oxide) in Rust idiomatico.
Un compilatore e toolkit di runtime per machine learning basato su MLIR e retargetable.
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] L'attenzione Quantizzata (Quantized Attention) raggiunge un aumento di velocitร da 2 a 5 volte rispetto a FlashAttention, senza perdere le metriche end-to-end sui modelli di linguaggio, immagine e video.
Software NVR e Computer Vision AI self-hosted, solo locale. Con funzionalitร come il rilevamento di oggetti, il rilevamento di movimento, il riconoscimento facciale e altro ancora, ti dร il potere di tenere d'occhio la tua casa, il tuo ufficio o qualsiasi altro luogo che desideri monitorare.
Una libreria per accelerare i modelli Transformer sulle GPU NVIDIA, incluso l'utilizzo della precisione in virgola mobile a 8 bit e 4 bit (FP8 e FP4) sulle GPU Hopper, Ada e Blackwell, per fornire prestazioni migliori con un minor utilizzo di memoria sia in fase di addestramento che di inferenza.
Fondamenti di IA - architettura GPU, programmazione CUDA, basi dei grandi modelli e conoscenze relative agli agenti IA.
LYGIA, รจ una libreria di shader granulare e multilingue (GLSL, HLSL, Metal, WGSL, WEGL e CUDA) progettata per prestazioni e flessibilitร
Motore scacchistico a rete neurale open source con accelerazione GPU e ampio supporto hardware.
Jittor รจ un framework di deep learning ad alte prestazioni basato sulla compilazione JIT e sui meta-operatori.
Esegui GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) sulle tue GPU โ a partire da 8 GB di VRAM, con supporto per NVIDIA e AMD, unโunica dashboard e unโAPI compatibile con OpenAI e Anthropic.
RamaLama รจ uno strumento di sviluppo open-source che semplifica la distribuzione locale di modelli AI da qualsiasi origine e ne facilita l'utilizzo per l'inferenza in produzione, il tutto attraverso il familiare linguaggio dei container.
Questo pacchetto contiene il codice originale di AlexNet del 2012.
Minkowski Engine รจ una libreria di reti neurali con auto-differenziazione per tensori sparsi ad alta dimensionalitร
:boom::computer::boom: Un linguaggio di programmazione funzionale parallelo nei dati
Esegui rapidamente modelli Qwen di grandi dimensioni sulle GPU che possiedi davvero. Qwen3.8-27B su una singola scheda da 24 GB con vLLM: 127 tok/s per un singolo utente (381 quando la risposta cita il prompt), circa 1.035 tok/s con 64 richieste simultanee e un contesto di 150kโ262k. Patch per vLLM, pipeline di requantizzazione e benchmark.
CV-CUDAโข รจ una libreria open-source accelerata da GPU per l'elaborazione di immagini e la visione artificiale su larga scala nel cloud.
Progetti di Computer Vision | Divertenti progetti di IA relativi alla visione artificiale (Python, C++, sistemi embedded)
Trainer di Gaussian Splatting 3D multipiattaforma: dal video agli splat fino alla mesh, con Vulkan o CUDA.
Estensione del linguaggio di calcolo ad alte prestazioni multipiattaforma per Rust.
LUPINE รจ un ponte GPU over IP che consente di collegare GPU di macchine remote a macchine solo CPU.
Generatore locale di canzoni con IA e spartito modificabile โ YuE2 sulla tua GPU: brani completi con voce, spartiti, cover e riproduzione esatta. App nativa per Windows, senza Python, con programma di installazione e aggiornamenti automatici.
Apache Mahout - un ambiente per creare rapidamente applicazioni di machine learning scalabili e performanti.
Corso ufficiale SGLang x Datawhale sullโinferenza degli LLM: comprendi lโinferenza, costruisci un mini-SGLang da zero, poi leggi il vero codice sorgente di SGLang e invia la tua prima PR. Disponibile in inglese e cinese.
Molti studi hanno dimostrato che le prestazioni sul deep learning sono significativamente influenzate dal volume dei dati di addestramento. Il progetto MedicalNet fornisce una serie di modelli pre-addestrati 3D-ResNet e il codice relativo.
label-smooth, amsoftmax, partial-fc, focal-loss, triplet-loss, lovasz-softmax. Forse utile
Codice per l'articolo ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
Raccolta curata da NVIDIA di risorse educative relative alla programmazione GPU per scopi generali.
Traduci shader GPU e kernel di calcolo tra GLSL, HLSL, Metal, SPIR-V, Slang, CUDA e HIP, e in WGSL, tramite lโIR CrossGL
Esegui modelli AI localmente sulla tua macchina con binding Node.js per llama.cpp. Applica uno schema JSON all'output del modello a livello di generazione.
Un pacchetto di deep learning per la rappresentazione dell'energia potenziale multi-corpo e dinamica molecolare