#cuda-graphs Repository
Scopri 5 repository GitHub open source attivi contrassegnati con #cuda-graphs, che raccolgono un totale di 4,010 stelle (con una media di 802 stelle per progetto). Il progetto leader di questo argomento è Lightning-AI/lightning-thunder, con 1,476 stelle.
5 repository in totale
Compilatore PyTorch che accelera l'addestramento e l'inferenza. Ottieni ottimizzazioni integrate per prestazioni, memoria, parallelismo e scrivi facilmente le tue.
LeanRL è un fork di CleanRL, dove alcuni script PyTorch sono stati ottimizzati per le prestazioni utilizzando compile e cudagraphs.
WeDLM: Il modello linguistico di diffusione più veloce con attenzione causale standard e compatibilità nativa con la cache KV, che offre accelerazioni reali rispetto alle basi ottimizzate con vLLM.
Inferenza rapida e precisa per i modelli StartLux-Decision su GPU NVIDIA: i file GGUF rilasciati vengono eseguiti su tensor core int8 e a 4 bit tramite l’API /v1/systemone, con una latenza fino a 5,3 volte inferiore rispetto a vLLM in FP8 e risposte identiche bit per bit.
Domande frequenti
Qual è il repository #cuda-graphs più popolare su GitHub?
Il progetto open source #cuda-graphs più alto in classifica su GitHub è Lightning-AI/lightning-thunder, con 1,476 stelle. Compilatore PyTorch che accelera l'addestramento e l'inferenza. Ottieni ottimizzazioni integrate per prestazioni, memoria, parallelismo e scrivi facilmente le tue.
Quali linguaggi di programmazione sono più utilizzati nei repository #cuda-graphs?
Tra i progetti #cuda-graphs più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++.
Come viene calcolata la classifica dei repository #cuda-graphs?
Monitoriamo 5 repository open source attivi contrassegnati con #cuda-graphs (500+ stelle), per un totale di 4,010 stelle e una media di 802 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.