#cuda-graphs Dépôts
Découvrez 5 dépôts GitHub open source actifs associés à #cuda-graphs, cumulant 4,010 étoiles au total (soit une moyenne de 802 étoiles par projet). Le projet en tête de ce thème est Lightning-AI/lightning-thunder, avec 1,476 étoiles.
5 dépôts au total
Compilateur PyTorch qui accélère l'entraînement et l'inférence. Obtenez des optimisations intégrées pour la performance, la mémoire, le parallélisme, et écrivez facilement les vôtres.
LeanRL est un fork de CleanRL, où des scripts PyTorch sélectionnés ont été optimisés pour la performance à l'aide de compile et de cudagraphs.
WeDLM : Le modèle de langage de diffusion le plus rapide avec une attention causale standard et une compatibilité native avec le cache KV, offrant de réelles accélérations par rapport aux bases optimisées par vLLM.
Inférence rapide et exacte des modèles StartLux-Decision sur GPU NVIDIA : les fichiers GGUF publiés s’exécutent sur des cœurs tensoriels int8 et 4 bits via l’API /v1/systemone, avec une latence jusqu’à 5,3 fois inférieure à celle de vLLM en FP8 et des réponses identiques au bit près.
Foire aux questions
Quel est le dépôt #cuda-graphs le plus populaire sur GitHub ?
Le projet #cuda-graphs open source le mieux classé sur GitHub est Lightning-AI/lightning-thunder, avec 1,476 étoiles. Compilateur PyTorch qui accélère l'entraînement et l'inférence. Obtenez des optimisations intégrées pour la performance, la mémoire, le parallélisme, et écrivez facilement les vôtres.
Quels langages de programmation sont les plus utilisés dans les dépôts #cuda-graphs ?
Parmi les projets #cuda-graphs les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++.
Comment le classement des dépôts #cuda-graphs est-il calculé ?
Nous suivons 5 dépôts open source actifs associés à #cuda-graphs (500+ étoiles), totalisant 4,010 étoiles, avec une moyenne de 802 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.