#kernel-optimization Dépôts
Découvrez 9 dépôts GitHub open source actifs associés à #kernel-optimization, cumulant 32,144 étoiles au total (soit une moyenne de 3,571 étoiles par projet). Le projet en tête de ce thème est kvcache-ai/ktransformers, avec 19,687 étoiles.
9 dépôts au total
Un cadre flexible pour expérimenter les optimisations d'inférence/de fine-tuning des LLM hétérogènes
AutoResearch pour les kernels GPU. Donnez-lui n'importe quel modèle PyTorch, laissez-le dormir, et réveillez-le pour obtenir des kernels Triton optimisés.
CUDA Tile IR est une représentation intermédiaire et une infrastructure de compilateur basée sur MLIR pour l'optimisation des noyaux CUDA, se concentrant sur les modèles de calcul basés sur des tuiles et les optimisations ciblant les unités Tensor Core de NVIDIA.
Algorithmes et systèmes de LLM en pratique avec PyTorch, Triton et CUDA. « Tutoriel sur les algorithmes et systèmes de LLM » : architectures et entraînement des modèles, post-entraînement, accélération de l’inférence, optimisation des performances et des opérateurs, avec des exercices Notebook, des explications des réponses, des tests et des expériences.
Foire aux questions
Quel est le dépôt #kernel-optimization le plus populaire sur GitHub ?
Le projet #kernel-optimization open source le mieux classé sur GitHub est kvcache-ai/ktransformers, avec 19,687 étoiles. Un cadre flexible pour expérimenter les optimisations d'inférence/de fine-tuning des LLM hétérogènes
Quels langages de programmation sont les plus utilisés dans les dépôts #kernel-optimization ?
Parmi les projets #kernel-optimization les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Cuda, Shell, MLIR.
Comment le classement des dépôts #kernel-optimization est-il calculé ?
Nous suivons 9 dépôts open source actifs associés à #kernel-optimization (500+ étoiles), totalisant 32,144 étoiles, avec une moyenne de 3,571 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.