#kernel-optimization Repository
Scopri 9 repository GitHub open source attivi contrassegnati con #kernel-optimization, che raccolgono un totale di 32,144 stelle (con una media di 3,571 stelle per progetto). Il progetto leader di questo argomento è kvcache-ai/ktransformers, con 19,687 stelle.
9 repository in totale
Un framework flessibile per sperimentare ottimizzazioni di inferenza/fine-tuning di LLM eterogenei
AutoResearch per kernel GPU. Fornisci qualsiasi modello PyTorch, lascialo dormire e, al risveglio, ottieni kernel Triton ottimizzati.
CUDA Tile IR è una rappresentazione intermedia e un'infrastruttura di compilazione basata su MLIR per l'ottimizzazione dei kernel CUDA, che si concentra su pattern di calcolo basati su tile e ottimizzazioni mirate alle unità Tensor Core di NVIDIA.
Algoritmi e sistemi LLM con PyTorch, Triton e CUDA, con un approccio pratico. «Tutorial sugli algoritmi e i sistemi LLM»: architetture e addestramento dei modelli, post-addestramento, accelerazione dell’inferenza, ottimizzazione delle prestazioni e degli operatori; include esercizi in Notebook, spiegazioni delle risposte, test ed esperimenti.
Domande frequenti
Qual è il repository #kernel-optimization più popolare su GitHub?
Il progetto open source #kernel-optimization più alto in classifica su GitHub è kvcache-ai/ktransformers, con 19,687 stelle. Un framework flessibile per sperimentare ottimizzazioni di inferenza/fine-tuning di LLM eterogenei
Quali linguaggi di programmazione sono più utilizzati nei repository #kernel-optimization?
Tra i progetti #kernel-optimization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Cuda, Shell, MLIR.
Come viene calcolata la classifica dei repository #kernel-optimization?
Monitoriamo 9 repository open source attivi contrassegnati con #kernel-optimization (500+ stelle), per un totale di 32,144 stelle e una media di 3,571 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.