#triton-kernels Repository
Scopri 7 repository GitHub open source attivi contrassegnati con #triton-kernels, che raccolgono un totale di 14,892 stelle (con una media di 2,127 stelle per progetto). Il progetto leader di questo argomento è linkedin/Liger-Kernel, con 6,707 stelle.
7 repository in totale
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Per accelerare l'inferenza dei LLM a lungo contesto, il calcolo approssimato e dinamico sparso dell'attenzione riduce la latenza di inferenza fino a 10 volte per il pre-fill su un A100, mantenendo l'accuratezza.
FlagGems è una libreria di operatori per modelli linguistici di grandi dimensioni implementata nel linguaggio Triton.
🐳 Implementazioni Triton efficienti per "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
Note LLM, inclusi inferenza del modello, struttura del modello transformer e note sull'analisi del codice del framework LLM.
Puzzle per imparare Triton, gioca con una configurazione minima dell'ambiente!
Domande frequenti
Qual è il repository #triton-kernels più popolare su GitHub?
Il progetto open source #triton-kernels più alto in classifica su GitHub è linkedin/Liger-Kernel, con 6,707 stelle. Kernel Triton efficienti per l'addestramento di LLM
Quali linguaggi di programmazione sono più utilizzati nei repository #triton-kernels?
Tra i progetti #triton-kernels più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python.
Come viene calcolata la classifica dei repository #triton-kernels?
Monitoriamo 7 repository open source attivi contrassegnati con #triton-kernels (500+ stelle), per un totale di 14,892 stelle e una media di 2,127 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.