#transformer-optimization Repository
Scopri 7 repository GitHub open source attivi contrassegnati con #transformer-optimization, che raccolgono un totale di 28,537 stelle (con una media di 4,076 stelle per progetto). Il progetto leader di questo argomento è deepseek-ai/FlashMLA, con 13,275 stelle.
7 repository in totale
Un'estensione di PyTorch: Strumenti per un facile addestramento a precisione mista e distribuito in PyTorch
Scarti di ricerca e strumenti eccezionali per la compressione di LLM.
[ICML 2024] Interrompere la dipendenza sequenziale dell'inferenza LLM utilizzando la decodifica lookahead
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Per accelerare l'inferenza dei LLM a lungo contesto, il calcolo approssimato e dinamico sparso dell'attenzione riduce la latenza di inferenza fino a 10 volte per il pre-fill su un A100, mantenendo l'accuratezza.
Domande frequenti
Qual è il repository #transformer-optimization più popolare su GitHub?
Il progetto open source #transformer-optimization più alto in classifica su GitHub è deepseek-ai/FlashMLA, con 13,275 stelle. FlashMLA: Kernel di Attenzione Latente Multi-Testa Efficienti
Quali linguaggi di programmazione sono più utilizzati nei repository #transformer-optimization?
Tra i progetti #transformer-optimization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++.
Come viene calcolata la classifica dei repository #transformer-optimization?
Monitoriamo 7 repository open source attivi contrassegnati con #transformer-optimization (500+ stelle), per un totale di 28,537 stelle e una media di 4,076 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.