#transformer-optimization Repositories
Entdecke 7 aktive Open-Source-GitHub-Repositories, die mit #transformer-optimization getaggt sind und insgesamt 28,537 Sterne gesammelt haben (durchschnittlich 4,076 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist deepseek-ai/FlashMLA mit 13,275 Sternen.
Insgesamt 7 Repositories
Eine PyTorch-Erweiterung: Tools für einfaches Mixed-Precision- und verteiltes Training in PyTorch
Hervorragende Forschungsarbeiten und Werkzeuge zur Komprimierung von LLMs.
[ICML 2024] Brechen Sie die sequenzielle Abhängigkeit der LLM-Inferenz durch vorausschauende Dekodierung
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Um die Inferenz von Long-Context-LLMs zu beschleunigen, berechnen approximative und dynamische dichte Berechnungen die Aufmerksamkeit, was die Inferenzlatenz beim Vorabfüllen auf einer A100 um bis zu 10x reduziert, während die Genauigkeit erhalten bleibt.
Häufig gestellte Fragen
Welches ist das beliebteste #transformer-optimization-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#transformer-optimization-Projekt auf GitHub ist deepseek-ai/FlashMLA mit 13,275 Sternen. FlashMLA: Effiziente Multi-Head Latent Attention Kernels
Welche Programmiersprachen werden in #transformer-optimization-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #transformer-optimization-Projekten auf GitHub sind Python, C++ die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #transformer-optimization-Repositories berechnet?
Wir verfolgen 7 aktive Open-Source-Repositories, die mit #transformer-optimization getaggt sind (500+ Sterne), mit insgesamt 28,537 Sternen und durchschnittlich 4,076 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.