#llm-inference-acceleration Repositories
Entdecke 6 aktive Open-Source-GitHub-Repositories, die mit #llm-inference-acceleration getaggt sind und insgesamt 6,745 Sterne gesammelt haben (durchschnittlich 1,124 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ByteDance-Seed/Triton-distributed mit 1,587 Sternen.
Insgesamt 6 Repositories
[ICML 2024] Brechen Sie die sequenzielle Abhängigkeit der LLM-Inferenz durch vorausschauende Dekodierung
Offizielle Pytorch-Repository für Extreme Komprimierung von Large Language Models durch additive Quantisierung https://arxiv.org/pdf/2401.06118.pdf und PV-Tuning: Jenseits der Straight-Through-Schätzung für extreme LLM-Komprimierung https://arxiv.org/abs/2405.14852
Häufig gestellte Fragen
Welches ist das beliebteste #llm-inference-acceleration-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-inference-acceleration-Projekt auf GitHub ist ByteDance-Seed/Triton-distributed mit 1,587 Sternen. Verteilter Compiler und optimierte parallele Kernel
Welche Programmiersprachen werden in #llm-inference-acceleration-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-inference-acceleration-Projekten auf GitHub sind Python, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-inference-acceleration-Repositories berechnet?
Wir verfolgen 6 aktive Open-Source-Repositories, die mit #llm-inference-acceleration getaggt sind (500+ Sterne), mit insgesamt 6,745 Sternen und durchschnittlich 1,124 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.