Git Stars Git Stars

#llm-inference-acceleration Repositories

Entdecke 6 aktive Open-Source-GitHub-Repositories, die mit #llm-inference-acceleration getaggt sind und insgesamt 6,745 Sterne gesammelt haben (durchschnittlich 1,124 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ByteDance-Seed/Triton-distributed mit 1,587 Sternen.

6
Gesamtzahl der Repositories
6,745
Gesamtanzahl der Sterne
1,124
Durchschnittliche Sterne/Repo
Programmiersprachen: Python Jupyter Notebook

Insgesamt 6 Repositories

1
ByteDance-Seed/Triton-distributed

Verteilter Compiler und optimierte parallele Kernel

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-04-02
2
hao-ai-lab/LookaheadDecoding

[ICML 2024] Brechen Sie die sequenzielle Abhängigkeit der LLM-Inferenz durch vorausschauende Dekodierung

hao-ai-lab
⭐ 1,337 Python 👤 hao-ai-lab Organization 🕐 Aktualisiert 2025-03-06 📅 Erstellt 2023-11-21
3
Vahe1994/AQLM

Offizielle Pytorch-Repository für Extreme Komprimierung von Large Language Models durch additive Quantisierung https://arxiv.org/pdf/2401.06118.pdf und PV-Tuning: Jenseits der Straight-Through-Schätzung für extreme LLM-Komprimierung https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Aktualisiert 2026-02-26 📅 Erstellt 2024-01-12
5
skapadia3214/groq-moa

Mischung von Agenten unter Verwendung von Groq

skapadia3214
⭐ 940 Python 👤 skapadia3214 User 🕐 Aktualisiert 2024-08-09 📅 Erstellt 2024-06-17

Häufig gestellte Fragen

1

Welches ist das beliebteste #llm-inference-acceleration-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llm-inference-acceleration-Projekt auf GitHub ist ByteDance-Seed/Triton-distributed mit 1,587 Sternen. Verteilter Compiler und optimierte parallele Kernel

2

Welche Programmiersprachen werden in #llm-inference-acceleration-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llm-inference-acceleration-Projekten auf GitHub sind Python, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llm-inference-acceleration-Repositories berechnet?

Wir verfolgen 6 aktive Open-Source-Repositories, die mit #llm-inference-acceleration getaggt sind (500+ Sterne), mit insgesamt 6,745 Sternen und durchschnittlich 1,124 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.