Git Stars Git Stars

#4bit Repositories

Entdecke 1 aktive Open-Source-GitHub-Repositories, die mit #4bit getaggt sind und insgesamt 973 Sterne gesammelt haben (durchschnittlich 973 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist IST-DASLab/marlin mit 973 Sternen.

1
Gesamtzahl der Repositories
973
Gesamtanzahl der Sterne
973
Durchschnittliche Sterne/Repo
Programmiersprachen: Python

Insgesamt 1 Repositories

1
IST-DASLab/marlin

Ein FP16xINT4 LLM-Inferenzkernel, der nahezu ideale Geschwindigkeitssteigerungen von etwa 4x bei Batchgrößen bis zu 16-32 Tokens erzielen kann.

IST-DASLab
⭐ 973 Python 👤 IST-DASLab Organization 🕐 Aktualisiert 2024-09-04 📅 Erstellt 2024-01-17

Häufig gestellte Fragen

1

Welches ist das beliebteste #4bit-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#4bit-Projekt auf GitHub ist IST-DASLab/marlin mit 973 Sternen. Ein FP16xINT4 LLM-Inferenzkernel, der nahezu ideale Geschwindigkeitssteigerungen von etwa 4x bei Batchgrößen bis zu 16-32 Tokens erzielen kann.

2

Welche Programmiersprachen werden in #4bit-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #4bit-Projekten auf GitHub sind Python die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #4bit-Repositories berechnet?

Wir verfolgen 1 aktive Open-Source-Repositories, die mit #4bit getaggt sind (500+ Sterne), mit insgesamt 973 Sternen und durchschnittlich 973 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.