Git Stars Git Stars

#4bit Dépôts

Découvrez 1 dépôts GitHub open source actifs associés à #4bit, cumulant 973 étoiles au total (soit une moyenne de 973 étoiles par projet). Le projet en tête de ce thème est IST-DASLab/marlin, avec 973 étoiles.

1
Total des Dépôts
973
Nombre total d'étoiles
973
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python
1
IST-DASLab/marlin

Un noyau d'inférence LLM FP16xINT4 qui peut atteindre des accélérations quasi idéales d'environ 4x jusqu'à des tailles de lot moyennes de 16 à 32 jetons.

IST-DASLab
⭐ 973 Python 👤 IST-DASLab Organization 🕐 Mis à jour 2024-09-04 📅 Créé 2024-01-17

Foire aux questions

1

Quel est le dépôt #4bit le plus populaire sur GitHub ?

Le projet #4bit open source le mieux classé sur GitHub est IST-DASLab/marlin, avec 973 étoiles. Un noyau d'inférence LLM FP16xINT4 qui peut atteindre des accélérations quasi idéales d'environ 4x jusqu'à des tailles de lot moyennes de 16 à 32 jetons.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #4bit ?

Parmi les projets #4bit les mieux classés sur GitHub, les langages de programmation les plus courants sont Python.

3

Comment le classement des dépôts #4bit est-il calculé ?

Nous suivons 1 dépôts open source actifs associés à #4bit (500+ étoiles), totalisant 973 étoiles, avec une moyenne de 973 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.