#4bit Dépôts
Découvrez 1 dépôts GitHub open source actifs associés à #4bit, cumulant 973 étoiles au total (soit une moyenne de 973 étoiles par projet). Le projet en tête de ce thème est IST-DASLab/marlin, avec 973 étoiles.
1 dépôts au total
Un noyau d'inférence LLM FP16xINT4 qui peut atteindre des accélérations quasi idéales d'environ 4x jusqu'à des tailles de lot moyennes de 16 à 32 jetons.
Foire aux questions
Quel est le dépôt #4bit le plus populaire sur GitHub ?
Le projet #4bit open source le mieux classé sur GitHub est IST-DASLab/marlin, avec 973 étoiles. Un noyau d'inférence LLM FP16xINT4 qui peut atteindre des accélérations quasi idéales d'environ 4x jusqu'à des tailles de lot moyennes de 16 à 32 jetons.
Quels langages de programmation sont les plus utilisés dans les dépôts #4bit ?
Parmi les projets #4bit les mieux classés sur GitHub, les langages de programmation les plus courants sont Python.
Comment le classement des dépôts #4bit est-il calculé ?
Nous suivons 1 dépôts open source actifs associés à #4bit (500+ étoiles), totalisant 973 étoiles, avec une moyenne de 973 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.