#4bit Repository
Scopri 1 repository GitHub open source attivi contrassegnati con #4bit, che raccolgono un totale di 973 stelle (con una media di 973 stelle per progetto). Il progetto leader di questo argomento è IST-DASLab/marlin, con 973 stelle.
1 repository in totale
Un kernel di inferenza LLM FP16xINT4 che può ottenere accelerazioni vicine all'ideale di circa 4x fino a batch di medie dimensioni da 16-32 token.
Domande frequenti
Qual è il repository #4bit più popolare su GitHub?
Il progetto open source #4bit più alto in classifica su GitHub è IST-DASLab/marlin, con 973 stelle. Un kernel di inferenza LLM FP16xINT4 che può ottenere accelerazioni vicine all'ideale di circa 4x fino a batch di medie dimensioni da 16-32 token.
Quali linguaggi di programmazione sono più utilizzati nei repository #4bit?
Tra i progetti #4bit più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python.
Come viene calcolata la classifica dei repository #4bit?
Monitoriamo 1 repository open source attivi contrassegnati con #4bit (500+ stelle), per un totale di 973 stelle e una media di 973 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.