Git Stars Git Stars

#4bit Repository

Scopri 1 repository GitHub open source attivi contrassegnati con #4bit, che raccolgono un totale di 973 stelle (con una media di 973 stelle per progetto). Il progetto leader di questo argomento è IST-DASLab/marlin, con 973 stelle.

1
Totale Repository
973
Totale stelle
973
Media Stelle/Repo
Linguaggi di programmazione: Python

1 repository in totale

1
IST-DASLab/marlin

Un kernel di inferenza LLM FP16xINT4 che può ottenere accelerazioni vicine all'ideale di circa 4x fino a batch di medie dimensioni da 16-32 token.

IST-DASLab
⭐ 973 Python 👤 IST-DASLab Organization 🕐 Aggiornato 2024-09-04 📅 Creato 2024-01-17

Domande frequenti

1

Qual è il repository #4bit più popolare su GitHub?

Il progetto open source #4bit più alto in classifica su GitHub è IST-DASLab/marlin, con 973 stelle. Un kernel di inferenza LLM FP16xINT4 che può ottenere accelerazioni vicine all'ideale di circa 4x fino a batch di medie dimensioni da 16-32 token.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #4bit?

Tra i progetti #4bit più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python.

3

Come viene calcolata la classifica dei repository #4bit?

Monitoriamo 1 repository open source attivi contrassegnati con #4bit (500+ stelle), per un totale di 973 stelle e una media di 973 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.