#4bit Repositorios
Descubre 1 repositorios activos de código abierto de GitHub etiquetados con #4bit, que acumulan 973 estrellas en total (una media de 973 estrellas por proyecto). El líder de este tema es IST-DASLab/marlin, con 973 estrellas.
1 repositorios en total
Un kernel de inferencia LLM FP16xINT4 que puede lograr aceleraciones cercanas al ideal de ~4x hasta tamaños de lote medianos de 16-32 tokens.
Preguntas frecuentes
¿Cuál es el repositorio de #4bit más popular en GitHub?
El proyecto de código abierto de #4bit mejor posicionado en GitHub es IST-DASLab/marlin, con 973 estrellas. Un kernel de inferencia LLM FP16xINT4 que puede lograr aceleraciones cercanas al ideal de ~4x hasta tamaños de lote medianos de 16-32 tokens.
¿Qué lenguajes de programación se utilizan más en los repositorios de #4bit?
Entre los proyectos de #4bit mejor posicionados en GitHub, los lenguajes de programación más comunes son Python.
¿Cómo se calcula la clasificación de los repositorios de #4bit?
Seguimos 1 repositorios activos de código abierto etiquetados con #4bit (500+ estrellas), que suman un total de 973 estrellas, con una media de 973 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.