#llm-inference-acceleration Repositorios
Descubre 6 repositorios activos de código abierto de GitHub etiquetados con #llm-inference-acceleration, que acumulan 6,745 estrellas en total (una media de 1,124 estrellas por proyecto). El líder de este tema es ByteDance-Seed/Triton-distributed, con 1,587 estrellas.
6 repositorios en total
[ICML 2024] Romper la dependencia secuencial de la inferencia de LLM utilizando la decodificación anticipada
Repositorio oficial de Pytorch para la Compresión Extrema de Modelos de Lenguaje Grandes mediante Cuantización Aditiva https://arxiv.org/pdf/2401.06118.pdf y PV-Tuning: Más allá de la Estimación Directa para la Compresión Extrema de LLMs https://arxiv.org/abs/2405.14852
Preguntas frecuentes
¿Cuál es el repositorio de #llm-inference-acceleration más popular en GitHub?
El proyecto de código abierto de #llm-inference-acceleration mejor posicionado en GitHub es ByteDance-Seed/Triton-distributed, con 1,587 estrellas. Compilador distribuido y kernels paralelos optimizados
¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-inference-acceleration?
Entre los proyectos de #llm-inference-acceleration mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook.
¿Cómo se calcula la clasificación de los repositorios de #llm-inference-acceleration?
Seguimos 6 repositorios activos de código abierto etiquetados con #llm-inference-acceleration (500+ estrellas), que suman un total de 6,745 estrellas, con una media de 1,124 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.