#kv-cache-optimization Repositorios
Descubre 9 repositorios activos de código abierto de GitHub etiquetados con #kv-cache-optimization, que acumulan 13,361 estrellas en total (una media de 1,484 estrellas por proyecto). El líder de este tema es deepseek-ai/DeepSeek-V2, con 4,988 estrellas.
9 repositorios en total
DeepSeek-V2: Un modelo de lenguaje de mezcla de expertos fuerte, económico y eficiente
Excelentes artículos de investigación y herramientas de compresión de LLMs.
[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Para acelerar la inferencia de LLM de contexto largo, el cálculo disperso aproximado y dinámico de la atención reduce la latencia de inferencia hasta 10 veces para el prellenado en un A100, manteniendo la precisión.
Gemma 2B con una longitud de contexto de 10M utilizando Infini-attention.
Preguntas frecuentes
¿Cuál es el repositorio de #kv-cache-optimization más popular en GitHub?
El proyecto de código abierto de #kv-cache-optimization mejor posicionado en GitHub es deepseek-ai/DeepSeek-V2, con 4,988 estrellas. DeepSeek-V2: Un modelo de lenguaje de mezcla de expertos fuerte, económico y eficiente
¿Qué lenguajes de programación se utilizan más en los repositorios de #kv-cache-optimization?
Entre los proyectos de #kv-cache-optimization mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook.
¿Cómo se calcula la clasificación de los repositorios de #kv-cache-optimization?
Seguimos 9 repositorios activos de código abierto etiquetados con #kv-cache-optimization (500+ estrellas), que suman un total de 13,361 estrellas, con una media de 1,484 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.