#knowledge-distillation Repositorios
Descubre 35 repositorios activos de código abierto de GitHub etiquetados con #knowledge-distillation, que acumulan 102,336 estrellas en total (una media de 2,923 estrellas por proyecto). El líder de este tema es titanwings/distilly, con 26,745 estrellas.
35 repositorios en total
Distilly — Convierte su forma de pensar en Skills reutilizables para cualquier agente o bot. Antes se llamaba Colleague Skill (原同事 Skill).
Destila contenido de alto valor de libros, videos de formato largo, podcasts y más en Agent Skills ejecutables
Algunos scripts sobre detección de objetos y código con ideas de mejora; revise readme.md para más detalles.
Un cofre del tesoro para la clasificación y el reconocimiento visual, impulsado por PaddlePaddle
Modelo de lenguaje preentrenado y sus técnicas de optimización relacionadas desarrolladas por Huawei Noah's Ark Lab.
Colección de impresionantes modelos de visión-lenguaje para tareas de visión
Implementación de Segnet, FCN, UNet, PSPNet y otros modelos en Keras.
Cuantización LLM de baja precisión SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) y esparcidad; técnicas líderes de compresión de modelos en PyTorch, TensorFlow y ONNX Runtime
Excelentes artículos de investigación y herramientas de compresión de LLMs.
Un framework sin necesidad de programar, basado en PyTorch, para realizar estudios de aprendizaje profundo reproducibles. Ecosistema PyTorch. 🏆 Hasta ahora se han implementado 28 métodos de destilación del conocimiento presentados en TPAMI, CVPR, ICLR, ECCV, NeurIPS, ICCV, AAAI, etc. 🎁 Se ofrecen modelos entrenados, registros de entrenamiento y configuraciones para garantizar la reproducibilidad y facilitar la evaluación comparativa.
Una lista de lectura sobre la generación de datos sintéticos basada en LLM 🔥
Métodos de cómputo eficientes desarrollados por Huawei Noah's Ark Lab
Este repositorio recopila artículos para "A Survey on Knowledge Distillation of Large Language Models" (Una Revisión sobre la Destilación del Conocimiento de Modelos de Lenguaje Grandes). Desglosamos la KD en Extracción de Conocimiento y Algoritmos de Destilación, y exploramos la Destilación de Habilidades y Vertical de los LLM.
Colección de métodos recientes sobre compresión y aceleración de redes neuronales (profundas).
Una colección curada de artículos, informes técnicos, marcos y herramientas para la destilación en política (OPD) de modelos de lenguaje grandes
Un framework extensible (general) de aprendizaje continuo basado en Pytorch - base de código oficial de Dark Experience para aprendizaje continuo general
sanoTTS (सानो significa «pequeño» en nepalí): un sistema neuronal de texto a voz con entre 294 mil y 2,27 millones de parámetros, que funciona en un chip de 3 dólares, en el navegador o en Python, con transmisión de baja latencia.
[ICCV 2023] MI-GAN: Una línea base simple para inpainting de imágenes en dispositivos móviles
El repositorio para "Distill Any Depth: Distillation Creates a Stronger Monocular Depth Estimator"
Una colección curada de artículos y recursos sobre destilación en política para modelos de lenguaje grandes.
Mejores prácticas para la destilación de grandes modelos de lenguaje.
Resumen, Código para la Cuantización de Redes Neuronales Profundas
De maestro a mosaicos — un motor de destilación y servicio de LLM desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo con KV paginado, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.
Preguntas frecuentes
¿Cuál es el repositorio de #knowledge-distillation más popular en GitHub?
El proyecto de código abierto de #knowledge-distillation mejor posicionado en GitHub es titanwings/distilly, con 26,745 estrellas. Distilly — Convierte su forma de pensar en Skills reutilizables para cualquier agente o bot. Antes se llamaba Colleague Skill (原同事 Skill).
¿Qué lenguajes de programación se utilizan más en los repositorios de #knowledge-distillation?
Entre los proyectos de #knowledge-distillation mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, C.
¿Cómo se calcula la clasificación de los repositorios de #knowledge-distillation?
Seguimos 35 repositorios activos de código abierto etiquetados con #knowledge-distillation (500+ estrellas), que suman un total de 102,336 estrellas, con una media de 2,923 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.