#knowledge-distillation Repositórios
Descubra 35 repositórios ativos de código aberto no GitHub marcados com #knowledge-distillation, acumulando um total de 102,336 estrelas (uma média de 2,923 por projeto). O líder deste tópico é titanwings/distilly, com 26,745 estrelas.
35 repositórios no total
Distilly — Transforme a forma como eles pensam em Skills reutilizáveis para qualquer agente ou bot. Anteriormente Colleague Skill (原同事 Skill).
Destile conteúdo de alto valor de livros, vídeos longos, podcasts e muito mais em Agent Skills executáveis
Alguns scripts sobre detecção de objetos e códigos com ideias de melhorias; detalhes em readme.md.
Um baú de tesouros para classificação e reconhecimento visual impulsionado por PaddlePaddle
Modelo de linguagem pré-treinado e suas técnicas de otimização relacionadas desenvolvidas pelo Huawei Noah's Ark Lab.
Coleção de modelos impressionantes de visão e linguagem para tarefas de visão
Implementação de Segnet, FCN, UNet, PSPNet e outros modelos no Keras.
Quantização LLM de baixo bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e esparsidade; técnicas líderes de compressão de modelos em PyTorch, TensorFlow e ONNX Runtime
Trabalhos e ferramentas incríveis de pesquisa sobre compressão de LLM.
Um framework sem necessidade de programação, baseado em PyTorch, para estudos reproduzíveis de aprendizagem profunda. Ecossistema PyTorch. 🏆 Até o momento, foram implementados 28 métodos de destilação de conhecimento apresentados em TPAMI, CVPR, ICLR, ECCV, NeurIPS, ICCV, AAAI etc. 🎁 Modelos treinados, registros de treinamento e configurações estão disponíveis para garantir a reprodutibilidade e facilitar a avaliação comparativa.
Uma lista de leitura sobre Geração de Dados Sintéticos baseada em LLM 🔥
Métodos de computação eficientes desenvolvidos pelo Huawei Noah's Ark Lab
Este repositório reúne artigos para "Uma Pesquisa sobre Destilação de Conhecimento de Grandes Modelos de Linguagem". Dividimos a KD em Elicitação de Conhecimento e Algoritmos de Destilação, e exploramos a Destilação de Habilidades e Vertical de LLMs.
Coleção de métodos recentes sobre compressão e aceleração de redes neurais (profundas).
Uma coleção curada de artigos, relatórios técnicos, frameworks e ferramentas para destilação on-policy (OPD) de grandes modelos de linguagem
Um Framework Extensível (Geral) de Aprendizado Contínuo baseado em Pytorch - Código-base oficial de Dark Experience for General Continual Learning
sanoTTS (सानो significa «pequeno» em nepalês): um sistema neural de conversão de texto em fala com entre 294 mil e 2,27 milhões de parâmetros, que funciona em um chip de US$ 3, no navegador ou em Python, com streaming de baixa latência.
[ICCV 2023] MI-GAN: Uma Linha de Base Simples para Preenchimento de Imagens em Dispositivos Móveis
O repositório para "Distill Any Depth: Distillation Creates a Stronger Monocular Depth Estimator"
Uma coleção curada de artigos e recursos sobre destilação on-policy para modelos de linguagem grandes.
Melhores práticas para destilação de modelos de linguagem grandes.
Resumo, Código para Quantização de Rede Neural Profunda
Do professor aos blocos — um mecanismo de destilação e serviço de LLM construído do zero: kernels Triton/CUDA personalizados, destilação FSDP, processamento em lote contínuo com KV paginado, decodificação especulativa, um gateway Rust, um oráculo JAX e ferramentas de interpretabilidade.
Perguntas Frequentes
Qual é o repositório de #knowledge-distillation mais popular no GitHub?
O projeto de código aberto de #knowledge-distillation mais bem classificado no GitHub é titanwings/distilly, com 26,745 estrelas. Distilly — Transforme a forma como eles pensam em Skills reutilizáveis para qualquer agente ou bot. Anteriormente Colleague Skill (原同事 Skill).
Quais linguagens de programação são mais usadas nos repositórios de #knowledge-distillation?
Entre os projetos de #knowledge-distillation mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, C.
Como é calculada a classificação dos repositórios de #knowledge-distillation?
Acompanhamos 35 repositórios ativos de código aberto marcados com #knowledge-distillation (com mais de 500 estrelas), totalizando 102,336 estrelas e uma média de 2,923 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.