#knowledge-distillation Dépôts
Découvrez 35 dépôts GitHub open source actifs associés à #knowledge-distillation, cumulant 102,336 étoiles au total (soit une moyenne de 2,923 étoiles par projet). Le projet en tête de ce thème est titanwings/distilly, avec 26,745 étoiles.
35 dépôts au total
Distilly — Transformez leur façon de penser en Skills réutilisables pour tout agent ou bot. Anciennement Colleague Skill (原同事 Skill).
Distillez du contenu à haute valeur ajoutée issu de livres, de vidéos longues, de podcasts et bien plus encore en Agent Skills exécutables
Des scripts concernant la détection d'objets et du code d'idées d'amélioration; consultez en détail le readme.md.
Un coffre au trésor pour la classification et la reconnaissance visuelles, propulsé par PaddlePaddle
Modèle de langage pré-entraîné et ses techniques d'optimisation associées développées par Huawei Noah's Ark Lab.
Collection de modèles impressionnants de vision-langage pour les tâches de vision
Implémentation de Segnet, FCN, UNet, PSPNet et d'autres modèles dans Keras.
Quantification LLM SOTA à faible nombre de bits (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) et sparsité ; techniques de compression de modèles de pointe sur PyTorch, TensorFlow et ONNX Runtime
Une liste organisée pour des grands modèles linguistiques efficaces
Excellents articles de recherche et outils pour la compression des LLM.
Un framework sans code basé sur PyTorch pour mener des études d’apprentissage profond reproductibles. Écosystème PyTorch. 🏆 À ce jour, 28 méthodes de distillation des connaissances présentées à TPAMI, CVPR, ICLR, ECCV, NeurIPS, ICCV, AAAI, etc. ont été implémentées. 🎁 Des modèles entraînés, des journaux d’entraînement et des configurations sont disponibles pour garantir la reproductibilité et faciliter l’évaluation comparative.
Une liste de lecture sur la génération de données synthétiques basées sur LLM 🔥
Méthodes de calcul efficaces développées par Huawei Noah's Ark Lab
Ce dépôt rassemble des articles pour "A Survey on Knowledge Distillation of Large Language Models". Nous décomposons la KD en Élicitation des Connaissances et Algorithmes de Distillation, et explorons la Distillation par Compétence et Verticale des LLM.
Collection de méthodes récentes sur la compression et l'accélération des réseaux de neurones (profonds).
Une collection organisée d'articles, de rapports techniques, de cadres et d'outils pour la distillation en politique (OPD) des grands modèles de langage
Un cadre extensible (général) d'apprentissage continu basé sur Pytorch - code officiel de Dark Experience pour l'apprentissage continu général
sanoTTS (सानो signifie « petit » en népalais) : un système neuronal de synthèse vocale comptant de 294 000 à 2,27 millions de paramètres, qui fonctionne sur une puce à 3 $, dans le navigateur ou en Python, avec une diffusion en continu à faible latence.
[ICCV 2023] MI-GAN : Une base simple pour l'inpainting d'images sur appareils mobiles
Le dépôt pour "Distill Any Depth: Distillation Creates a Stronger Monocular Depth Estimator"
Une collection organisée d'articles et de ressources sur la distillation en politique pour les grands modèles de langage.
Meilleures pratiques pour la distillation de grands modèles linguistiques.
Résumé, Code pour la Quantification de Réseaux de Neurones Profonds
Du professeur aux tuiles — un moteur de distillation et de service LLM construit de zéro : noyaux Triton/CUDA personnalisés, distillation FSDP, traitement par lots continu avec KV paginé, décodage spéculatif, une passerelle Rust, un oracle JAX et des outils d'interprétabilité.
Foire aux questions
Quel est le dépôt #knowledge-distillation le plus populaire sur GitHub ?
Le projet #knowledge-distillation open source le mieux classé sur GitHub est titanwings/distilly, avec 26,745 étoiles. Distilly — Transformez leur façon de penser en Skills réutilisables pour tout agent ou bot. Anciennement Colleague Skill (原同事 Skill).
Quels langages de programmation sont les plus utilisés dans les dépôts #knowledge-distillation ?
Parmi les projets #knowledge-distillation les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, C.
Comment le classement des dépôts #knowledge-distillation est-il calculé ?
Nous suivons 35 dépôts open source actifs associés à #knowledge-distillation (500+ étoiles), totalisant 102,336 étoiles, avec une moyenne de 2,923 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.