#interpretability Dépôts
Découvrez 39 dépôts GitHub open source actifs associés à #interpretability, cumulant 134,415 étoiles au total (soit une moyenne de 3,446 étoiles par projet). Le projet en tête de ce thème est shap/shap, avec 25,883 étoiles.
39 dépôts au total
Une approche de la théorie des jeux pour expliquer la sortie de tout modèle d'apprentissage automatique
Une liste curated de bibliothèques open source géniales pour déployer, surveiller, versionner et scaler votre machine learning
Explicabilité avancée de l'IA pour la vision par ordinateur. Support pour CNN, Vision Transformers, Classification, Détection d'objets, Segmentation, Similarité d'images et plus.
Ajustez des modèles interprétables. Expliquez l'apprentissage automatique en boîte noire.
Une liste sélectionnée de ressources formidables sur l'apprentissage automatique responsable.
🔅 Shapash : Explicabilité et Interprétabilité Conviviales pour Développer des Modèles d'Apprentissage Automatique Fiables et Transparents
Cartes d'activation de classe pour vos modèles PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Explorateur de neurones axé d’abord sur le pilotage pour Qwen3.5-4B : stimulez chaque neurone MLP, conservez chaque génération et parcourez les résultats
Une boîte à outils de recherche JAX pour la construction, l'édition et la visualisation de réseaux neuronaux.
Responsible AI Toolbox est une suite d'outils fournissant des interfaces utilisateur et des bibliothèques pour l'exploration et l'évaluation des modèles et des données qui permettent une meilleure compréhension des systèmes d'IA. Ces interfaces et bibliothèques permettent aux développeurs et aux parties prenantes des systèmes d'IA de développer et de surveiller l'IA de manière plus responsable, et de prendre de meilleures mesures basées sur les données.
Une collection de matériel de recherche sur l'IA/ML explicable
Paquet ML interprétable 🔍 pour une modélisation prédictive concise, transparente et précise (compatible avec sklearn).
Bibliothèque Python de Stanford NLP pour le réglage fin de la représentation (ReFT)
Une boîte à outils pour iNNvestiguer les prédictions des réseaux de neurones !
Le package nnsight permet d'interpréter et de manipuler les éléments internes des modèles appris en profondeur.
Bibliothèque Python Stanford NLP pour comprendre et améliorer les modèles PyTorch par des interventions
Une collection de méthodes de détection d'anomalies (iid/basées sur des points, graphe et séries temporelles) incluant l'apprentissage actif pour la détection/découverte d'anomalies, l'extraction de règles bayésiennes, description pour la diversité/explication/interprétabilité. Analyse de l'incorporation de retours d'étiquettes avec des détecteurs basés sur ensemble et arbre. Inclut des attaques adverses avec Graph Convolutional Network.
Un ordinateur compilé dans les poids d’un modèle de langage. Un processeur exact intégré à Qwen3.5-4B, avec l’état de Gated DeltaNet comme RAM.
Articles récents à haute citation/conférences de premier plan sur l'interprétabilité des modèles de réseaux de neurones en apprentissage profond (avec code)
Inspectez, visualisez et intervenez sur n’importe quelle opération dans n’importe quel réseau neuronal. Capturez chaque activation et chaque gradient, le graphe de calcul complet et plus de 800 champs de métadonnées, sans modifier le code du modèle. Compatible avec PyTorch, JAX, TensorFlow, MLX, PaddlePaddle et tinygrad. Validé sur plus de 6 400 modèles. Conçu pour les chercheurs et leurs agents d’IA.
Une collection d'algorithmes à la pointe de la technologie pour l'entraînement, le déploiement et l'interprétation des modèles Decision Forest dans Keras.
[JMLR 2023] Quantus est une boîte à outils d'IA explicable pour l'évaluation responsable des explications de réseaux de neurones
Une bibliothèque pour entraîner, évaluer, interpréter et mettre en production des modèles de forêts de décision tels que Random Forest et Gradient Boosted Decision Trees.
Exemples de techniques pour entraîner des modèles ML interprétables, expliquer des modèles ML et déboguer des modèles ML en termes de précision, discrimination et sécurité.
💭 Analyse de sentiment basée sur les aspects : Transformer & ML explicable (TensorFlow)
Foire aux questions
Quel est le dépôt #interpretability le plus populaire sur GitHub ?
Le projet #interpretability open source le mieux classé sur GitHub est shap/shap, avec 25,883 étoiles. Une approche de la théorie des jeux pour expliquer la sortie de tout modèle d'apprentissage automatique
Quels langages de programmation sont les plus utilisés dans les dépôts #interpretability ?
Parmi les projets #interpretability les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, C++, TypeScript.
Comment le classement des dépôts #interpretability est-il calculé ?
Nous suivons 39 dépôts open source actifs associés à #interpretability (500+ étoiles), totalisant 134,415 étoiles, avec une moyenne de 3,446 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.