Git Stars Git Stars

#interpretability Dépôts

Découvrez 39 dépôts GitHub open source actifs associés à #interpretability, cumulant 134,415 étoiles au total (soit une moyenne de 3,446 étoiles par projet). Le projet en tête de ce thème est shap/shap, avec 25,883 étoiles.

39
Total des Dépôts
134,415
Nombre total d'étoiles
3,446
Moyenne d'Étoiles/Dépôt
1
shap/shap

Une approche de la théorie des jeux pour expliquer la sortie de tout modèle d'apprentissage automatique

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2016-11-22
2
EthicalML/awesome-production-machine-learning

Une liste curated de bibliothèques open source géniales pour déployer, surveiller, versionner et scaler votre machine learning

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 Mis à jour 2026-11-12 📅 Créé 2018-08-15
3
KindXiaoming/pykan

Réseaux de Kolmogorov Arnold

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 Mis à jour 2025-01-19 📅 Créé 2024-04-27
4
jacobgil/pytorch-grad-cam

Explicabilité avancée de l'IA pour la vision par ordinateur. Support pour CNN, Vision Transformers, Classification, Détection d'objets, Segmentation, Similarité d'images et plus.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 Mis à jour 2026-11-01 📅 Créé 2017-05-31
5
interpretml/interpret

Ajustez des modèles interprétables. Expliquez l'apprentissage automatique en boîte noire.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2019-05-03
6
meta-pytorch/captum

Interprétabilité et compréhension du modèle pour PyTorch

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

Une liste sélectionnée de ressources formidables sur l'apprentissage automatique responsable.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 Mis à jour 2026-06-03 📅 Créé 2018-06-21
8
MAIF/shapash

🔅 Shapash : Explicabilité et Interprétabilité Conviviales pour Développer des Modèles d'Apprentissage Automatique Fiables et Transparents

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2020-04-29
9
stellargraph/stellargraph

StellarGraph - Apprentissage Automatique sur les Graphes

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 Mis à jour 2024-04-10 📅 Créé 2018-04-13
10
SeldonIO/alibi

Algorithmes pour expliquer les modèles d'apprentissage automatique

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 Mis à jour 2025-10-17 📅 Créé 2019-02-26
11
frgfm/torch-cam

Cartes d'activation de classe pour vos modèles PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 Mis à jour 2026-11-20 📅 Créé 2020-03-23
12
lyramakesmusic/neuron-explorer

Explorateur de neurones axé d’abord sur le pilotage pour Qwen3.5-4B : stimulez chaque neurone MLP, conservez chaque génération et parcourez les résultats

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Mis à jour 2026-11-02 📅 Créé 2026-10-21
13
google-deepmind/penzai

Une boîte à outils de recherche JAX pour la construction, l'édition et la visualisation de réseaux neuronaux.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 Mis à jour 2025-06-22 📅 Créé 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox est une suite d'outils fournissant des interfaces utilisateur et des bibliothèques pour l'exploration et l'évaluation des modèles et des données qui permettent une meilleure compréhension des systèmes d'IA. Ces interfaces et bibliothèques permettent aux développeurs et aux parties prenantes des systèmes d'IA de développer et de surveiller l'IA de manière plus responsable, et de prendre de meilleures mesures basées sur les données.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

Une collection de matériel de recherche sur l'IA/ML explicable

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 Mis à jour 2026-08-19 📅 Créé 2020-02-16
16
csinva/imodels

Paquet ML interprétable 🔍 pour une modélisation prédictive concise, transparente et précise (compatible avec sklearn).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 Mis à jour 2026-11-13 📅 Créé 2019-07-04
17
stanfordnlp/pyreft

Bibliothèque Python de Stanford NLP pour le réglage fin de la représentation (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 Mis à jour 2026-03-05 📅 Créé 2024-02-17
18
ModelOriented/DALEX

Langage agnostique au modèle pour l'exploration et l'explication

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 Mis à jour 2026-07-15 📅 Créé 2018-02-18
19
albermax/innvestigate

Une boîte à outils pour iNNvestiguer les prédictions des réseaux de neurones !

albermax
⭐ 1,305 Python 👤 albermax User 🕐 Mis à jour 2025-04-11 📅 Créé 2017-12-13
20
EthicalML/xai

XAI - Une boîte à outils d'eXplicabilité pour l'apprentissage automatique

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 Mis à jour 2025-11-29 📅 Créé 2019-01-11
21
hijohnnylin/neuronpedia

Plateforme open source d'interprétabilité 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 Mis à jour 2026-11-21 📅 Créé 2023-06-21
22
ndif-team/nnsight

Le package nnsight permet d'interpréter et de manipuler les éléments internes des modèles appris en profondeur.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2023-10-20
23
sicara/tf-explain

Méthodes d'interprétabilité pour les modèles tf.keras avec TensorFlow 2.x

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 Mis à jour 2024-06-03 📅 Créé 2019-07-15
25
stanfordnlp/pyvene

Bibliothèque Python Stanford NLP pour comprendre et améliorer les modèles PyTorch par des interventions

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Mis à jour 2026-03-06 📅 Créé 2023-02-06
26
shubhomoydas/ad_examples

Une collection de méthodes de détection d'anomalies (iid/basées sur des points, graphe et séries temporelles) incluant l'apprentissage actif pour la détection/découverte d'anomalies, l'extraction de règles bayésiennes, description pour la diversité/explication/interprétabilité. Analyse de l'incorporation de retours d'étiquettes avec des détecteurs basés sur ensemble et arbre. Inclut des attaques adverses avec Graph Convolutional Network.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 Mis à jour 2024-05-22 📅 Créé 2017-11-03
27
divagr18/qwenputer

Un ordinateur compilé dans les poids d’un modèle de langage. Un processeur exact intégré à Qwen3.5-4B, avec l’état de Gated DeltaNet comme RAM.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 Mis à jour 2026-11-19 📅 Créé 2026-10-19
28
mmschlk/shapiq

Valeurs de Shapley et interactions de Shapley pour l’apprentissage automatique

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 Mis à jour 2026-11-20 📅 Créé 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

Articles récents à haute citation/conférences de premier plan sur l'interprétabilité des modèles de réseaux de neurones en apprentissage profond (avec code)

oneTaken
⭐ 762 👤 oneTaken User 🕐 Mis à jour 2024-04-08 📅 Créé 2020-01-01
30
deel-ai/xplique

👋 Xplique est une boîte à outils pour l'explicabilité des réseaux de neurones

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 Mis à jour 2026-11-06 📅 Créé 2020-04-05
31
johnmarktaylor91/torchlens

Inspectez, visualisez et intervenez sur n’importe quelle opération dans n’importe quel réseau neuronal. Capturez chaque activation et chaque gradient, le graphe de calcul complet et plus de 800 champs de métadonnées, sans modifier le code du modèle. Compatible avec PyTorch, JAX, TensorFlow, MLX, PaddlePaddle et tinygrad. Validé sur plus de 6 400 modèles. Conçu pour les chercheurs et leurs agents d’IA.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Mis à jour 2026-11-17 📅 Créé 2022-10-14
32
kmeng01/rome

Localisation et édition des associations factuelles dans GPT (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 Mis à jour 2024-04-20 📅 Créé 2022-02-11
33
tensorflow/decision-forests

Une collection d'algorithmes à la pointe de la technologie pour l'entraînement, le déploiement et l'interprétation des modèles Decision Forest dans Keras.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 Mis à jour 2026-05-19 📅 Créé 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus est une boîte à outils d'IA explicable pour l'évaluation responsable des explications de réseaux de neurones

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 Mis à jour 2026-10-26 📅 Créé 2021-03-18
35
google/yggdrasil-decision-forests

Une bibliothèque pour entraîner, évaluer, interpréter et mettre en production des modèles de forêts de décision tels que Random Forest et Gradient Boosted Decision Trees.

google
⭐ 680 C++ 👤 google Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

Exemples de techniques pour entraîner des modèles ML interprétables, expliquer des modèles ML et déboguer des modèles ML en termes de précision, discrimination et sécurité.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 Mis à jour 2024-06-17 📅 Créé 2018-03-14
37
tensorflow/tcav

Code pour le projet d'interprétabilité ML TCAV

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 Mis à jour 2026-07-22 📅 Créé 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 Analyse de sentiment basée sur les aspects : Transformer & ML explicable (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 Mis à jour 2026-09-07 📅 Créé 2020-01-08
39
BCG-X-Official/facet

IA explicable par l'homme.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 Mis à jour 2026-10-28 📅 Créé 2020-08-05

Foire aux questions

1

Quel est le dépôt #interpretability le plus populaire sur GitHub ?

Le projet #interpretability open source le mieux classé sur GitHub est shap/shap, avec 25,883 étoiles. Une approche de la théorie des jeux pour expliquer la sortie de tout modèle d'apprentissage automatique

2

Quels langages de programmation sont les plus utilisés dans les dépôts #interpretability ?

Parmi les projets #interpretability les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, C++, TypeScript.

3

Comment le classement des dépôts #interpretability est-il calculé ?

Nous suivons 39 dépôts open source actifs associés à #interpretability (500+ étoiles), totalisant 134,415 étoiles, avec une moyenne de 3,446 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.