Git Stars Git Stars

#interpretability Repositorios

Descubre 39 repositorios activos de código abierto de GitHub etiquetados con #interpretability, que acumulan 134,415 estrellas en total (una media de 3,446 estrellas por proyecto). El líder de este tema es shap/shap, con 25,883 estrellas.

39
Total de Repositorios
134,415
Total de estrellas
3,446
Promedio de Estrellas/Repo

39 repositorios en total

1
shap/shap

Un enfoque de la teoría de juegos para explicar la salida de cualquier modelo de aprendizaje automático

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 Actualizado 2026-11-20 📅 Creado 2016-11-22
2
EthicalML/awesome-production-machine-learning

Una lista curada de excelentes bibliotecas de código abierto para desplegar, monitorear, versionar y escalar tu machine learning

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 Actualizado 2026-11-12 📅 Creado 2018-08-15
3
KindXiaoming/pykan

Redes de Kolmogorov Arnold

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 Actualizado 2025-01-19 📅 Creado 2024-04-27
4
jacobgil/pytorch-grad-cam

Explicabilidad avanzada de IA para visión por computadora. Soporte para CNN, Vision Transformers, Clasificación, Detección de objetos, Segmentación, Similitud de imágenes y más.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 Actualizado 2026-11-01 📅 Creado 2017-05-31
5
interpretml/interpret

Ajusta modelos interpretables. Explica el aprendizaje automático de caja negra.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 Actualizado 2026-11-16 📅 Creado 2019-05-03
6
meta-pytorch/captum

Interpretabilidad y comprensión de modelos para PyTorch

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 Actualizado 2026-11-19 📅 Creado 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

Una lista curada de recursos increíbles de aprendizaje automático responsable.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 Actualizado 2026-06-03 📅 Creado 2018-06-21
8
MAIF/shapash

🔅 Shapash: Explicabilidad e Interpretabilidad Amigables para el Usuario para Desarrollar Modelos de Aprendizaje Automático Confiables y Transparentes

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 Actualizado 2026-11-16 📅 Creado 2020-04-29
9
stellargraph/stellargraph

StellarGraph - Aprendizaje Automático en Grafos

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 Actualizado 2024-04-10 📅 Creado 2018-04-13
10
SeldonIO/alibi

Algoritmos para explicar modelos de aprendizaje automático

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 Actualizado 2025-10-17 📅 Creado 2019-02-26
11
frgfm/torch-cam

Mapas de activación de clase para sus modelos de PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 Actualizado 2026-11-20 📅 Creado 2020-03-23
12
lyramakesmusic/neuron-explorer

Explorador de neuronas con enfoque prioritario en la dirección para Qwen3.5-4B: activa cada neurona MLP, conserva cada ejecución y explora los resultados

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Actualizado 2026-11-02 📅 Creado 2026-10-21
13
google-deepmind/penzai

Un kit de herramientas de investigación JAX para construir, editar y visualizar redes neuronales.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 Actualizado 2025-06-22 📅 Creado 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox es un conjunto de herramientas que proporciona interfaces de usuario y bibliotecas para la exploración y evaluación de modelos y datos que permiten una mejor comprensión de los sistemas de inteligencia artificial. Estas interfaces y bibliotecas permiten a los desarrolladores y partes interesadas de los sistemas de IA desarrollar y supervisar la IA de manera más responsable, y tomar mejores medidas basadas en datos.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 Actualizado 2026-11-21 📅 Creado 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

Una colección de materiales de investigación sobre IA/ML explicable

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 Actualizado 2026-08-19 📅 Creado 2020-02-16
16
csinva/imodels

Paquete de ML interpretable 🔍 para modelado predictivo conciso, transparente y preciso (compatible con sklearn).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 Actualizado 2026-11-13 📅 Creado 2019-07-04
17
stanfordnlp/pyreft

Biblioteca Python de Stanford NLP para el ajuste fino de la representación (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 Actualizado 2026-03-05 📅 Creado 2024-02-17
18
ModelOriented/DALEX

Lenguaje Agnostic del Modelo para la Exploración y Explicación

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 Actualizado 2026-07-15 📅 Creado 2018-02-18
19
albermax/innvestigate

¡Una caja de herramientas para iNNvestigar las predicciones de redes neuronales!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 Actualizado 2025-04-11 📅 Creado 2017-12-13
20
EthicalML/xai

XAI - Una caja de herramientas de eXplicabilidad para el aprendizaje automático

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 Actualizado 2025-11-29 📅 Creado 2019-01-11
21
hijohnnylin/neuronpedia

Plataforma de código abierto para la interpretabilidad 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 Actualizado 2026-11-21 📅 Creado 2023-06-21
22
ndif-team/nnsight

El paquete nnsight permite interpretar y manipular los elementos internos de los modelos de aprendizaje profundo.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 Actualizado 2026-11-21 📅 Creado 2023-10-20
23
sicara/tf-explain

Métodos de interpretabilidad para modelos tf.keras con TensorFlow 2.x

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 Actualizado 2024-06-03 📅 Creado 2019-07-15
25
stanfordnlp/pyvene

Biblioteca Python de Stanford NLP para comprender y mejorar modelos PyTorch a través de intervenciones

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Actualizado 2026-03-06 📅 Creado 2023-02-06
26
shubhomoydas/ad_examples

Una colección de métodos de detección de anomalías (iid/basados en puntos, grafo y series temporales) que incluye aprendizaje activo para detección/descubrimiento de anomalías, minería de reglas bayesianas, descripción para diversidad/explicación/interpretabilidad. Análisis de la incorporación de retroalimentación de etiquetas con detectores basados en ensemble y árboles. Incluye ataques adversarios con Graph Convolutional Network.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 Actualizado 2024-05-22 📅 Creado 2017-11-03
27
divagr18/qwenputer

Un ordenador compilado en los pesos de un modelo de lenguaje. Una CPU exacta dentro de Qwen3.5-4B, con el estado de Gated DeltaNet como RAM.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 Actualizado 2026-11-19 📅 Creado 2026-10-19
28
mmschlk/shapiq

Valores de Shapley e interacciones de Shapley para el aprendizaje automático

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 Actualizado 2026-11-20 📅 Creado 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

Artículos recientes de alta citación/conferencias top sobre la interpretabilidad de modelos de redes neuronales en aprendizaje profundo (con código)

oneTaken
⭐ 762 👤 oneTaken User 🕐 Actualizado 2024-04-08 📅 Creado 2020-01-01
30
deel-ai/xplique

👋 Xplique es una caja de herramientas para la explicabilidad de redes neuronales

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 Actualizado 2026-11-06 📅 Creado 2020-04-05
31
johnmarktaylor91/torchlens

Inspecciona, visualiza e intervén en cualquier operación de cualquier red neuronal. Captura todas las activaciones y gradientes, el grafo computacional completo y más de 800 campos de metadatos, sin cambiar el código del modelo. Compatible con PyTorch, JAX, TensorFlow, MLX, PaddlePaddle y tinygrad. Validado en más de 6.400 modelos. Creado para investigadores y sus agentes de IA.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Actualizado 2026-11-17 📅 Creado 2022-10-14
32
kmeng01/rome

Localización y edición de asociaciones fácticas en GPT (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 Actualizado 2024-04-20 📅 Creado 2022-02-11
33
tensorflow/decision-forests

Una colección de algoritmos de última generación para el entrenamiento, servicio e interpretación de modelos de Decision Forest en Keras.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 Actualizado 2026-05-19 📅 Creado 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus es un kit de herramientas de IA explicable para la evaluación responsable de las explicaciones de redes neuronales

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 Actualizado 2026-10-26 📅 Creado 2021-03-18
35
google/yggdrasil-decision-forests

Una biblioteca para entrenar, evaluar, interpretar y producir modelos de bosques de decisión como Random Forest y Gradient Boosted Decision Trees.

google
⭐ 680 C++ 👤 google Organization 🕐 Actualizado 2026-11-20 📅 Creado 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

Ejemplos de técnicas para entrenar modelos ML interpretables, explicar modelos ML y depurar modelos ML en términos de precisión, discriminación y seguridad.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 Actualizado 2024-06-17 📅 Creado 2018-03-14
37
tensorflow/tcav

Código para el proyecto de interpretabilidad TCAV de ML

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 Actualizado 2026-07-22 📅 Creado 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 Análisis de Sentimiento Basado en Aspectos: Transformer & ML Explicable (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 Actualizado 2026-09-07 📅 Creado 2020-01-08
39
BCG-X-Official/facet

IA explicable por humanos.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 Actualizado 2026-10-28 📅 Creado 2020-08-05

Preguntas frecuentes

1

¿Cuál es el repositorio de #interpretability más popular en GitHub?

El proyecto de código abierto de #interpretability mejor posicionado en GitHub es shap/shap, con 25,883 estrellas. Un enfoque de la teoría de juegos para explicar la salida de cualquier modelo de aprendizaje automático

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #interpretability?

Entre los proyectos de #interpretability mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, C++, TypeScript.

3

¿Cómo se calcula la clasificación de los repositorios de #interpretability?

Seguimos 39 repositorios activos de código abierto etiquetados con #interpretability (500+ estrellas), que suman un total de 134,415 estrellas, con una media de 3,446 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.