Git Stars Git Stars

#interpretability Repositórios

Descubra 39 repositórios ativos de código aberto no GitHub marcados com #interpretability, acumulando um total de 134,415 estrelas (uma média de 3,446 por projeto). O líder deste tópico é shap/shap, com 25,883 estrelas.

39
Total de Repositórios
134,415
Total de estrelas
3,446
Média de Estrelas/Repositório

39 repositórios no total

1
shap/shap

Uma abordagem da teoria dos jogos para explicar a saída de qualquer modelo de aprendizado de máquina.

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 Atualizado 2026-11-20 📅 Criado 2016-11-22
2
EthicalML/awesome-production-machine-learning

Uma lista selecionada de bibliotecas open source incríveis para implantar, monitorar, versionar e escalar seu aprendizado de máquina

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 Atualizado 2026-11-12 📅 Criado 2018-08-15
3
KindXiaoming/pykan

Redes de Kolmogorov Arnold

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 Atualizado 2025-01-19 📅 Criado 2024-04-27
4
jacobgil/pytorch-grad-cam

Explicabilidade avançada de IA para visão computacional. Suporte para CNNs, Vision Transformers, Classificação, Detecção de objetos, Segmentação, Similaridade de imagem e muito mais.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 Atualizado 2026-11-01 📅 Criado 2017-05-31
5
interpretml/interpret

Ajuste modelos interpretáveis. Explique aprendizado de máquina de caixa preta.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 Atualizado 2026-11-16 📅 Criado 2019-05-03
6
meta-pytorch/captum

Interpretabilidade e compreensão de modelos para PyTorch

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 Atualizado 2026-11-19 📅 Criado 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

Uma lista selecionada de recursos incríveis de aprendizado de máquina responsável.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 Atualizado 2026-06-03 📅 Criado 2018-06-21
8
MAIF/shapash

🔅 Shapash: Explicabilidade e Interpretabilidade Amigáveis ao Usuário para Desenvolver Modelos de Aprendizado de Máquina Confiáveis e Transparentes

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 Atualizado 2026-11-16 📅 Criado 2020-04-29
9
stellargraph/stellargraph

StellarGraph - Aprendizado de Máquina em Grafos

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 Atualizado 2024-04-10 📅 Criado 2018-04-13
10
SeldonIO/alibi

Algoritmos para explicar modelos de aprendizado de máquina

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 Atualizado 2025-10-17 📅 Criado 2019-02-26
11
frgfm/torch-cam

Mapas de ativação de classe para seus modelos PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 Atualizado 2026-11-20 📅 Criado 2020-03-23
12
lyramakesmusic/neuron-explorer

Explorador de neurônios com foco primeiro na direção para Qwen3.5-4B: estimule cada neurônio MLP, mantenha cada execução e explore os resultados

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Atualizado 2026-11-02 📅 Criado 2026-10-21
13
google-deepmind/penzai

Um kit de ferramentas de pesquisa JAX para construir, editar e visualizar redes neurais.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 Atualizado 2025-06-22 📅 Criado 2024-04-04
14
microsoft/responsible-ai-toolbox

A Responsible AI Toolbox é um conjunto de ferramentas que fornece interfaces de usuário e bibliotecas para exploração e avaliação de modelos e dados, permitindo uma melhor compreensão dos sistemas de IA. Essas interfaces e bibliotecas capacitam desenvolvedores e partes interessadas de sistemas de IA a desenvolver e monitorar a IA de forma mais responsável e a tomar ações mais orientadas por dados.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 Atualizado 2026-11-21 📅 Criado 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

Uma coleção de materiais de pesquisa sobre IA/ML explicável

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 Atualizado 2026-08-19 📅 Criado 2020-02-16
16
csinva/imodels

Pacote de ML Interpretável 🔍 para modelagem preditiva concisa, transparente e precisa (compatível com sklearn).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 Atualizado 2026-11-13 📅 Criado 2019-07-04
17
stanfordnlp/pyreft

Stanford NLP Python library for Representation Finetuning (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 Atualizado 2026-03-05 📅 Criado 2024-02-17
18
ModelOriented/DALEX

Linguagem Agnostic de Modelo para Exploração e Explicação

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 Atualizado 2026-07-15 📅 Criado 2018-02-18
19
albermax/innvestigate

Uma caixa de ferramentas para investigar as previsões de redes neurais!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 Atualizado 2025-04-11 📅 Criado 2017-12-13
20
EthicalML/xai

XAI - Uma caixa de ferramentas de eXplicabilidade para aprendizado de máquina

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 Atualizado 2025-11-29 📅 Criado 2019-01-11
21
hijohnnylin/neuronpedia

Plataforma de código aberto para interpretabilidade 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 Atualizado 2026-11-21 📅 Criado 2023-06-21
22
ndif-team/nnsight

O pacote nnsight permite interpretar e manipular os internos de modelos de aprendizado profundo.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 Atualizado 2026-11-21 📅 Criado 2023-10-20
23
sicara/tf-explain

Métodos de Interpretabilidade para modelos tf.keras com Tensorflow 2.x

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 Atualizado 2024-06-03 📅 Criado 2019-07-15
25
stanfordnlp/pyvene

Biblioteca Python de Processamento de Linguagem Natural de Stanford para entender e melhorar modelos PyTorch por meio de intervenções

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Atualizado 2026-03-06 📅 Criado 2023-02-06
26
shubhomoydas/ad_examples

Uma coleção de métodos de detecção de anomalias (iid/baseados em pontos, grafos e séries temporais), incluindo aprendizado ativo para detecção/descoberta de anomalias, mineração de regras bayesianas, descrição para diversidade/explicação/interpretabilidade. Análise da incorporação de feedback de rótulos com detectores baseados em ensemble e em árvores. Inclui ataques adversariais com Redes Neurais Convolucionais de Grafos.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 Atualizado 2024-05-22 📅 Criado 2017-11-03
27
divagr18/qwenputer

Um computador compilado nos pesos de um modelo de linguagem. Uma CPU exata dentro do Qwen3.5-4B, com o estado do Gated DeltaNet como RAM.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 Atualizado 2026-11-19 📅 Criado 2026-10-19
28
mmschlk/shapiq

Valores de Shapley e interações de Shapley para aprendizado de máquina

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 Atualizado 2026-11-20 📅 Criado 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

Artigos altamente citados/de conferências importantes sobre a interpretabilidade de modelos de redes neurais em aprendizado profundo nos últimos anos (com código incluído)

oneTaken
⭐ 762 👤 oneTaken User 🕐 Atualizado 2024-04-08 📅 Criado 2020-01-01
30
deel-ai/xplique

👋 Xplique é uma Caixa de Ferramentas de Explicabilidade de Redes Neurais

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 Atualizado 2026-11-06 📅 Criado 2020-04-05
31
johnmarktaylor91/torchlens

Inspecione, visualize e intervenha em qualquer operação de qualquer rede neural. Capture todas as ativações e gradientes, o grafo computacional completo e mais de 800 campos de metadados, sem alterar o código do modelo. Compatível com PyTorch, JAX, TensorFlow, MLX, PaddlePaddle e tinygrad. Validado em mais de 6.400 modelos. Desenvolvido para pesquisadores e seus agentes de IA.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Atualizado 2026-11-17 📅 Criado 2022-10-14
32
kmeng01/rome

Localização e edição de associações factuais em GPT (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 Atualizado 2024-04-20 📅 Criado 2022-02-11
33
tensorflow/decision-forests

Uma coleção de algoritmos de ponta para o treinamento, serviço e interpretação de modelos de Floresta de Decisão no Keras.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 Atualizado 2026-05-19 📅 Criado 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus é um kit de ferramentas de IA explicável para a avaliação responsável de explicações de redes neurais

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 Atualizado 2026-10-26 📅 Criado 2021-03-18
35
google/yggdrasil-decision-forests

Uma biblioteca para treinar, avaliar, interpretar e colocar em produção modelos de florestas de decisão, como Random Forest e Gradient Boosted Decision Trees.

google
⭐ 680 C++ 👤 google Organization 🕐 Atualizado 2026-11-20 📅 Criado 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

Exemplos de técnicas para treinar modelos de ML interpretáveis, explicar modelos de ML e depurar modelos de ML quanto à precisão, discriminação e segurança.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 Atualizado 2024-06-17 📅 Criado 2018-03-14
37
tensorflow/tcav

Código para o projeto de interpretabilidade de ML do TCAV

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 Atualizado 2026-07-22 📅 Criado 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 Análise de Sentimento Baseada em Aspectos: Transformer & ML Explicável (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 Atualizado 2026-09-07 📅 Criado 2020-01-08
39
BCG-X-Official/facet

IA explicável por humanos.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 Atualizado 2026-10-28 📅 Criado 2020-08-05

Perguntas Frequentes

1

Qual é o repositório de #interpretability mais popular no GitHub?

O projeto de código aberto de #interpretability mais bem classificado no GitHub é shap/shap, com 25,883 estrelas. Uma abordagem da teoria dos jogos para explicar a saída de qualquer modelo de aprendizado de máquina.

2

Quais linguagens de programação são mais usadas nos repositórios de #interpretability?

Entre os projetos de #interpretability mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, C++, TypeScript.

3

Como é calculada a classificação dos repositórios de #interpretability?

Acompanhamos 39 repositórios ativos de código aberto marcados com #interpretability (com mais de 500 estrelas), totalizando 134,415 estrelas e uma média de 3,446 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.