Git Stars Git Stars

#interpretability 仓库

探索 39 个标记为 #interpretability 的活跃开源 GitHub 仓库,它们累计获得 134,415 个 Star(平均每个项目 3,446 个)。该主题的领先项目是 shap/shap,拥有 25,883 个 Star。

39
仓库总数
134,415
总星标数
3,446
平均每个仓库星标数
1
shap/shap

一种博弈论方法来解释任何机器学习模型的输出

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 已更新 2026-11-20 📅 创建时间 2016-11-22
2
EthicalML/awesome-production-machine-learning

精选的开源库列表,用于部署、监控、版本管理和扩展您的机器学习

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 已更新 2026-11-12 📅 创建时间 2018-08-15
3
KindXiaoming/pykan

柯尔莫哥洛夫-阿诺尔德网络

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 已更新 2025-01-19 📅 创建时间 2024-04-27
4
jacobgil/pytorch-grad-cam

计算机视觉的高级 AI 可解释性。支持 CNN、Vision Transformers、分类、对象检测、分割、图像相似性等。

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 已更新 2026-11-01 📅 创建时间 2017-05-31
5
interpretml/interpret

拟合可解释模型。解释黑箱机器学习。

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 已更新 2026-11-16 📅 创建时间 2019-05-03
6
meta-pytorch/captum

PyTorch 的模型可解释性和理解

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 已更新 2026-11-19 📅 创建时间 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

精选的优秀负责任机器学习资源列表。

jphall663
⭐ 4,088 👤 jphall663 User 🕐 已更新 2026-06-03 📅 创建时间 2018-06-21
8
MAIF/shapash

🔅 Shapash: 用户友好的可解释性和可理解性,以开发可靠且透明的机器学习模型

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 已更新 2026-11-16 📅 创建时间 2020-04-29
9
stellargraph/stellargraph

StellarGraph - 图上的机器学习

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 已更新 2024-04-10 📅 创建时间 2018-04-13
10
SeldonIO/alibi

解释机器学习模型的算法

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 已更新 2025-10-17 📅 创建时间 2019-02-26
11
frgfm/torch-cam

用于 PyTorch 模型的类激活映射 (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 已更新 2026-11-20 📅 创建时间 2020-03-23
12
lyramakesmusic/neuron-explorer

面向 Qwen3.5-4B 的引导优先神经元探索器:推动每个 MLP 神经元,保留每次推演结果,浏览探索成果

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 已更新 2026-11-02 📅 创建时间 2026-10-21
13
google-deepmind/penzai

用于构建、编辑和可视化神经网络的 JAX 研究工具包。

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 已更新 2025-06-22 📅 创建时间 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox 是一套工具,提供模型和数据探索与评估的用户界面和库,能够帮助更好地理解 AI 系统。这些界面和库使 AI 系统的开发人员和相关方能够更负责任地开发和监控 AI,并采取更明智的数据驱动行动。

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 已更新 2026-11-21 📅 创建时间 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

关于可解释人工智能/机器学习的研究资料集

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 已更新 2026-08-19 📅 创建时间 2020-02-16
16
csinva/imodels

可解释的 ML 包 🔍 用于简洁、透明和准确的预测建模(兼容 sklearn)。

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 已更新 2026-11-13 📅 创建时间 2019-07-04
17
stanfordnlp/pyreft

Stanford NLP Python 库,用于表示微调 (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 已更新 2026-03-05 📅 创建时间 2024-02-17
18
ModelOriented/DALEX

模型无关的探索与解释语言

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 已更新 2026-07-15 📅 创建时间 2018-02-18
19
albermax/innvestigate

一个用于 iNNvestigate 神经网络预测的工具箱!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 已更新 2025-04-11 📅 创建时间 2017-12-13
20
EthicalML/xai

XAI - 一个用于机器学习的可解释性工具箱

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 已更新 2025-11-29 📅 创建时间 2019-01-11
21
hijohnnylin/neuronpedia

开源可解释性平台 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 已更新 2026-11-21 📅 创建时间 2023-06-21
22
ndif-team/nnsight

nnsight 包允许解释和操作深度学习模型的内部结构。

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-10-20
23
sicara/tf-explain

使用 TensorFlow 2.x 的 tf.keras 模型的可解释性方法

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 已更新 2024-06-03 📅 创建时间 2019-07-15
25
stanfordnlp/pyvene

用于通过干预来理解和改进 PyTorch 模型的 Stanford NLP Python 库

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 已更新 2026-03-06 📅 创建时间 2023-02-06
26
shubhomoydas/ad_examples

一系列异常检测方法(iid/基于点的、图和时间序列)的集合,包括用于异常检测/发现的主动学习、贝叶斯规则挖掘、多样性/解释/可解释性的描述。将标签反馈与集成和基于树的检测器结合的分析。包括使用图卷积网络的对抗攻击。

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 已更新 2024-05-22 📅 创建时间 2017-11-03
27
divagr18/qwenputer

一台编译进语言模型权重中的计算机。在 Qwen3.5-4B 内部运行的精确 CPU,以 Gated DeltaNet 状态作为 RAM。

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 已更新 2026-11-19 📅 创建时间 2026-10-19
28
mmschlk/shapiq

用于机器学习的 Shapley 值与 Shapley 交互

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 已更新 2026-11-20 📅 创建时间 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

深度学习近年来关于神经网络模型解释性的相关高引用/顶会论文(附带代码)

oneTaken
⭐ 762 👤 oneTaken User 🕐 已更新 2024-04-08 📅 创建时间 2020-01-01
30
deel-ai/xplique

👋 Xplique是一个神经网络可解释性工具箱

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 已更新 2026-11-06 📅 创建时间 2020-04-05
31
johnmarktaylor91/torchlens

检查、可视化并干预任意神经网络中的任何操作。无需更改模型代码,即可捕获每个激活值和梯度、完整计算图以及 800 多个元数据字段。支持 PyTorch、JAX、TensorFlow、MLX、PaddlePaddle 和 tinygrad。已在 6,400 多个模型上验证。专为研究人员及其 AI 智能体打造。

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 已更新 2026-11-17 📅 创建时间 2022-10-14
32
kmeng01/rome

在GPT中定位和编辑事实关联 ( bulunur 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 已更新 2024-04-20 📅 创建时间 2022-02-11
33
tensorflow/decision-forests

Keras 中用于训练、服务和解释决策森林模型的最新算法集合。

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 已更新 2026-05-19 📅 创建时间 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus 是一个用于负责任地评估神经网络解释的可解释 AI 工具包

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 已更新 2026-10-26 📅 创建时间 2021-03-18
35
google/yggdrasil-decision-forests

用于训练、评估、解释和生产决策森林模型(如随机森林和梯度提升决策树)的库。

google
⭐ 680 C++ 👤 google Organization 🕐 已更新 2026-11-20 📅 创建时间 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

训练可解释 ML 模型、解释 ML 模型以及针对准确性、歧视性和安全性的调试 ML 模型的技术示例。

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 已更新 2024-06-17 📅 创建时间 2018-03-14
37
tensorflow/tcav

TCAV ML 可解释性项目的代码

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 已更新 2026-07-22 📅 创建时间 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 基于方面的情感分析:Transformer & 可解释 ML (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 已更新 2026-09-07 📅 创建时间 2020-01-08
39
BCG-X-Official/facet

人类可解释的人工智能。

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 已更新 2026-10-28 📅 创建时间 2020-08-05

常见问题解答

1

GitHub 上最受欢迎的 #interpretability 仓库是什么?

GitHub 上排名第一的开源 #interpretability 项目是 shap/shap,拥有 25,883 个 Star。一种博弈论方法来解释任何机器学习模型的输出

2

#interpretability 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #interpretability 项目中,最常见的编程语言是 Python, Jupyter Notebook, C++, TypeScript。

3

#interpretability 仓库的排名是如何计算的?

我们跟踪了 39 个标记为 #interpretability 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 134,415 个 Star,平均每个仓库拥有 3,446 个 Star。排名每日根据 GitHub API 更新。