Git Stars Git Stars

#interpretability Репозитории

Откройте для себя 39 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #interpretability, с общим числом 134,415 звёзд (в среднем 3,446 на проект). Лидером этой темы является shap/shap, набравший 25,883 звёзд.

39
Всего репозиториев
134,415
Всего звезд
3,446
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook C++ TypeScript Markdown

Всего репозиториев: 39

1
shap/shap

Игнотеоретический подход к объяснению выхода любой модели машинного обучения

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 Обновлено 2026-11-20 📅 Создано 2016-11-22
2
EthicalML/awesome-production-machine-learning

Куратированный список отличных библиотек с открытым исходным кодом для развертывания, мониторинга, версионирования и масштабирования вашего машинного обучения

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 Обновлено 2026-11-12 📅 Создано 2018-08-15
3
KindXiaoming/pykan

Сети Колмогорова-Арнольда

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 Обновлено 2025-01-19 📅 Создано 2024-04-27
4
jacobgil/pytorch-grad-cam

Расширенная объяснимость ИИ для компьютерного зрения. Поддержка CNN, Vision Transformers, Классификация, Обнаружение объектов, Сегментация, Сходство изображений и многое другое.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 Обновлено 2026-11-01 📅 Создано 2017-05-31
5
interpretml/interpret

Подгоняйте интерпретируемые модели. Объясняйте чёрный ящик машинного обучения.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 Обновлено 2026-11-16 📅 Создано 2019-05-03
6
meta-pytorch/captum

Интерпретируемость и понимание модели для PyTorch

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 Обновлено 2026-11-19 📅 Создано 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

Куратированный список потрясающих ресурсов по ответственному машинному обучению.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 Обновлено 2026-06-03 📅 Создано 2018-06-21
8
MAIF/shapash

🔅 Shapash: Удобные для пользователя объяснимость и интерпретируемость для разработки надежных и прозрачных моделей машинного обучения

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 Обновлено 2026-11-16 📅 Создано 2020-04-29
9
stellargraph/stellargraph

StellarGraph - Машинное обучение на графах

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 Обновлено 2024-04-10 📅 Создано 2018-04-13
10
SeldonIO/alibi

Алгоритмы для объяснения моделей машинного обучения

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 Обновлено 2025-10-17 📅 Создано 2019-02-26
11
frgfm/torch-cam

Карты активации классов для ваших моделей PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 Обновлено 2026-11-20 📅 Создано 2020-03-23
12
lyramakesmusic/neuron-explorer

Исследователь нейронов с приоритетом управления для Qwen3.5-4B: активируйте каждый нейрон MLP, сохраняйте каждый прогон и изучайте результаты

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Обновлено 2026-11-02 📅 Создано 2026-10-21
13
google-deepmind/penzai

Инструментарий для исследований JAX для создания, редактирования и визуализации нейронных сетей.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 Обновлено 2025-06-22 📅 Создано 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox — это набор инструментов, предоставляющий пользовательские интерфейсы и библиотеки для исследования и оценки моделей и данных, которые позволяют лучше понимать системы ИИ. Эти интерфейсы и библиотеки позволяют разработчикам и заинтересованным сторонам систем ИИ более ответственно разрабатывать и контролировать ИИ, а также принимать более обоснованные решения на основе данных.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 Обновлено 2026-11-21 📅 Создано 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

Сборник исследовательских материалов по интерпретируемому ИИ/МО

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 Обновлено 2026-08-19 📅 Создано 2020-02-16
16
csinva/imodels

Интерпретируемый пакет ML 🔍 для краткого, прозрачного и точного предиктивного моделирования (совместим с sklearn).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 Обновлено 2026-11-13 📅 Создано 2019-07-04
17
stanfordnlp/pyreft

Python-библиотека Stanford NLP для дообучения представлений (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 Обновлено 2026-03-05 📅 Создано 2024-02-17
18
ModelOriented/DALEX

Модельно-агностический язык для исследования и объяснения

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 Обновлено 2026-07-15 📅 Создано 2018-02-18
19
albermax/innvestigate

Инструментарий для iNNvestigate предсказаний нейронных сетей!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 Обновлено 2025-04-11 📅 Создано 2017-12-13
20
EthicalML/xai

XAI — Набор инструментов eXplainability (объяснимости) для машинного обучения

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 Обновлено 2025-11-29 📅 Создано 2019-01-11
21
hijohnnylin/neuronpedia

Платформа с открытым исходным кодом для интерпретируемости 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 Обновлено 2026-11-21 📅 Создано 2023-06-21
22
ndif-team/nnsight

Пакет nnsight позволяет интерпретировать и манипулировать внутренними компонентами моделей глубокого обучения.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-10-20
23
sicara/tf-explain

Методы интерпретируемости для моделей tf.keras с TensorFlow 2.x

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 Обновлено 2024-06-03 📅 Создано 2019-07-15
24
RexYing/gnn-model-explainer

объяснитель gnn

RexYing
⭐ 1,019 Python 👤 RexYing User 🕐 Обновлено 2024-08-30 📅 Создано 2018-12-22
25
stanfordnlp/pyvene

Библиотека Python Stanford NLP для понимания и улучшения моделей PyTorch посредством вмешательств

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Обновлено 2026-03-06 📅 Создано 2023-02-06
26
shubhomoydas/ad_examples

Сборник методов обнаружения аномалий (iid/на основе точек, граф и временные ряды), включая активное обучение для обнаружения/открытия аномалий, байесовское извлечение правил, описание для разнообразия/объяснения/интерпретируемости. Анализ интеграции обратной связи по меткам с детекторами на основе ансамблей и деревьев. Включает adversarial атаки с Graph Convolutional Network.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 Обновлено 2024-05-22 📅 Создано 2017-11-03
27
divagr18/qwenputer

Компьютер, скомпилированный в веса языковой модели. Точная CPU внутри Qwen3.5-4B, где состояние Gated DeltaNet служит оперативной памятью.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 Обновлено 2026-11-19 📅 Создано 2026-10-19
28
mmschlk/shapiq

Значения Шепли и взаимодействия Шепли для машинного обучения

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 Обновлено 2026-11-20 📅 Создано 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

Недавние высокоцитируемые/ведущие конференции статьи по интерпретируемости моделей нейронных сетей в глубоком обучении (с кодом)

oneTaken
⭐ 762 👤 oneTaken User 🕐 Обновлено 2024-04-08 📅 Создано 2020-01-01
30
deel-ai/xplique

👋 Xplique — это инструмент для объяснения нейронных сетей

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 Обновлено 2026-11-06 📅 Создано 2020-04-05
31
johnmarktaylor91/torchlens

Изучайте, визуализируйте и вмешивайтесь в любые операции любой нейронной сети. Фиксируйте все активации и градиенты, полный граф вычислений и более 800 полей метаданных, не изменяя код модели. Поддерживает PyTorch, JAX, TensorFlow, MLX, PaddlePaddle и tinygrad. Проверено на более чем 6 400 моделях. Создано для исследователей и их ИИ-агентов.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Обновлено 2026-11-17 📅 Создано 2022-10-14
32
kmeng01/rome

Поиск и редактирование фактических ассоциаций в GPT (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 Обновлено 2024-04-20 📅 Создано 2022-02-11
33
tensorflow/decision-forests

Коллекция передовых алгоритмов для обучения, обслуживания и интерпретации моделей Decision Forest в Keras.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 Обновлено 2026-05-19 📅 Создано 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus — это инструментарий объяснимого ИИ для ответственной оценки объяснений нейронных сетей

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 Обновлено 2026-10-26 📅 Создано 2021-03-18
35
google/yggdrasil-decision-forests

Библиотека для обучения, оценки, интерпретации и внедрения в производство моделей деревьев решений, таких как Random Forest и Gradient Boosted Decision Trees.

google
⭐ 680 C++ 👤 google Organization 🕐 Обновлено 2026-11-20 📅 Создано 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

Примеры техник для обучения интерпретируемых моделей ML, объяснения моделей ML и отладки моделей ML на предмет точности, дискриминации и безопасности.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 Обновлено 2024-06-17 📅 Создано 2018-03-14
37
tensorflow/tcav

Код для проекта интерпретируемости TCAV в ML

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 Обновлено 2026-07-22 📅 Создано 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 Анализ тональности на основе аспектов: Transformer & Объяснимое МО (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 Обновлено 2026-09-07 📅 Создано 2020-01-08
39
BCG-X-Official/facet

Объяснимый для человека ИИ.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 Обновлено 2026-10-28 📅 Создано 2020-08-05

Часто задаваемые вопросы

1

Какой репозиторий по теме #interpretability наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #interpretability на GitHub — shap/shap, набравший 25,883 звёзд. Игнотеоретический подход к объяснению выхода любой модели машинного обучения

2

Какие языки программирования чаще всего используются в репозиториях по теме #interpretability?

Среди наиболее высоко оценённых проектов по теме #interpretability на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, C++, TypeScript.

3

Как рассчитывается рейтинг репозиториев по теме #interpretability?

Мы отслеживаем 39 активных репозиториев с открытым исходным кодом, отмеченных тегом #interpretability (500 и более звёзд), с общим числом 134,415 звёзд и в среднем 3,446 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.