Git Stars Git Stars

#interpretability Repositories

Entdecke 39 aktive Open-Source-GitHub-Repositories, die mit #interpretability getaggt sind und insgesamt 134,415 Sterne gesammelt haben (durchschnittlich 3,446 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist shap/shap mit 25,883 Sternen.

39
Gesamtzahl der Repositories
134,415
Gesamtanzahl der Sterne
3,446
Durchschnittliche Sterne/Repo

Insgesamt 39 Repositories

1
shap/shap

Ein spieltheoretischer Ansatz zur Erklärung der Ausgabe beliebiger maschineller Lernmodelle

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2016-11-22
2
EthicalML/awesome-production-machine-learning

Eine kuratierte Liste toller Open-Source-Bibliotheken zum Bereitstellen, Überwachen, Versionieren und Skalieren Ihres Machine Learning

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 Aktualisiert 2026-11-12 📅 Erstellt 2018-08-15
3
KindXiaoming/pykan

Kolmogorov Arnold Netzwerke

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 Aktualisiert 2025-01-19 📅 Erstellt 2024-04-27
4
jacobgil/pytorch-grad-cam

Erweiterte KI-Erklärbarkeit für Computer Vision. Unterstützung für CNNs, Vision Transformers, Klassifikation, Objekterkennung, Segmentierung, Bildähnlichkeit und mehr.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 Aktualisiert 2026-11-01 📅 Erstellt 2017-05-31
5
interpretml/interpret

Passen Sie interpretierbare Modelle an. Erklären Sie Blackbox-Machine-Learning.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2019-05-03
6
meta-pytorch/captum

Modell-Interpretierbarkeit und -Verständnis für PyTorch

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

Eine kuratierte Liste toller verantwortungsvoller Machine-Learning-Ressourcen.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 Aktualisiert 2026-06-03 📅 Erstellt 2018-06-21
8
MAIF/shapash

🔅 Shapash: Benutzerfreundliche Erklärbarkeit und Interpretierbarkeit zur Entwicklung zuverlässiger und transparenter Machine-Learning-Modelle

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2020-04-29
9
stellargraph/stellargraph

StellarGraph - Machine Learning auf Graphen

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 Aktualisiert 2024-04-10 📅 Erstellt 2018-04-13
10
SeldonIO/alibi

Algorithmen zur Erklärung von Machine-Learning-Modellen

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 Aktualisiert 2025-10-17 📅 Erstellt 2019-02-26
11
frgfm/torch-cam

Klassenaktivierungskarten für Ihre PyTorch-Modelle (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2020-03-23
12
lyramakesmusic/neuron-explorer

Steuerungsorientierter Neuronen-Explorer für Qwen3.5-4B: Jede MLP-Neurone ansteuern, jeden Durchlauf speichern und die Ergebnisse erkunden

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Aktualisiert 2026-11-02 📅 Erstellt 2026-10-21
13
google-deepmind/penzai

Ein JAX-Toolkit für das Erstellen, Bearbeiten und Visualisieren von neuronalen Netzen.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 Aktualisiert 2025-06-22 📅 Erstellt 2024-04-04
14
microsoft/responsible-ai-toolbox

Die Responsible AI Toolbox ist eine Suite von Tools, die Benutzeroberflächen und Bibliotheken für die Modell- und Datenexploration und -bewertung bereitstellt und ein besseres Verständnis von KI-Systemen ermöglicht. Diese Benutzeroberflächen und Bibliotheken befähigen Entwickler und Stakeholder von KI-Systemen, KI verantwortungsvoller zu entwickeln und zu überwachen und bessere datengesteuerte Maßnahmen zu ergreifen.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

Eine Sammlung von Forschungsmaterialien zu erklärbarer KI/ML

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 Aktualisiert 2026-08-19 📅 Erstellt 2020-02-16
16
csinva/imodels

Interpretabler ML-Paket 🔍 für knappe, transparente und genaue prädiktive Modellierung (sklearn-kompatibel).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 Aktualisiert 2026-11-13 📅 Erstellt 2019-07-04
17
stanfordnlp/pyreft

Stanford NLP Python-Bibliothek für Representation Finetuning (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 Aktualisiert 2026-03-05 📅 Erstellt 2024-02-17
18
ModelOriented/DALEX

Modellunabhängige Sprache zur Exploration und Erklärung

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 Aktualisiert 2026-07-15 📅 Erstellt 2018-02-18
19
albermax/innvestigate

Ein Toolbox, um Vorhersagen neuronaler Netze mit iNNvestigate zu untersuchen!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 Aktualisiert 2025-04-11 📅 Erstellt 2017-12-13
20
EthicalML/xai

XAI - Eine eXplainability-Toolbox für maschinelles Lernen

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 Aktualisiert 2025-11-29 📅 Erstellt 2019-01-11
21
hijohnnylin/neuronpedia

Open-Source-Plattform für Interpretierbarkeit 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-06-21
22
ndif-team/nnsight

Das nnsight-Paket ermöglicht die Interpretation und Manipulation der Interna von tief gelernten Modellen.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-10-20
23
sicara/tf-explain

Interpretierbarkeitsmethoden für tf.keras-Modelle mit TensorFlow 2.x

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 Aktualisiert 2024-06-03 📅 Erstellt 2019-07-15
25
stanfordnlp/pyvene

Stanford NLP Python-Bibliothek zum Verstehen und Verbessern von PyTorch-Modellen durch Interventionen

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Aktualisiert 2026-03-06 📅 Erstellt 2023-02-06
26
shubhomoydas/ad_examples

Eine Sammlung von Anomalie-Erkennungsmethoden (iid/punktbasiert, Graph und Zeitreihen), einschließlich Active Learning für Anomalie-Erkennung/Entdeckung, bayessches Regel-Mining, Beschreibung für Diversität/Erklärung/Interpretierbarkeit. Analyse der Integration von Label-Feedback mit Ensemble- und baumbasierten Detektoren. Beinhaltet adversariale Angriffe mit Graph Convolutional Network.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 Aktualisiert 2024-05-22 📅 Erstellt 2017-11-03
27
divagr18/qwenputer

Ein Computer, kompiliert in die Gewichte eines Sprachmodells. Eine exakte CPU in Qwen3.5-4B, mit dem Gated-DeltaNet-Zustand als RAM.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-10-19
28
mmschlk/shapiq

Shapley-Werte und Shapley-Interaktionen für maschinelles Lernen

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

Neueste hochzitierte/Top-Konferenz-Papiere zur Erklärbarkeit von neuronalen Netzwerkmodellen im Deep Learning (mit Code)

oneTaken
⭐ 762 👤 oneTaken User 🕐 Aktualisiert 2024-04-08 📅 Erstellt 2020-01-01
30
deel-ai/xplique

👋 Xplique ist eine Toolbox zur Erklärbarkeit von neuronalen Netzen

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 Aktualisiert 2026-11-06 📅 Erstellt 2020-04-05
31
johnmarktaylor91/torchlens

Untersuchen, visualisieren und beeinflussen Sie jede Operation in jedem neuronalen Netzwerk. Erfassen Sie jede Aktivierung und jeden Gradienten, den vollständigen Berechnungsgraphen und über 800 Metadatenfelder, ohne den Modellcode zu ändern. Unterstützt PyTorch, JAX, TensorFlow, MLX, PaddlePaddle und tinygrad. An über 6.400 Modellen validiert. Entwickelt für Forschende und ihre KI-Agenten.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2022-10-14
32
kmeng01/rome

Auffinden und Bearbeiten von Faktenassoziationen in GPT (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 Aktualisiert 2024-04-20 📅 Erstellt 2022-02-11
33
tensorflow/decision-forests

Eine Sammlung von Algorithmen auf dem neuesten Stand der Technik für das Training, die Bereitstellung und die Interpretation von Decision Forest-Modellen in Keras.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 Aktualisiert 2026-05-19 📅 Erstellt 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus ist ein Toolkit für erklärbare KI zur verantwortungsvollen Bewertung von Erklärungen neuronaler Netze

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 Aktualisiert 2026-10-26 📅 Erstellt 2021-03-18
35
google/yggdrasil-decision-forests

Eine Bibliothek zum Trainieren, Bewerten, Interpretieren und Produzieren von Entscheidungsforstmodellen wie Random Forest und Gradient Boosted Decision Trees.

google
⭐ 680 C++ 👤 google Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

Beispiele für Techniken zum Trainieren interpretierbarer ML-Modelle, Erklären von ML-Modellen und Debuggen von ML-Modellen hinsichtlich Genauigkeit, Diskriminierung und Sicherheit.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 Aktualisiert 2024-06-17 📅 Erstellt 2018-03-14
37
tensorflow/tcav

Code für das TCAV ML Interpretierbarkeitsprojekt

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 Aktualisiert 2026-07-22 📅 Erstellt 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 Aspektbasierte Sentiment-Analyse: Transformer & Erklärbares ML (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 Aktualisiert 2026-09-07 📅 Erstellt 2020-01-08
39
BCG-X-Official/facet

Für Menschen erklärbare KI.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 Aktualisiert 2026-10-28 📅 Erstellt 2020-08-05

Häufig gestellte Fragen

1

Welches ist das beliebteste #interpretability-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#interpretability-Projekt auf GitHub ist shap/shap mit 25,883 Sternen. Ein spieltheoretischer Ansatz zur Erklärung der Ausgabe beliebiger maschineller Lernmodelle

2

Welche Programmiersprachen werden in #interpretability-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #interpretability-Projekten auf GitHub sind Python, Jupyter Notebook, C++, TypeScript die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #interpretability-Repositories berechnet?

Wir verfolgen 39 aktive Open-Source-Repositories, die mit #interpretability getaggt sind (500+ Sterne), mit insgesamt 134,415 Sternen und durchschnittlich 3,446 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.