Git Stars Git Stars

#interpretability Repository

Scopri 39 repository GitHub open source attivi contrassegnati con #interpretability, che raccolgono un totale di 134,415 stelle (con una media di 3,446 stelle per progetto). Il progetto leader di questo argomento è shap/shap, con 25,883 stelle.

39
Totale Repository
134,415
Totale stelle
3,446
Media Stelle/Repo

39 repository in totale

1
shap/shap

Un approccio di teoria dei giochi per spiegare l'output di qualsiasi modello di machine learning

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2016-11-22
2
EthicalML/awesome-production-machine-learning

Una lista curata di eccellenti librerie open source per implementare, monitorare, versionare e scalare il tuo machine learning

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 Aggiornato 2026-11-12 📅 Creato 2018-08-15
3
KindXiaoming/pykan

Reti di Kolmogorov Arnold

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 Aggiornato 2025-01-19 📅 Creato 2024-04-27
4
jacobgil/pytorch-grad-cam

Spiegabilità avanzata dell'IA per la visione artificiale. Supporto per CNN, Vision Transformers, Classificazione, Rilevamento oggetti, Segmentazione, Similarità di immagini e altro.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 Aggiornato 2026-11-01 📅 Creato 2017-05-31
5
interpretml/interpret

Adatta modelli interpretabili. Spiega il machine learning blackbox.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2019-05-03
6
meta-pytorch/captum

Interpretabilità e comprensione del modello per PyTorch

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

Una lista curata di risorse fantastiche per il machine learning responsabile.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 Aggiornato 2026-06-03 📅 Creato 2018-06-21
8
MAIF/shapash

🔅 Shapash: Spiegabilità e Interpretabilità User-Friendly per Sviluppare Modelli di Machine Learning Affidabili e Trasparenti

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 Aggiornato 2026-11-16 📅 Creato 2020-04-29
9
stellargraph/stellargraph

StellarGraph - Machine Learning sui Grafi

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 Aggiornato 2024-04-10 📅 Creato 2018-04-13
10
SeldonIO/alibi

Algoritmi per spiegare modelli di machine learning

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 Aggiornato 2025-10-17 📅 Creato 2019-02-26
11
frgfm/torch-cam

Mappe di attivazione di classe per i tuoi modelli PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 Aggiornato 2026-11-20 📅 Creato 2020-03-23
12
lyramakesmusic/neuron-explorer

Esploratore di neuroni orientato prima di tutto alla guida per Qwen3.5-4B: attiva ogni neurone MLP, conserva ogni generazione ed esplora i risultati

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Aggiornato 2026-11-02 📅 Creato 2026-10-21
13
google-deepmind/penzai

Un toolkit di ricerca JAX per la creazione, la modifica e la visualizzazione di reti neurali.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 Aggiornato 2025-06-22 📅 Creato 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox è una suite di strumenti che fornisce interfacce utente e librerie per l'esplorazione e la valutazione di modelli e dati, consentendo una migliore comprensione dei sistemi di intelligenza artificiale. Queste interfacce e librerie consentono a sviluppatori e stakeholder di sistemi di intelligenza artificiale di sviluppare e monitorare l'IA in modo più responsabile e di intraprendere migliori azioni basate sui dati.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

Una raccolta di materiali di ricerca sull'IA/ML spiegabile

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 Aggiornato 2026-08-19 📅 Creato 2020-02-16
16
csinva/imodels

Pacchetto ML interpretabile 🔍 per modellazione predittiva concisa, trasparente e accurata (compatibile con sklearn).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 Aggiornato 2026-11-13 📅 Creato 2019-07-04
17
stanfordnlp/pyreft

Libreria Python di Stanford NLP per il Finetuning della Rappresentazione (ReFT)

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 Aggiornato 2026-03-05 📅 Creato 2024-02-17
18
ModelOriented/DALEX

Linguaggio Agnostico al Modello per l'Esplorazione e la Spiegazione

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 Aggiornato 2026-07-15 📅 Creato 2018-02-18
19
albermax/innvestigate

Un toolbox per iNNvestigare le predizioni delle reti neurali!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 Aggiornato 2025-04-11 📅 Creato 2017-12-13
20
EthicalML/xai

XAI - Una cassetta degli attrezzi di eXplicabilità per l'apprendimento automatico

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 Aggiornato 2025-11-29 📅 Creato 2019-01-11
21
hijohnnylin/neuronpedia

Piattaforma open source per l'interpretabilità 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 Aggiornato 2026-11-21 📅 Creato 2023-06-21
22
ndif-team/nnsight

Il pacchetto nnsight consente di interpretare e manipolare gli interni dei modelli di apprendimento profondo.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-10-20
23
sicara/tf-explain

Metodi di interpretabilità per modelli tf.keras con TensorFlow 2.x

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 Aggiornato 2024-06-03 📅 Creato 2019-07-15
25
stanfordnlp/pyvene

Libreria Python Stanford NLP per comprendere e migliorare i modelli PyTorch tramite interventi

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Aggiornato 2026-03-06 📅 Creato 2023-02-06
26
shubhomoydas/ad_examples

Una collezione di metodi di rilevamento anomalie (iid/basati su punti, grafo e serie temporali) inclusi apprendimento attivo per rilevamento/scoperta anomalie, estrazione regole bayesiana, descrizione per diversità/spiegazione/interpretabilità. Analisi dell'incorporazione di feedback etichette con rilevatori ensemble e basati su alberi. Include attacchi avversari con Graph Convolutional Network.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 Aggiornato 2024-05-22 📅 Creato 2017-11-03
27
divagr18/qwenputer

Un computer compilato nei pesi di un modello linguistico. Una CPU esatta all’interno di Qwen3.5-4B, con lo stato di Gated DeltaNet come RAM.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 Aggiornato 2026-11-19 📅 Creato 2026-10-19
28
mmschlk/shapiq

Valori di Shapley e interazioni di Shapley per l’apprendimento automatico

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 Aggiornato 2026-11-20 📅 Creato 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

Articoli recenti ad alta citazione/conferenze top sull'interpretabilità dei modelli di reti neurali nel deep learning (con codice)

oneTaken
⭐ 762 👤 oneTaken User 🕐 Aggiornato 2024-04-08 📅 Creato 2020-01-01
30
deel-ai/xplique

👋 Xplique è una toolbox per la spiegabilità delle reti neurali

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 Aggiornato 2026-11-06 📅 Creato 2020-04-05
31
johnmarktaylor91/torchlens

Ispeziona, visualizza e intervieni su qualsiasi operazione in qualsiasi rete neurale. Acquisisci ogni attivazione e gradiente, l’intero grafo computazionale e oltre 800 campi di metadati, senza modificare il codice del modello. Supporta PyTorch, JAX, TensorFlow, MLX, PaddlePaddle e tinygrad. Convalidato su oltre 6.400 modelli. Creato per i ricercatori e i loro agenti IA.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Aggiornato 2026-11-17 📅 Creato 2022-10-14
32
kmeng01/rome

Individuazione e modifica delle associazioni fattuali in GPT (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 Aggiornato 2024-04-20 📅 Creato 2022-02-11
33
tensorflow/decision-forests

Una raccolta di algoritmi all'avanguardia per l'addestramento, il serving e l'interpretazione dei modelli Decision Forest in Keras.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 Aggiornato 2026-05-19 📅 Creato 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus è un toolkit di IA spiegabile per la valutazione responsabile delle spiegazioni delle reti neurali

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 Aggiornato 2026-10-26 📅 Creato 2021-03-18
35
google/yggdrasil-decision-forests

Una libreria per addestrare, valutare, interpretare e mettere in produzione modelli di foreste decisionali come Random Forest e Gradient Boosted Decision Trees.

google
⭐ 680 C++ 👤 google Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

Esempi di tecniche per addestrare modelli ML interpretabili, spiegare modelli ML e debuggare modelli ML per accuratezza, discriminazione e sicurezza.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 Aggiornato 2024-06-17 📅 Creato 2018-03-14
37
tensorflow/tcav

Codice per il progetto di interpretabilità ML TCAV

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 Aggiornato 2026-07-22 📅 Creato 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 Analisi del Sentimento Basata sugli Aspetti: Transformer & ML Spiegabile (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 Aggiornato 2026-09-07 📅 Creato 2020-01-08
39
BCG-X-Official/facet

IA spiegabile agli umani.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 Aggiornato 2026-10-28 📅 Creato 2020-08-05

Domande frequenti

1

Qual è il repository #interpretability più popolare su GitHub?

Il progetto open source #interpretability più alto in classifica su GitHub è shap/shap, con 25,883 stelle. Un approccio di teoria dei giochi per spiegare l'output di qualsiasi modello di machine learning

2

Quali linguaggi di programmazione sono più utilizzati nei repository #interpretability?

Tra i progetti #interpretability più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, C++, TypeScript.

3

Come viene calcolata la classifica dei repository #interpretability?

Monitoriamo 39 repository open source attivi contrassegnati con #interpretability (500+ stelle), per un totale di 134,415 stelle e una media di 3,446 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.