#interpretability Repository
Scopri 39 repository GitHub open source attivi contrassegnati con #interpretability, che raccolgono un totale di 134,415 stelle (con una media di 3,446 stelle per progetto). Il progetto leader di questo argomento è shap/shap, con 25,883 stelle.
39 repository in totale
Un approccio di teoria dei giochi per spiegare l'output di qualsiasi modello di machine learning
Una lista curata di eccellenti librerie open source per implementare, monitorare, versionare e scalare il tuo machine learning
Spiegabilità avanzata dell'IA per la visione artificiale. Supporto per CNN, Vision Transformers, Classificazione, Rilevamento oggetti, Segmentazione, Similarità di immagini e altro.
Una lista curata di risorse fantastiche per il machine learning responsabile.
🔅 Shapash: Spiegabilità e Interpretabilità User-Friendly per Sviluppare Modelli di Machine Learning Affidabili e Trasparenti
Mappe di attivazione di classe per i tuoi modelli PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Esploratore di neuroni orientato prima di tutto alla guida per Qwen3.5-4B: attiva ogni neurone MLP, conserva ogni generazione ed esplora i risultati
Un toolkit di ricerca JAX per la creazione, la modifica e la visualizzazione di reti neurali.
Responsible AI Toolbox è una suite di strumenti che fornisce interfacce utente e librerie per l'esplorazione e la valutazione di modelli e dati, consentendo una migliore comprensione dei sistemi di intelligenza artificiale. Queste interfacce e librerie consentono a sviluppatori e stakeholder di sistemi di intelligenza artificiale di sviluppare e monitorare l'IA in modo più responsabile e di intraprendere migliori azioni basate sui dati.
Una raccolta di materiali di ricerca sull'IA/ML spiegabile
Pacchetto ML interpretabile 🔍 per modellazione predittiva concisa, trasparente e accurata (compatibile con sklearn).
Libreria Python di Stanford NLP per il Finetuning della Rappresentazione (ReFT)
Il pacchetto nnsight consente di interpretare e manipolare gli interni dei modelli di apprendimento profondo.
Libreria Python Stanford NLP per comprendere e migliorare i modelli PyTorch tramite interventi
Una collezione di metodi di rilevamento anomalie (iid/basati su punti, grafo e serie temporali) inclusi apprendimento attivo per rilevamento/scoperta anomalie, estrazione regole bayesiana, descrizione per diversità/spiegazione/interpretabilità. Analisi dell'incorporazione di feedback etichette con rilevatori ensemble e basati su alberi. Include attacchi avversari con Graph Convolutional Network.
Un computer compilato nei pesi di un modello linguistico. Una CPU esatta all’interno di Qwen3.5-4B, con lo stato di Gated DeltaNet come RAM.
Articoli recenti ad alta citazione/conferenze top sull'interpretabilità dei modelli di reti neurali nel deep learning (con codice)
Ispeziona, visualizza e intervieni su qualsiasi operazione in qualsiasi rete neurale. Acquisisci ogni attivazione e gradiente, l’intero grafo computazionale e oltre 800 campi di metadati, senza modificare il codice del modello. Supporta PyTorch, JAX, TensorFlow, MLX, PaddlePaddle e tinygrad. Convalidato su oltre 6.400 modelli. Creato per i ricercatori e i loro agenti IA.
Una raccolta di algoritmi all'avanguardia per l'addestramento, il serving e l'interpretazione dei modelli Decision Forest in Keras.
[JMLR 2023] Quantus è un toolkit di IA spiegabile per la valutazione responsabile delle spiegazioni delle reti neurali
Una libreria per addestrare, valutare, interpretare e mettere in produzione modelli di foreste decisionali come Random Forest e Gradient Boosted Decision Trees.
Esempi di tecniche per addestrare modelli ML interpretabili, spiegare modelli ML e debuggare modelli ML per accuratezza, discriminazione e sicurezza.
💭 Analisi del Sentimento Basata sugli Aspetti: Transformer & ML Spiegabile (TensorFlow)
Domande frequenti
Qual è il repository #interpretability più popolare su GitHub?
Il progetto open source #interpretability più alto in classifica su GitHub è shap/shap, con 25,883 stelle. Un approccio di teoria dei giochi per spiegare l'output di qualsiasi modello di machine learning
Quali linguaggi di programmazione sono più utilizzati nei repository #interpretability?
Tra i progetti #interpretability più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, C++, TypeScript.
Come viene calcolata la classifica dei repository #interpretability?
Monitoriamo 39 repository open source attivi contrassegnati con #interpretability (500+ stelle), per un totale di 134,415 stelle e una media di 3,446 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.