#interpretability Repositories
Entdecke 39 aktive Open-Source-GitHub-Repositories, die mit #interpretability getaggt sind und insgesamt 134,415 Sterne gesammelt haben (durchschnittlich 3,446 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist shap/shap mit 25,883 Sternen.
Insgesamt 39 Repositories
Ein spieltheoretischer Ansatz zur Erklärung der Ausgabe beliebiger maschineller Lernmodelle
Eine kuratierte Liste toller Open-Source-Bibliotheken zum Bereitstellen, Überwachen, Versionieren und Skalieren Ihres Machine Learning
Erweiterte KI-Erklärbarkeit für Computer Vision. Unterstützung für CNNs, Vision Transformers, Klassifikation, Objekterkennung, Segmentierung, Bildähnlichkeit und mehr.
Passen Sie interpretierbare Modelle an. Erklären Sie Blackbox-Machine-Learning.
Eine kuratierte Liste toller verantwortungsvoller Machine-Learning-Ressourcen.
🔅 Shapash: Benutzerfreundliche Erklärbarkeit und Interpretierbarkeit zur Entwicklung zuverlässiger und transparenter Machine-Learning-Modelle
Klassenaktivierungskarten für Ihre PyTorch-Modelle (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Steuerungsorientierter Neuronen-Explorer für Qwen3.5-4B: Jede MLP-Neurone ansteuern, jeden Durchlauf speichern und die Ergebnisse erkunden
Ein JAX-Toolkit für das Erstellen, Bearbeiten und Visualisieren von neuronalen Netzen.
Die Responsible AI Toolbox ist eine Suite von Tools, die Benutzeroberflächen und Bibliotheken für die Modell- und Datenexploration und -bewertung bereitstellt und ein besseres Verständnis von KI-Systemen ermöglicht. Diese Benutzeroberflächen und Bibliotheken befähigen Entwickler und Stakeholder von KI-Systemen, KI verantwortungsvoller zu entwickeln und zu überwachen und bessere datengesteuerte Maßnahmen zu ergreifen.
Eine Sammlung von Forschungsmaterialien zu erklärbarer KI/ML
Interpretabler ML-Paket 🔍 für knappe, transparente und genaue prädiktive Modellierung (sklearn-kompatibel).
Ein Toolbox, um Vorhersagen neuronaler Netze mit iNNvestigate zu untersuchen!
Das nnsight-Paket ermöglicht die Interpretation und Manipulation der Interna von tief gelernten Modellen.
Stanford NLP Python-Bibliothek zum Verstehen und Verbessern von PyTorch-Modellen durch Interventionen
Eine Sammlung von Anomalie-Erkennungsmethoden (iid/punktbasiert, Graph und Zeitreihen), einschließlich Active Learning für Anomalie-Erkennung/Entdeckung, bayessches Regel-Mining, Beschreibung für Diversität/Erklärung/Interpretierbarkeit. Analyse der Integration von Label-Feedback mit Ensemble- und baumbasierten Detektoren. Beinhaltet adversariale Angriffe mit Graph Convolutional Network.
Ein Computer, kompiliert in die Gewichte eines Sprachmodells. Eine exakte CPU in Qwen3.5-4B, mit dem Gated-DeltaNet-Zustand als RAM.
Neueste hochzitierte/Top-Konferenz-Papiere zur Erklärbarkeit von neuronalen Netzwerkmodellen im Deep Learning (mit Code)
Untersuchen, visualisieren und beeinflussen Sie jede Operation in jedem neuronalen Netzwerk. Erfassen Sie jede Aktivierung und jeden Gradienten, den vollständigen Berechnungsgraphen und über 800 Metadatenfelder, ohne den Modellcode zu ändern. Unterstützt PyTorch, JAX, TensorFlow, MLX, PaddlePaddle und tinygrad. An über 6.400 Modellen validiert. Entwickelt für Forschende und ihre KI-Agenten.
Eine Sammlung von Algorithmen auf dem neuesten Stand der Technik für das Training, die Bereitstellung und die Interpretation von Decision Forest-Modellen in Keras.
[JMLR 2023] Quantus ist ein Toolkit für erklärbare KI zur verantwortungsvollen Bewertung von Erklärungen neuronaler Netze
Eine Bibliothek zum Trainieren, Bewerten, Interpretieren und Produzieren von Entscheidungsforstmodellen wie Random Forest und Gradient Boosted Decision Trees.
Beispiele für Techniken zum Trainieren interpretierbarer ML-Modelle, Erklären von ML-Modellen und Debuggen von ML-Modellen hinsichtlich Genauigkeit, Diskriminierung und Sicherheit.
💭 Aspektbasierte Sentiment-Analyse: Transformer & Erklärbares ML (TensorFlow)
Häufig gestellte Fragen
Welches ist das beliebteste #interpretability-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#interpretability-Projekt auf GitHub ist shap/shap mit 25,883 Sternen. Ein spieltheoretischer Ansatz zur Erklärung der Ausgabe beliebiger maschineller Lernmodelle
Welche Programmiersprachen werden in #interpretability-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #interpretability-Projekten auf GitHub sind Python, Jupyter Notebook, C++, TypeScript die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #interpretability-Repositories berechnet?
Wir verfolgen 39 aktive Open-Source-Repositories, die mit #interpretability getaggt sind (500+ Sterne), mit insgesamt 134,415 Sternen und durchschnittlich 3,446 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.