Git Stars Git Stars

#interpretability リポジトリ

#interpretabilityのタグが付いた、GitHub上の39件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は134,415個で、プロジェクトあたりの平均は3,446個です。このトピックをリードしているのは、25,883個のスターを獲得しているshap/shapです。

39
リポジトリ総数
134,415
合計スター数
3,446
リポジトリあたりの平均スター数

リポジトリ合計39件

1
shap/shap

任意の機械学習モデルの出力結果を説明するためのゲーム理論的アプローチ

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 更新日時 2026-11-20 📅 作成日 2016-11-22
2
EthicalML/awesome-production-machine-learning

機械学習をデプロイ、監視、バージョン管理、スケーリングするための素晴らしいオープンソースライブラリのキュレーションされたリスト

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 更新日時 2026-11-12 📅 作成日 2018-08-15
3
KindXiaoming/pykan

コルモゴロフ・アーノルド・ネットワーク

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 更新日時 2025-01-19 📅 作成日 2024-04-27
4
jacobgil/pytorch-grad-cam

コンピュータビジョン向け先進的な AI 説明可能性。CNN、Vision Transformers、分類、物体検出、セグメンテーション、画像類似性などに対応。

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 更新日時 2026-11-01 📅 作成日 2017-05-31
5
interpretml/interpret

解釈可能なモデルをフィットさせます。ブラックボックス機械学習を説明します。

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 更新日時 2026-11-16 📅 作成日 2019-05-03
6
meta-pytorch/captum

PyTorchのためのモデルの解釈可能性と理解

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 更新日時 2026-11-19 📅 作成日 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

素晴らしい責任ある機械学習リソースのキュレーションされたリスト。

jphall663
⭐ 4,088 👤 jphall663 User 🕐 更新日時 2026-06-03 📅 作成日 2018-06-21
8
MAIF/shapash

🔅 Shapash: 信頼性が高く透明な機械学習モデルを開発するためのユーザーフレンドリーな説明可能性および解釈可能性

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 更新日時 2026-11-16 📅 作成日 2020-04-29
9
stellargraph/stellargraph

StellarGraph - グラフ上での機械学習

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 更新日時 2024-04-10 📅 作成日 2018-04-13
10
SeldonIO/alibi

機械学習モデルの説明のためのアルゴリズム

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 更新日時 2025-10-17 📅 作成日 2019-02-26
11
frgfm/torch-cam

PyTorchモデル用のクラス活性化マップ (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 更新日時 2026-11-20 📅 作成日 2020-03-23
12
lyramakesmusic/neuron-explorer

Qwen3.5-4B向けのステアリング優先ニューロンエクスプローラー:すべてのMLPニューロンを刺激し、すべての生成結果を保存して、結果を閲覧

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 更新日時 2026-11-02 📅 作成日 2026-10-21
13
google-deepmind/penzai

ニューラルネットワークの構築、編集、視覚化のための JAX リサーチツールキット。

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 更新日時 2025-06-22 📅 作成日 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox は、AI システムの理解を深めるためのモデルおよびデータ探索・評価のユーザーインターフェイスとライブラリを提供するツールのスイートです。これらのインターフェイスとライブラリにより、AI システムの開発者と関係者は、AI をより責任を持って開発および監視し、データに基づいたより良い行動をとることができます。

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 更新日時 2026-11-21 📅 作成日 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

説明可能なAI/MLに関する研究資料のコレクション

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 更新日時 2026-08-19 📅 作成日 2020-02-16
16
csinva/imodels

簡潔で透明性が高く正確な予測モデリングのための解釈可能な ML パッケージ 🔍 (sklearn 互換)。

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 更新日時 2026-11-13 📅 作成日 2019-07-04
17
stanfordnlp/pyreft

Stanford NLP Python ライブラリ、Representation Finetuning (ReFT) 用

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 更新日時 2026-03-05 📅 作成日 2024-02-17
18
ModelOriented/DALEX

モデルに依存しない探索と説明のための言語

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 更新日時 2026-07-15 📅 作成日 2018-02-18
19
albermax/innvestigate

ニューラルネットワークの予測をiNNvestigateするためのツールボックス!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 更新日時 2025-04-11 📅 作成日 2017-12-13
20
EthicalML/xai

XAI - 機械学習のためのeXplainability(説明可能性)ツールボックス

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 更新日時 2025-11-29 📅 作成日 2019-01-11
21
hijohnnylin/neuronpedia

オープンソースの解釈性プラットフォーム 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 更新日時 2026-11-21 📅 作成日 2023-06-21
22
ndif-team/nnsight

nnsight パッケージは、ディープラーニングモデルの内部を解釈および操作することを可能にします。

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 更新日時 2026-11-21 📅 作成日 2023-10-20
23
sicara/tf-explain

TensorFlow 2.x を使用した tf.keras モデルの解釈可能性手法

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 更新日時 2024-06-03 📅 作成日 2019-07-15
25
stanfordnlp/pyvene

介入によるPyTorchモデルの理解と改善のためのStanford NLP Pythonライブラリ

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 更新日時 2026-03-06 📅 作成日 2023-02-06
26
shubhomoydas/ad_examples

異常検出手法のコレクション(iid/ポイントベース、グラフおよび時系列)で、異常検出/発見のためのアクティブ・ラーニング、ベイズルールマイニング、多様性/説明/解釈可能性のための記述を含む。アンサンブルおよびツリーベースの検出器にラベルフィードバックを組み込む分析。Graph Convolutional Network を用いた敵対的攻撃を含む。

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 更新日時 2024-05-22 📅 作成日 2017-11-03
27
divagr18/qwenputer

言語モデルの重みにコンパイルされたコンピューター。Qwen3.5-4Bの内部にある正確なCPUで、Gated DeltaNetの状態をRAMとして使用します。

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 更新日時 2026-11-19 📅 作成日 2026-10-19
28
mmschlk/shapiq

機械学習のためのシャプレー値とシャプレー相互作用

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 更新日時 2026-11-20 📅 作成日 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

深層学習におけるニューラルネットワークモデル解釈性に関する近年高引用/トップ会議論文(コード付き)

oneTaken
⭐ 762 👤 oneTaken User 🕐 更新日時 2024-04-08 📅 作成日 2020-01-01
30
deel-ai/xplique

👋 Xpliqueはニューラルネットワークの解釈可能性ツールボックスです

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 更新日時 2026-11-06 📅 作成日 2020-04-05
31
johnmarktaylor91/torchlens

あらゆるニューラルネットワークのあらゆる演算を検査、可視化、介入できます。モデルのコードを変更することなく、すべての活性化値と勾配、完全な計算グラフ、800 以上のメタデータ項目を取得できます。PyTorch、JAX、TensorFlow、MLX、PaddlePaddle、tinygrad に対応。6,400 以上のモデルで検証済み。研究者とその AI エージェントのために開発されました。

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 更新日時 2026-11-17 📅 作成日 2022-10-14
32
kmeng01/rome

GPTにおける事実関連性の特定と編集 (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 更新日時 2024-04-20 📅 作成日 2022-02-11
33
tensorflow/decision-forests

KerasにおけるDecision Forestモデルのトレーニング、サービング、解釈のための最先端アルゴリズムのコレクション。

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 更新日時 2026-05-19 📅 作成日 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantusは、ニューラルネットワークの解釈を責任を持って評価するための説明可能なAIツールキットです

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 更新日時 2026-10-26 📅 作成日 2021-03-18
35
google/yggdrasil-decision-forests

Random ForestやGradient Boosted Decision Treesなどの決定木モデルをトレーニング、評価、解釈、および本番運用するためのライブラリ。

google
⭐ 680 C++ 👤 google Organization 🕐 更新日時 2026-11-20 📅 作成日 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

解釈可能な ML モデルのトレーニング、ML モデルの説明、および精度、差別、安全性に関する ML モデルのデバッグのための技術の例。

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 更新日時 2024-06-17 📅 作成日 2018-03-14
37
tensorflow/tcav

TCAV ML 解釈可能性プロジェクトのコード

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 更新日時 2026-07-22 📅 作成日 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 アスペクトベースの感情分析: Transformer & 説明可能 ML (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 更新日時 2026-09-07 📅 作成日 2020-01-08
39
BCG-X-Official/facet

人間が説明できるAI。

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 更新日時 2026-10-28 📅 作成日 2020-08-05

よくある質問

1

GitHubで最も人気のある#interpretabilityリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#interpretabilityプロジェクトは、25,883個のスターを獲得しているshap/shapです。任意の機械学習モデルの出力結果を説明するためのゲーム理論的アプローチ

2

#interpretabilityリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#interpretabilityプロジェクトでは、Python, Jupyter Notebook, C++, TypeScriptが最も一般的なプログラミング言語です。

3

#interpretabilityリポジトリのランキングはどのように算出されていますか?

#interpretabilityのタグが付いた39件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は134,415個で、リポジトリあたりの平均は3,446個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。