#interpretability リポジトリ
#interpretabilityのタグが付いた、GitHub上の39件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は134,415個で、プロジェクトあたりの平均は3,446個です。このトピックをリードしているのは、25,883個のスターを獲得しているshap/shapです。
リポジトリ合計39件
機械学習をデプロイ、監視、バージョン管理、スケーリングするための素晴らしいオープンソースライブラリのキュレーションされたリスト
コンピュータビジョン向け先進的な AI 説明可能性。CNN、Vision Transformers、分類、物体検出、セグメンテーション、画像類似性などに対応。
PyTorchモデル用のクラス活性化マップ (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Qwen3.5-4B向けのステアリング優先ニューロンエクスプローラー:すべてのMLPニューロンを刺激し、すべての生成結果を保存して、結果を閲覧
Responsible AI Toolbox は、AI システムの理解を深めるためのモデルおよびデータ探索・評価のユーザーインターフェイスとライブラリを提供するツールのスイートです。これらのインターフェイスとライブラリにより、AI システムの開発者と関係者は、AI をより責任を持って開発および監視し、データに基づいたより良い行動をとることができます。
異常検出手法のコレクション(iid/ポイントベース、グラフおよび時系列)で、異常検出/発見のためのアクティブ・ラーニング、ベイズルールマイニング、多様性/説明/解釈可能性のための記述を含む。アンサンブルおよびツリーベースの検出器にラベルフィードバックを組み込む分析。Graph Convolutional Network を用いた敵対的攻撃を含む。
言語モデルの重みにコンパイルされたコンピューター。Qwen3.5-4Bの内部にある正確なCPUで、Gated DeltaNetの状態をRAMとして使用します。
深層学習におけるニューラルネットワークモデル解釈性に関する近年高引用/トップ会議論文(コード付き)
あらゆるニューラルネットワークのあらゆる演算を検査、可視化、介入できます。モデルのコードを変更することなく、すべての活性化値と勾配、完全な計算グラフ、800 以上のメタデータ項目を取得できます。PyTorch、JAX、TensorFlow、MLX、PaddlePaddle、tinygrad に対応。6,400 以上のモデルで検証済み。研究者とその AI エージェントのために開発されました。
[JMLR 2023] Quantusは、ニューラルネットワークの解釈を責任を持って評価するための説明可能なAIツールキットです
Random ForestやGradient Boosted Decision Treesなどの決定木モデルをトレーニング、評価、解釈、および本番運用するためのライブラリ。
解釈可能な ML モデルのトレーニング、ML モデルの説明、および精度、差別、安全性に関する ML モデルのデバッグのための技術の例。
💭 アスペクトベースの感情分析: Transformer & 説明可能 ML (TensorFlow)
よくある質問
GitHubで最も人気のある#interpretabilityリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#interpretabilityプロジェクトは、25,883個のスターを獲得しているshap/shapです。任意の機械学習モデルの出力結果を説明するためのゲーム理論的アプローチ
#interpretabilityリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#interpretabilityプロジェクトでは、Python, Jupyter Notebook, C++, TypeScriptが最も一般的なプログラミング言語です。
#interpretabilityリポジトリのランキングはどのように算出されていますか?
#interpretabilityのタグが付いた39件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は134,415個で、リポジトリあたりの平均は3,446個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。