Git Stars Git Stars

#interpretability 저장소

#interpretability 태그가 지정된 GitHub의 활성 오픈 소스 저장소 39개를 확인해 보세요. 총 134,415개의 스타를 획득했으며 프로젝트당 평균 3,446개입니다. 이 주제를 이끄는 저장소는 25,883개의 스타를 받은 shap/shap입니다.

39
총 리포지토리
134,415
총 별점
3,446
리포지토리당 평균 스타 수

저장소 총 39개

1
shap/shap

어떤 머신러닝 모델의 출력 결과를 설명하기 위한 게임 이론적 접근

shap
⭐ 25,883 Jupyter Notebook 👤 shap Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2016-11-22
2
EthicalML/awesome-production-machine-learning

기계 학습을 배포, 모니터링, 버전 관리 및 확장하기 위한 훌륭한 오픈 소스 라이브러리들의 큐레이션된 목록

EthicalML
⭐ 21,121 👤 EthicalML Organization 🕐 업데이트됨 2026-11-12 📅 생성됨 2018-08-15
3
KindXiaoming/pykan

콜모고로프 아놀드 네트워크

KindXiaoming
⭐ 16,291 Jupyter Notebook 👤 KindXiaoming User 🕐 업데이트됨 2025-01-19 📅 생성됨 2024-04-27
4
jacobgil/pytorch-grad-cam

컴퓨터 비전용 고급 AI 설명 가능성. CNN, Vision Transformers, 분류, 객체 탐지, 세그멘테이션, 이미지 유사성 등 지원.

jacobgil
⭐ 13,014 Python 👤 jacobgil User 🕐 업데이트됨 2026-11-01 📅 생성됨 2017-05-31
5
interpretml/interpret

해석 가능한 모델을 적합하세요. 블랙박스 머신러닝을 설명하세요.

interpretml
⭐ 6,986 C++ 👤 interpretml Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2019-05-03
6
meta-pytorch/captum

PyTorch를 위한 모델 해석 가능성 및 이해

meta-pytorch
⭐ 5,723 Python 👤 meta-pytorch Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2019-08-27
7
jphall663/awesome-machine-learning-interpretability

훌륭한 책임 있는 머신러닝 자원의 선별된 목록.

jphall663
⭐ 4,088 👤 jphall663 User 🕐 업데이트됨 2026-06-03 📅 생성됨 2018-06-21
8
MAIF/shapash

🔅 Shapash: 신뢰할 수 있고 투명한 머신러닝 모델 개발을 위한 사용자 친화적인 설명 가능성 및 해석 가능성

MAIF
⭐ 3,297 Jupyter Notebook 👤 MAIF Organization 🕐 업데이트됨 2026-11-16 📅 생성됨 2020-04-29
9
stellargraph/stellargraph

StellarGraph - 그래프에서의 머신러닝

stellargraph
⭐ 3,044 Python 👤 stellargraph Organization 🕐 업데이트됨 2024-04-10 📅 생성됨 2018-04-13
10
SeldonIO/alibi

기계 학습 모델을 설명하기 위한 알고리즘

SeldonIO
⭐ 2,648 Python 👤 SeldonIO Organization 🕐 업데이트됨 2025-10-17 📅 생성됨 2019-02-26
11
frgfm/torch-cam

PyTorch 모델을 위한 클래스 활성화 맵 (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

frgfm
⭐ 2,302 Python 👤 frgfm User 🕐 업데이트됨 2026-11-20 📅 생성됨 2020-03-23
12
lyramakesmusic/neuron-explorer

Qwen3.5-4B용 스티어링 우선 뉴런 탐색기: 모든 MLP 뉴런을 활성화하고, 모든 롤아웃을 보존하며, 결과를 살펴보세요

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 업데이트됨 2026-11-02 📅 생성됨 2026-10-21
13
google-deepmind/penzai

신경망을 구축, 편집 및 시각화하기 위한 JAX 연구 툴킷입니다.

google-deepmind
⭐ 1,894 Python 👤 google-deepmind Organization 🕐 업데이트됨 2025-06-22 📅 생성됨 2024-04-04
14
microsoft/responsible-ai-toolbox

Responsible AI Toolbox는 AI 시스템에 대한 이해를 높이는 모델 및 데이터 탐색 및 평가 사용자 인터페이스와 라이브러리를 제공하는 도구 모음입니다. 이러한 인터페이스와 라이브러리를 통해 AI 시스템의 개발자와 이해 관계자는 AI를 보다 책임감 있게 개발하고 모니터링하며 데이터 기반의 더 나은 조치를 취할 수 있습니다.

microsoft
⭐ 1,858 TypeScript 👤 microsoft Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2020-07-06
15
wangyongjie-ntu/Awesome-explainable-AI

설명 가능한 AI/ML에 대한 연구 자료 모음

wangyongjie-ntu
⭐ 1,660 Markdown 👤 wangyongjie-ntu User 🕐 업데이트됨 2026-08-19 📅 생성됨 2020-02-16
16
csinva/imodels

간결하고 투명하며 정확한 예측 모델링을 위한 해석 가능한 ML 패키지 🔍 (sklearn 호환).

csinva
⭐ 1,631 Jupyter Notebook 👤 csinva User 🕐 업데이트됨 2026-11-13 📅 생성됨 2019-07-04
17
stanfordnlp/pyreft

Representation Finetuning (ReFT)을 위한 Stanford NLP Python 라이브러리

stanfordnlp
⭐ 1,592 Python 👤 stanfordnlp Organization 🕐 업데이트됨 2026-03-05 📅 생성됨 2024-02-17
18
ModelOriented/DALEX

모델에 구애받지 않는 탐색 및 설명 언어

ModelOriented
⭐ 1,489 Python 👤 ModelOriented Organization 🕐 업데이트됨 2026-07-15 📅 생성됨 2018-02-18
19
albermax/innvestigate

신경망 예측을 iNNvestigate하는 툴박스!

albermax
⭐ 1,305 Python 👤 albermax User 🕐 업데이트됨 2025-04-11 📅 생성됨 2017-12-13
20
EthicalML/xai

XAI - 머신러닝(기계 학습)을 위한 eXplainability (설명 가능성) 도구 상자

EthicalML
⭐ 1,270 Python 👤 EthicalML Organization 🕐 업데이트됨 2025-11-29 📅 생성됨 2019-01-11
21
hijohnnylin/neuronpedia

오픈 소스 해석 가능성 플랫폼 🧠

hijohnnylin
⭐ 1,225 TypeScript 👤 hijohnnylin User 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-06-21
22
ndif-team/nnsight

nnsight 패키지를 사용하면 딥 러닝 모델의 내부를 해석하고 조작할 수 있습니다.

ndif-team
⭐ 1,152 Python 👤 ndif-team Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-10-20
23
sicara/tf-explain

TensorFlow 2.x를 사용한 tf.keras 모델의 해석 가능성 방법

sicara
⭐ 1,036 Python 👤 sicara Organization 🕐 업데이트됨 2024-06-03 📅 생성됨 2019-07-15
25
stanfordnlp/pyvene

개입을 통한 PyTorch 모델 이해 및 개선을 위한 Stanford NLP Python 라이브러리

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 업데이트됨 2026-03-06 📅 생성됨 2023-02-06
26
shubhomoydas/ad_examples

이상 탐지 방법들의 집합 (iid/포인트 기반, 그래프 및 시계열)으로, 이상 탐지/발견을 위한 능동 학습, 베이지안 규칙 마이닝, 다양성/설명/해석성을 위한 설명을 포함합니다. 앙상블 및 트리 기반 탐지기에 라벨 피드백을 통합하는 분석. 그래프 컨볼루션 네트워크를 사용한 적대적 공격을 포함합니다.

shubhomoydas
⭐ 870 Python 👤 shubhomoydas User 🕐 업데이트됨 2024-05-22 📅 생성됨 2017-11-03
27
divagr18/qwenputer

언어 모델의 가중치에 컴파일된 컴퓨터. Qwen3.5-4B 내부의 정확한 CPU이며, Gated DeltaNet 상태를 RAM으로 사용합니다.

divagr18
⭐ 840 Python 👤 divagr18 User 🕐 업데이트됨 2026-11-19 📅 생성됨 2026-10-19
28
mmschlk/shapiq

머신 러닝을 위한 샤플리 값과 샤플리 상호작용

mmschlk
⭐ 797 Python 👤 mmschlk User 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-10-17
29
oneTaken/awesome_deep_learning_interpretability

딥러닝 최근 신경망 모델의 설명 가능성 관련 고인용/탑 컨퍼런스 논문(코드 첨부)

oneTaken
⭐ 762 👤 oneTaken User 🕐 업데이트됨 2024-04-08 📅 생성됨 2020-01-01
30
deel-ai/xplique

👋 Xplique는 신경망 설명 가능성 툴박스입니다

deel-ai
⭐ 761 Python 👤 deel-ai Organization 🕐 업데이트됨 2026-11-06 📅 생성됨 2020-04-05
31
johnmarktaylor91/torchlens

모든 신경망의 모든 연산을 검사하고 시각화하며 개입할 수 있습니다. 모델 코드를 변경하지 않고 모든 활성값과 그래디언트, 전체 계산 그래프, 800개 이상의 메타데이터 필드를 캡처합니다. PyTorch, JAX, TensorFlow, MLX, PaddlePaddle, tinygrad를 지원합니다. 6,400개 이상의 모델에서 검증되었습니다. 연구자와 AI 에이전트를 위해 개발되었습니다.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 업데이트됨 2026-11-17 📅 생성됨 2022-10-14
32
kmeng01/rome

GPT에서의 사실 연관성 탐색 및 편집 (NeurIPS 2022)

kmeng01
⭐ 713 Python 👤 kmeng01 User 🕐 업데이트됨 2024-04-20 📅 생성됨 2022-02-11
33
tensorflow/decision-forests

Keras에서 Decision Forest 모델의 학습, 서빙 및 해석을 위한 최신 알고리즘 모음입니다.

tensorflow
⭐ 693 Python 👤 tensorflow Organization 🕐 업데이트됨 2026-05-19 📅 생성됨 2021-04-22
34
understandable-machine-intelligence-lab/Quantus

[JMLR 2023] Quantus는 신경망 설명을 책임감 있게 평가하기 위한 설명 가능한 AI 툴킷입니다

understandable-machine-intelligence-lab
⭐ 682 Jupyter Notebook 👤 understandable-machine-intelligence-lab Organization 🕐 업데이트됨 2026-10-26 📅 생성됨 2021-03-18
35
google/yggdrasil-decision-forests

Random Forest 및 Gradient Boosted Decision Trees와 같은 결정 트리 모델을 훈련, 평가, 해석 및 프로덕션화하기 위한 라이브러리입니다.

google
⭐ 680 C++ 👤 google Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2021-04-22
36
jphall663/interpretable_machine_learning_with_python

해석 가능한 ML 모델 훈련, ML 모델 설명 및 정확성, 차별, 보안에 대한 ML 모델 디버깅을 위한 기술 예시.

jphall663
⭐ 679 Jupyter Notebook 👤 jphall663 User 🕐 업데이트됨 2024-06-17 📅 생성됨 2018-03-14
37
tensorflow/tcav

TCAV ML 해석성 프로젝트를 위한 코드

tensorflow
⭐ 653 Jupyter Notebook 👤 tensorflow Organization 🕐 업데이트됨 2026-07-22 📅 생성됨 2018-07-03
38
ScalaConsultants/Aspect-Based-Sentiment-Analysis

💭 측면 기반 감정 분석: Transformer & 설명 가능한 ML (TensorFlow)

ScalaConsultants
⭐ 585 Python 👤 ScalaConsultants Organization 🕐 업데이트됨 2026-09-07 📅 생성됨 2020-01-08
39
BCG-X-Official/facet

인간 설명 가능 AI.

BCG-X-Official
⭐ 533 Jupyter Notebook 👤 BCG-X-Official Organization 🕐 업데이트됨 2026-10-28 📅 생성됨 2020-08-05

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #interpretability 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #interpretability 프로젝트는 25,883개의 스타를 받은 shap/shap입니다. 어떤 머신러닝 모델의 출력 결과를 설명하기 위한 게임 이론적 접근

2

#interpretability 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #interpretability 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, C++, TypeScript입니다.

3

#interpretability 저장소 순위는 어떻게 계산되나요?

#interpretability 태그가 지정된 활성 오픈 소스 저장소(39개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 134,415개이며 저장소당 평균 3,446개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.