#interpretability 저장소
#interpretability 태그가 지정된 GitHub의 활성 오픈 소스 저장소 39개를 확인해 보세요. 총 134,415개의 스타를 획득했으며 프로젝트당 평균 3,446개입니다. 이 주제를 이끄는 저장소는 25,883개의 스타를 받은 shap/shap입니다.
저장소 총 39개
기계 학습을 배포, 모니터링, 버전 관리 및 확장하기 위한 훌륭한 오픈 소스 라이브러리들의 큐레이션된 목록
컴퓨터 비전용 고급 AI 설명 가능성. CNN, Vision Transformers, 분류, 객체 탐지, 세그멘테이션, 이미지 유사성 등 지원.
PyTorch 모델을 위한 클래스 활성화 맵 (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Qwen3.5-4B용 스티어링 우선 뉴런 탐색기: 모든 MLP 뉴런을 활성화하고, 모든 롤아웃을 보존하며, 결과를 살펴보세요
Responsible AI Toolbox는 AI 시스템에 대한 이해를 높이는 모델 및 데이터 탐색 및 평가 사용자 인터페이스와 라이브러리를 제공하는 도구 모음입니다. 이러한 인터페이스와 라이브러리를 통해 AI 시스템의 개발자와 이해 관계자는 AI를 보다 책임감 있게 개발하고 모니터링하며 데이터 기반의 더 나은 조치를 취할 수 있습니다.
이상 탐지 방법들의 집합 (iid/포인트 기반, 그래프 및 시계열)으로, 이상 탐지/발견을 위한 능동 학습, 베이지안 규칙 마이닝, 다양성/설명/해석성을 위한 설명을 포함합니다. 앙상블 및 트리 기반 탐지기에 라벨 피드백을 통합하는 분석. 그래프 컨볼루션 네트워크를 사용한 적대적 공격을 포함합니다.
언어 모델의 가중치에 컴파일된 컴퓨터. Qwen3.5-4B 내부의 정확한 CPU이며, Gated DeltaNet 상태를 RAM으로 사용합니다.
모든 신경망의 모든 연산을 검사하고 시각화하며 개입할 수 있습니다. 모델 코드를 변경하지 않고 모든 활성값과 그래디언트, 전체 계산 그래프, 800개 이상의 메타데이터 필드를 캡처합니다. PyTorch, JAX, TensorFlow, MLX, PaddlePaddle, tinygrad를 지원합니다. 6,400개 이상의 모델에서 검증되었습니다. 연구자와 AI 에이전트를 위해 개발되었습니다.
[JMLR 2023] Quantus는 신경망 설명을 책임감 있게 평가하기 위한 설명 가능한 AI 툴킷입니다
Random Forest 및 Gradient Boosted Decision Trees와 같은 결정 트리 모델을 훈련, 평가, 해석 및 프로덕션화하기 위한 라이브러리입니다.
해석 가능한 ML 모델 훈련, ML 모델 설명 및 정확성, 차별, 보안에 대한 ML 모델 디버깅을 위한 기술 예시.
💭 측면 기반 감정 분석: Transformer & 설명 가능한 ML (TensorFlow)
자주 묻는 질문
GitHub에서 가장 인기 있는 #interpretability 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #interpretability 프로젝트는 25,883개의 스타를 받은 shap/shap입니다. 어떤 머신러닝 모델의 출력 결과를 설명하기 위한 게임 이론적 접근
#interpretability 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #interpretability 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, C++, TypeScript입니다.
#interpretability 저장소 순위는 어떻게 계산되나요?
#interpretability 태그가 지정된 활성 오픈 소스 저장소(39개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 134,415개이며 저장소당 평균 3,446개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.