#interpretability Repositórios
Descubra 39 repositórios ativos de código aberto no GitHub marcados com #interpretability, acumulando um total de 134,415 estrelas (uma média de 3,446 por projeto). O líder deste tópico é shap/shap, com 25,883 estrelas.
39 repositórios no total
Uma abordagem da teoria dos jogos para explicar a saída de qualquer modelo de aprendizado de máquina.
Uma lista selecionada de bibliotecas open source incríveis para implantar, monitorar, versionar e escalar seu aprendizado de máquina
Explicabilidade avançada de IA para visão computacional. Suporte para CNNs, Vision Transformers, Classificação, Detecção de objetos, Segmentação, Similaridade de imagem e muito mais.
Ajuste modelos interpretáveis. Explique aprendizado de máquina de caixa preta.
Uma lista selecionada de recursos incríveis de aprendizado de máquina responsável.
🔅 Shapash: Explicabilidade e Interpretabilidade Amigáveis ao Usuário para Desenvolver Modelos de Aprendizado de Máquina Confiáveis e Transparentes
Mapas de ativação de classe para seus modelos PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Explorador de neurônios com foco primeiro na direção para Qwen3.5-4B: estimule cada neurônio MLP, mantenha cada execução e explore os resultados
Um kit de ferramentas de pesquisa JAX para construir, editar e visualizar redes neurais.
A Responsible AI Toolbox é um conjunto de ferramentas que fornece interfaces de usuário e bibliotecas para exploração e avaliação de modelos e dados, permitindo uma melhor compreensão dos sistemas de IA. Essas interfaces e bibliotecas capacitam desenvolvedores e partes interessadas de sistemas de IA a desenvolver e monitorar a IA de forma mais responsável e a tomar ações mais orientadas por dados.
Uma coleção de materiais de pesquisa sobre IA/ML explicável
Pacote de ML Interpretável 🔍 para modelagem preditiva concisa, transparente e precisa (compatível com sklearn).
O pacote nnsight permite interpretar e manipular os internos de modelos de aprendizado profundo.
Biblioteca Python de Processamento de Linguagem Natural de Stanford para entender e melhorar modelos PyTorch por meio de intervenções
Uma coleção de métodos de detecção de anomalias (iid/baseados em pontos, grafos e séries temporais), incluindo aprendizado ativo para detecção/descoberta de anomalias, mineração de regras bayesianas, descrição para diversidade/explicação/interpretabilidade. Análise da incorporação de feedback de rótulos com detectores baseados em ensemble e em árvores. Inclui ataques adversariais com Redes Neurais Convolucionais de Grafos.
Um computador compilado nos pesos de um modelo de linguagem. Uma CPU exata dentro do Qwen3.5-4B, com o estado do Gated DeltaNet como RAM.
Artigos altamente citados/de conferências importantes sobre a interpretabilidade de modelos de redes neurais em aprendizado profundo nos últimos anos (com código incluído)
Inspecione, visualize e intervenha em qualquer operação de qualquer rede neural. Capture todas as ativações e gradientes, o grafo computacional completo e mais de 800 campos de metadados, sem alterar o código do modelo. Compatível com PyTorch, JAX, TensorFlow, MLX, PaddlePaddle e tinygrad. Validado em mais de 6.400 modelos. Desenvolvido para pesquisadores e seus agentes de IA.
Uma coleção de algoritmos de ponta para o treinamento, serviço e interpretação de modelos de Floresta de Decisão no Keras.
[JMLR 2023] Quantus é um kit de ferramentas de IA explicável para a avaliação responsável de explicações de redes neurais
Uma biblioteca para treinar, avaliar, interpretar e colocar em produção modelos de florestas de decisão, como Random Forest e Gradient Boosted Decision Trees.
Exemplos de técnicas para treinar modelos de ML interpretáveis, explicar modelos de ML e depurar modelos de ML quanto à precisão, discriminação e segurança.
💭 Análise de Sentimento Baseada em Aspectos: Transformer & ML Explicável (TensorFlow)
Perguntas Frequentes
Qual é o repositório de #interpretability mais popular no GitHub?
O projeto de código aberto de #interpretability mais bem classificado no GitHub é shap/shap, com 25,883 estrelas. Uma abordagem da teoria dos jogos para explicar a saída de qualquer modelo de aprendizado de máquina.
Quais linguagens de programação são mais usadas nos repositórios de #interpretability?
Entre os projetos de #interpretability mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, C++, TypeScript.
Como é calculada a classificação dos repositórios de #interpretability?
Acompanhamos 39 repositórios ativos de código aberto marcados com #interpretability (com mais de 500 estrelas), totalizando 134,415 estrelas e uma média de 3,446 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.