#interpretability Repositorios
Descubre 39 repositorios activos de código abierto de GitHub etiquetados con #interpretability, que acumulan 134,415 estrellas en total (una media de 3,446 estrellas por proyecto). El líder de este tema es shap/shap, con 25,883 estrellas.
39 repositorios en total
Un enfoque de la teoría de juegos para explicar la salida de cualquier modelo de aprendizaje automático
Una lista curada de excelentes bibliotecas de código abierto para desplegar, monitorear, versionar y escalar tu machine learning
Explicabilidad avanzada de IA para visión por computadora. Soporte para CNN, Vision Transformers, Clasificación, Detección de objetos, Segmentación, Similitud de imágenes y más.
Ajusta modelos interpretables. Explica el aprendizaje automático de caja negra.
Una lista curada de recursos increíbles de aprendizaje automático responsable.
🔅 Shapash: Explicabilidad e Interpretabilidad Amigables para el Usuario para Desarrollar Modelos de Aprendizaje Automático Confiables y Transparentes
Mapas de activación de clase para sus modelos de PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Explorador de neuronas con enfoque prioritario en la dirección para Qwen3.5-4B: activa cada neurona MLP, conserva cada ejecución y explora los resultados
Un kit de herramientas de investigación JAX para construir, editar y visualizar redes neuronales.
Responsible AI Toolbox es un conjunto de herramientas que proporciona interfaces de usuario y bibliotecas para la exploración y evaluación de modelos y datos que permiten una mejor comprensión de los sistemas de inteligencia artificial. Estas interfaces y bibliotecas permiten a los desarrolladores y partes interesadas de los sistemas de IA desarrollar y supervisar la IA de manera más responsable, y tomar mejores medidas basadas en datos.
Una colección de materiales de investigación sobre IA/ML explicable
Paquete de ML interpretable 🔍 para modelado predictivo conciso, transparente y preciso (compatible con sklearn).
Biblioteca Python de Stanford NLP para el ajuste fino de la representación (ReFT)
¡Una caja de herramientas para iNNvestigar las predicciones de redes neuronales!
El paquete nnsight permite interpretar y manipular los elementos internos de los modelos de aprendizaje profundo.
Biblioteca Python de Stanford NLP para comprender y mejorar modelos PyTorch a través de intervenciones
Una colección de métodos de detección de anomalías (iid/basados en puntos, grafo y series temporales) que incluye aprendizaje activo para detección/descubrimiento de anomalías, minería de reglas bayesianas, descripción para diversidad/explicación/interpretabilidad. Análisis de la incorporación de retroalimentación de etiquetas con detectores basados en ensemble y árboles. Incluye ataques adversarios con Graph Convolutional Network.
Un ordenador compilado en los pesos de un modelo de lenguaje. Una CPU exacta dentro de Qwen3.5-4B, con el estado de Gated DeltaNet como RAM.
Artículos recientes de alta citación/conferencias top sobre la interpretabilidad de modelos de redes neuronales en aprendizaje profundo (con código)
Inspecciona, visualiza e intervén en cualquier operación de cualquier red neuronal. Captura todas las activaciones y gradientes, el grafo computacional completo y más de 800 campos de metadatos, sin cambiar el código del modelo. Compatible con PyTorch, JAX, TensorFlow, MLX, PaddlePaddle y tinygrad. Validado en más de 6.400 modelos. Creado para investigadores y sus agentes de IA.
Una colección de algoritmos de última generación para el entrenamiento, servicio e interpretación de modelos de Decision Forest en Keras.
[JMLR 2023] Quantus es un kit de herramientas de IA explicable para la evaluación responsable de las explicaciones de redes neuronales
Una biblioteca para entrenar, evaluar, interpretar y producir modelos de bosques de decisión como Random Forest y Gradient Boosted Decision Trees.
Ejemplos de técnicas para entrenar modelos ML interpretables, explicar modelos ML y depurar modelos ML en términos de precisión, discriminación y seguridad.
💭 Análisis de Sentimiento Basado en Aspectos: Transformer & ML Explicable (TensorFlow)
Preguntas frecuentes
¿Cuál es el repositorio de #interpretability más popular en GitHub?
El proyecto de código abierto de #interpretability mejor posicionado en GitHub es shap/shap, con 25,883 estrellas. Un enfoque de la teoría de juegos para explicar la salida de cualquier modelo de aprendizaje automático
¿Qué lenguajes de programación se utilizan más en los repositorios de #interpretability?
Entre los proyectos de #interpretability mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, C++, TypeScript.
¿Cómo se calcula la clasificación de los repositorios de #interpretability?
Seguimos 39 repositorios activos de código abierto etiquetados con #interpretability (500+ estrellas), que suman un total de 134,415 estrellas, con una media de 3,446 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.