#mechanistic-interpretability Repositorios
Descubre 14 repositorios activos de código abierto de GitHub etiquetados con #mechanistic-interpretability, que acumulan 19,794 estrellas en total (una media de 1,413 estrellas por proyecto). El líder de este tema es TransformerLensOrg/TransformerLens, con 4,089 estrellas.
14 repositorios en total
Una biblioteca para la interpretabilidad mecanicista de modelos de lenguaje estilo GPT
Explorador de neuronas con enfoque prioritario en la dirección para Qwen3.5-4B: activa cada neurona MLP, conserva cada ejecución y explora los resultados
Currículo de aprendizaje profundo centrado en la alineación del modelo de lenguaje
Ejecuta, sirve, consulta y edita modelos de IA: un entorno de ejecución de modelos en Rust basado en VINDEX3, un formato de modelo ejecutable e inspeccionable.
Biblioteca Python de Stanford NLP para comprender y mejorar modelos PyTorch a través de intervenciones
Inspecciona, visualiza e intervén en cualquier operación de cualquier red neuronal. Captura todas las activaciones y gradientes, el grafo computacional completo y más de 800 campos de metadatos, sin cambiar el código del modelo. Compatible con PyTorch, JAX, TensorFlow, MLX, PaddlePaddle y tinygrad. Validado en más de 6.400 modelos. Creado para investigadores y sus agentes de IA.
artículos impresionantes sobre la interpretabilidad de los LLM
Intervención en tiempo de inferencia: Obtener respuestas veraces de un modelo de lenguaje
De maestro a mosaicos — un motor de destilación y servicio de LLM desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo con KV paginado, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.
Biblioteca/estructura Python simple para eliminar características en LLM compatibles con TransformerLens
Preguntas frecuentes
¿Cuál es el repositorio de #mechanistic-interpretability más popular en GitHub?
El proyecto de código abierto de #mechanistic-interpretability mejor posicionado en GitHub es TransformerLensOrg/TransformerLens, con 4,089 estrellas. Una biblioteca para la interpretabilidad mecanicista de modelos de lenguaje estilo GPT
¿Qué lenguajes de programación se utilizan más en los repositorios de #mechanistic-interpretability?
Entre los proyectos de #mechanistic-interpretability mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, Rust.
¿Cómo se calcula la clasificación de los repositorios de #mechanistic-interpretability?
Seguimos 14 repositorios activos de código abierto etiquetados con #mechanistic-interpretability (500+ estrellas), que suman un total de 19,794 estrellas, con una media de 1,413 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.