#mechanistic-interpretability Repositórios
Descubra 14 repositórios ativos de código aberto no GitHub marcados com #mechanistic-interpretability, acumulando um total de 19,794 estrelas (uma média de 1,413 por projeto). O líder deste tópico é TransformerLensOrg/TransformerLens, com 4,089 estrelas.
14 repositórios no total
Uma biblioteca para interpretabilidade mecanicista de modelos de linguagem no estilo GPT
Explorador de neurônios com foco primeiro na direção para Qwen3.5-4B: estimule cada neurônio MLP, mantenha cada execução e explore os resultados
Currículo de aprendizado profundo focado no alinhamento de modelos de linguagem
Execute, disponibilize, consulte e edite modelos de IA — um ambiente de execução de modelos em Rust baseado no VINDEX3, um formato de modelo executável e inspecionável.
Biblioteca Python de Processamento de Linguagem Natural de Stanford para entender e melhorar modelos PyTorch por meio de intervenções
Inspecione, visualize e intervenha em qualquer operação de qualquer rede neural. Capture todas as ativações e gradientes, o grafo computacional completo e mais de 800 campos de metadados, sem alterar o código do modelo. Compatível com PyTorch, JAX, TensorFlow, MLX, PaddlePaddle e tinygrad. Validado em mais de 6.400 modelos. Desenvolvido para pesquisadores e seus agentes de IA.
Intervenção no Tempo de Inferência: Extraindo Respostas Verídicas de um Modelo de Linguagem
Do professor aos blocos — um mecanismo de destilação e serviço de LLM construído do zero: kernels Triton/CUDA personalizados, destilação FSDP, processamento em lote contínuo com KV paginado, decodificação especulativa, um gateway Rust, um oráculo JAX e ferramentas de interpretabilidade.
Biblioteca/estrutura Python simples para ablacionar recursos em LLMs que são suportados por TransformerLens
Perguntas Frequentes
Qual é o repositório de #mechanistic-interpretability mais popular no GitHub?
O projeto de código aberto de #mechanistic-interpretability mais bem classificado no GitHub é TransformerLensOrg/TransformerLens, com 4,089 estrelas. Uma biblioteca para interpretabilidade mecanicista de modelos de linguagem no estilo GPT
Quais linguagens de programação são mais usadas nos repositórios de #mechanistic-interpretability?
Entre os projetos de #mechanistic-interpretability mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, Rust.
Como é calculada a classificação dos repositórios de #mechanistic-interpretability?
Acompanhamos 14 repositórios ativos de código aberto marcados com #mechanistic-interpretability (com mais de 500 estrelas), totalizando 19,794 estrelas e uma média de 1,413 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.