#mechanistic-interpretability Repository
Scopri 14 repository GitHub open source attivi contrassegnati con #mechanistic-interpretability, che raccolgono un totale di 19,794 stelle (con una media di 1,413 stelle per progetto). Il progetto leader di questo argomento è TransformerLensOrg/TransformerLens, con 4,089 stelle.
14 repository in totale
Una libreria per l'interpretabilità meccanicistica dei modelli linguistici in stile GPT
Esploratore di neuroni orientato prima di tutto alla guida per Qwen3.5-4B: attiva ogni neurone MLP, conserva ogni generazione ed esplora i risultati
Curriculum di deep learning incentrato sull'allineamento del modello linguistico
Esegui, servi, interroga e modifica modelli di IA: un runtime per modelli in Rust basato su VINDEX3, un formato di modello eseguibile e ispezionabile.
Libreria Python Stanford NLP per comprendere e migliorare i modelli PyTorch tramite interventi
Ispeziona, visualizza e intervieni su qualsiasi operazione in qualsiasi rete neurale. Acquisisci ogni attivazione e gradiente, l’intero grafo computazionale e oltre 800 campi di metadati, senza modificare il codice del modello. Supporta PyTorch, JAX, TensorFlow, MLX, PaddlePaddle e tinygrad. Convalidato su oltre 6.400 modelli. Creato per i ricercatori e i loro agenti IA.
articoli straordinari sull'interpretabilità degli LLM
Intervento al momento dell'inferenza: Ottenere risposte veritiere da un modello linguistico
Da insegnante a tessere — un motore di distillazione e servizio LLM costruito da zero: kernel Triton/CUDA personalizzati, distillazione FSDP, elaborazione batch continua con KV paginato, decodifica speculativa, un gateway Rust, un oracolo JAX e strumenti di interpretabilità.
Libreria/struttura Python semplice per la rimozione di feature negli LLM supportati da TransformerLens
Domande frequenti
Qual è il repository #mechanistic-interpretability più popolare su GitHub?
Il progetto open source #mechanistic-interpretability più alto in classifica su GitHub è TransformerLensOrg/TransformerLens, con 4,089 stelle. Una libreria per l'interpretabilità meccanicistica dei modelli linguistici in stile GPT
Quali linguaggi di programmazione sono più utilizzati nei repository #mechanistic-interpretability?
Tra i progetti #mechanistic-interpretability più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, Rust.
Come viene calcolata la classifica dei repository #mechanistic-interpretability?
Monitoriamo 14 repository open source attivi contrassegnati con #mechanistic-interpretability (500+ stelle), per un totale di 19,794 stelle e una media di 1,413 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.