#mechanistic-interpretability Dépôts
Découvrez 14 dépôts GitHub open source actifs associés à #mechanistic-interpretability, cumulant 19,794 étoiles au total (soit une moyenne de 1,413 étoiles par projet). Le projet en tête de ce thème est TransformerLensOrg/TransformerLens, avec 4,089 étoiles.
14 dépôts au total
Une bibliothèque pour l'interprétabilité mécaniste des modèles de langage de style GPT
Explorateur de neurones axé d’abord sur le pilotage pour Qwen3.5-4B : stimulez chaque neurone MLP, conservez chaque génération et parcourez les résultats
Curriculum d'apprentissage profond axé sur l'alignement des modèles linguistiques
Exécutez, hébergez, interrogez et modifiez des modèles d’IA — un environnement d’exécution de modèles en Rust basé sur VINDEX3, un format de modèle exécutable et inspectable.
Bibliothèque Python Stanford NLP pour comprendre et améliorer les modèles PyTorch par des interventions
Inspectez, visualisez et intervenez sur n’importe quelle opération dans n’importe quel réseau neuronal. Capturez chaque activation et chaque gradient, le graphe de calcul complet et plus de 800 champs de métadonnées, sans modifier le code du modèle. Compatible avec PyTorch, JAX, TensorFlow, MLX, PaddlePaddle et tinygrad. Validé sur plus de 6 400 modèles. Conçu pour les chercheurs et leurs agents d’IA.
articles impressionnants sur l'interprétabilité des LLM
Intervention au moment de l'inférence : Obtenir des réponses véridiques d'un modèle linguistique
Du professeur aux tuiles — un moteur de distillation et de service LLM construit de zéro : noyaux Triton/CUDA personnalisés, distillation FSDP, traitement par lots continu avec KV paginé, décodage spéculatif, une passerelle Rust, un oracle JAX et des outils d'interprétabilité.
Bibliothèque/structure Python simple pour supprimer des caractéristiques dans les LLM pris en charge par TransformerLens
Foire aux questions
Quel est le dépôt #mechanistic-interpretability le plus populaire sur GitHub ?
Le projet #mechanistic-interpretability open source le mieux classé sur GitHub est TransformerLensOrg/TransformerLens, avec 4,089 étoiles. Une bibliothèque pour l'interprétabilité mécaniste des modèles de langage de style GPT
Quels langages de programmation sont les plus utilisés dans les dépôts #mechanistic-interpretability ?
Parmi les projets #mechanistic-interpretability les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, Rust.
Comment le classement des dépôts #mechanistic-interpretability est-il calculé ?
Nous suivons 14 dépôts open source actifs associés à #mechanistic-interpretability (500+ étoiles), totalisant 19,794 étoiles, avec une moyenne de 1,413 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.