#mechanistic-interpretability Repositories
Entdecke 14 aktive Open-Source-GitHub-Repositories, die mit #mechanistic-interpretability getaggt sind und insgesamt 19,794 Sterne gesammelt haben (durchschnittlich 1,413 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist TransformerLensOrg/TransformerLens mit 4,089 Sternen.
Insgesamt 14 Repositories
Eine Bibliothek für mechanistische Interpretierbarkeit von GPT-ähnlichen Sprachmodellen
Steuerungsorientierter Neuronen-Explorer für Qwen3.5-4B: Jede MLP-Neurone ansteuern, jeden Durchlauf speichern und die Ergebnisse erkunden
Deep-Learning-Lehrplan mit Schwerpunkt auf Sprachmodell-Ausrichtung
KI-Modelle ausführen, bereitstellen, abfragen und bearbeiten – eine auf VINDEX3 basierende Rust-Modelllaufzeitumgebung. VINDEX3 ist ein ausführbares, inspizierbares Modellformat.
Stanford NLP Python-Bibliothek zum Verstehen und Verbessern von PyTorch-Modellen durch Interventionen
Untersuchen, visualisieren und beeinflussen Sie jede Operation in jedem neuronalen Netzwerk. Erfassen Sie jede Aktivierung und jeden Gradienten, den vollständigen Berechnungsgraphen und über 800 Metadatenfelder, ohne den Modellcode zu ändern. Unterstützt PyTorch, JAX, TensorFlow, MLX, PaddlePaddle und tinygrad. An über 6.400 Modellen validiert. Entwickelt für Forschende und ihre KI-Agenten.
hervorragende Arbeiten zur Interpretierbarkeit von LLMs
Inference-Time Intervention: Wahrheitsgemäße Antworten von einem Sprachmodell hervorrufen
Vom Lehrer zu Kacheln — eine von Grund auf neu entwickelte LLM-Destillations- und Serving-Engine: benutzerdefinierte Triton/CUDA-Kernel, FSDP-Destillation, kontinuierliches Batching mit paged-KV, spekulative Dekodierung, ein Rust-Gateway, ein JAX-Orakel und Interpretierbarkeitswerkzeuge.
Einfache Python-Bibliothek/Struktur zur Ablation von Merkmalen in LLMs, die von TransformerLens unterstützt werden
Häufig gestellte Fragen
Welches ist das beliebteste #mechanistic-interpretability-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#mechanistic-interpretability-Projekt auf GitHub ist TransformerLensOrg/TransformerLens mit 4,089 Sternen. Eine Bibliothek für mechanistische Interpretierbarkeit von GPT-ähnlichen Sprachmodellen
Welche Programmiersprachen werden in #mechanistic-interpretability-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #mechanistic-interpretability-Projekten auf GitHub sind Python, Jupyter Notebook, Rust die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #mechanistic-interpretability-Repositories berechnet?
Wir verfolgen 14 aktive Open-Source-Repositories, die mit #mechanistic-interpretability getaggt sind (500+ Sterne), mit insgesamt 19,794 Sternen und durchschnittlich 1,413 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.