Git Stars Git Stars

#mechanistic-interpretability Repositories

Entdecke 14 aktive Open-Source-GitHub-Repositories, die mit #mechanistic-interpretability getaggt sind und insgesamt 19,794 Sterne gesammelt haben (durchschnittlich 1,413 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist TransformerLensOrg/TransformerLens mit 4,089 Sternen.

14
Gesamtzahl der Repositories
19,794
Gesamtanzahl der Sterne
1,413
Durchschnittliche Sterne/Repo

Insgesamt 14 Repositories

1
TransformerLensOrg/TransformerLens

Eine Bibliothek für mechanistische Interpretierbarkeit von GPT-ähnlichen Sprachmodellen

TransformerLensOrg
⭐ 4,089 Python 👤 TransformerLensOrg Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2022-08-26
3
lyramakesmusic/neuron-explorer

Steuerungsorientierter Neuronen-Explorer für Qwen3.5-4B: Jede MLP-Neurone ansteuern, jeden Durchlauf speichern und die Ergebnisse erkunden

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Aktualisiert 2026-11-02 📅 Erstellt 2026-10-21
4
decoderesearch/SAELens

Training von spärlichen Autoencodern auf Sprachmodellen

decoderesearch
⭐ 1,588 Python 👤 decoderesearch Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-11-29
5
jacobhilton/deep_learning_curriculum

Deep-Learning-Lehrplan mit Schwerpunkt auf Sprachmodell-Ausrichtung

jacobhilton
⭐ 1,508 👤 jacobhilton User 🕐 Aktualisiert 2024-08-19 📅 Erstellt 2022-07-12
7
chrishayuk/larql

KI-Modelle ausführen, bereitstellen, abfragen und bearbeiten – eine auf VINDEX3 basierende Rust-Modelllaufzeitumgebung. VINDEX3 ist ein ausführbares, inspizierbares Modellformat.

chrishayuk
⭐ 1,196 Rust 👤 chrishayuk User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-27
9
stanfordnlp/pyvene

Stanford NLP Python-Bibliothek zum Verstehen und Verbessern von PyTorch-Modellen durch Interventionen

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Aktualisiert 2026-03-06 📅 Erstellt 2023-02-06
10
johnmarktaylor91/torchlens

Untersuchen, visualisieren und beeinflussen Sie jede Operation in jedem neuronalen Netzwerk. Erfassen Sie jede Aktivierung und jeden Gradienten, den vollständigen Berechnungsgraphen und über 800 Metadatenfelder, ohne den Modellcode zu ändern. Unterstützt PyTorch, JAX, TensorFlow, MLX, PaddlePaddle und tinygrad. An über 6.400 Modellen validiert. Entwickelt für Forschende und ihre KI-Agenten.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2022-10-14
11
zepingyu0512/awesome-llm-understanding-mechanism

hervorragende Arbeiten zur Interpretierbarkeit von LLMs

zepingyu0512
⭐ 626 👤 zepingyu0512 User 🕐 Aktualisiert 2025-08-20 📅 Erstellt 2024-02-18
12
likenneth/honest_llama

Inference-Time Intervention: Wahrheitsgemäße Antworten von einem Sprachmodell hervorrufen

likenneth
⭐ 581 Python 👤 likenneth User 🕐 Aktualisiert 2025-01-28 📅 Erstellt 2023-05-19
13
zengxiao-he/tessera

Vom Lehrer zu Kacheln — eine von Grund auf neu entwickelte LLM-Destillations- und Serving-Engine: benutzerdefinierte Triton/CUDA-Kernel, FSDP-Destillation, kontinuierliches Batching mit paged-KV, spekulative Dekodierung, ein Rust-Gateway, ein JAX-Orakel und Interpretierbarkeitswerkzeuge.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Aktualisiert 2026-10-09 📅 Erstellt 2026-06-05
14
FailSpy/abliterator

Einfache Python-Bibliothek/Struktur zur Ablation von Merkmalen in LLMs, die von TransformerLens unterstützt werden

FailSpy
⭐ 551 Python 👤 FailSpy User 🕐 Aktualisiert 2024-06-11 📅 Erstellt 2024-05-21

Häufig gestellte Fragen

1

Welches ist das beliebteste #mechanistic-interpretability-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#mechanistic-interpretability-Projekt auf GitHub ist TransformerLensOrg/TransformerLens mit 4,089 Sternen. Eine Bibliothek für mechanistische Interpretierbarkeit von GPT-ähnlichen Sprachmodellen

2

Welche Programmiersprachen werden in #mechanistic-interpretability-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #mechanistic-interpretability-Projekten auf GitHub sind Python, Jupyter Notebook, Rust die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #mechanistic-interpretability-Repositories berechnet?

Wir verfolgen 14 aktive Open-Source-Repositories, die mit #mechanistic-interpretability getaggt sind (500+ Sterne), mit insgesamt 19,794 Sternen und durchschnittlich 1,413 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.