Git Stars Git Stars

#mechanistic-interpretability 仓库

探索 14 个标记为 #mechanistic-interpretability 的活跃开源 GitHub 仓库,它们累计获得 19,794 个 Star(平均每个项目 1,413 个)。该主题的领先项目是 TransformerLensOrg/TransformerLens,拥有 4,089 个 Star。

14
仓库总数
19,794
总星标数
1,413
平均每个仓库星标数
1
TransformerLensOrg/TransformerLens

GPT风格语言模型的机械可解释性库

TransformerLensOrg
⭐ 4,089 Python 👤 TransformerLensOrg Organization 🕐 已更新 2026-11-20 📅 创建时间 2022-08-26
3
lyramakesmusic/neuron-explorer

面向 Qwen3.5-4B 的引导优先神经元探索器:推动每个 MLP 神经元,保留每次推演结果,浏览探索成果

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 已更新 2026-11-02 📅 创建时间 2026-10-21
4
decoderesearch/SAELens

在语言模型上训练稀疏自编码器

decoderesearch
⭐ 1,588 Python 👤 decoderesearch Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-11-29
5
jacobhilton/deep_learning_curriculum

面向语言模型对齐的深度学习课程

jacobhilton
⭐ 1,508 👤 jacobhilton User 🕐 已更新 2024-08-19 📅 创建时间 2022-07-12
7
chrishayuk/larql

运行、托管、查询和编辑 AI 模型——这是一个基于 VINDEX3 构建的 Rust 模型运行时;VINDEX3 是一种可执行、可检查的模型格式。

chrishayuk
⭐ 1,196 Rust 👤 chrishayuk User 🕐 已更新 2026-11-21 📅 创建时间 2026-03-27
9
stanfordnlp/pyvene

用于通过干预来理解和改进 PyTorch 模型的 Stanford NLP Python 库

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 已更新 2026-03-06 📅 创建时间 2023-02-06
10
johnmarktaylor91/torchlens

检查、可视化并干预任意神经网络中的任何操作。无需更改模型代码,即可捕获每个激活值和梯度、完整计算图以及 800 多个元数据字段。支持 PyTorch、JAX、TensorFlow、MLX、PaddlePaddle 和 tinygrad。已在 6,400 多个模型上验证。专为研究人员及其 AI 智能体打造。

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 已更新 2026-11-17 📅 创建时间 2022-10-14
12
likenneth/honest_llama

推理时干预:从语言模型中引出真实答案

likenneth
⭐ 581 Python 👤 likenneth User 🕐 已更新 2025-01-28 📅 创建时间 2023-05-19
13
zengxiao-he/tessera

从教师到瓦片——一个从头构建的LLM蒸馏与推理引擎:自定义Triton/CUDA内核、FSDP蒸馏、分页KV连续批处理、推测解码、Rust网关、JAX预言机以及可解释性工具。

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 已更新 2026-10-09 📅 创建时间 2026-06-05
14
FailSpy/abliterator

一种简单的 Python 库/结构,用于移除 TransformerLens 支持的大型语言模型 (LLM) 中的特征

FailSpy
⭐ 551 Python 👤 FailSpy User 🕐 已更新 2024-06-11 📅 创建时间 2024-05-21

常见问题解答

1

GitHub 上最受欢迎的 #mechanistic-interpretability 仓库是什么?

GitHub 上排名第一的开源 #mechanistic-interpretability 项目是 TransformerLensOrg/TransformerLens,拥有 4,089 个 Star。GPT风格语言模型的机械可解释性库

2

#mechanistic-interpretability 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #mechanistic-interpretability 项目中,最常见的编程语言是 Python, Jupyter Notebook, Rust。

3

#mechanistic-interpretability 仓库的排名是如何计算的?

我们跟踪了 14 个标记为 #mechanistic-interpretability 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 19,794 个 Star,平均每个仓库拥有 1,413 个 Star。排名每日根据 GitHub API 更新。