Git Stars Git Stars

#mechanistic-interpretability Репозитории

Откройте для себя 14 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #mechanistic-interpretability, с общим числом 19,794 звёзд (в среднем 1,413 на проект). Лидером этой темы является TransformerLensOrg/TransformerLens, набравший 4,089 звёзд.

14
Всего репозиториев
19,794
Всего звезд
1,413
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook Rust

Всего репозиториев: 14

1
TransformerLensOrg/TransformerLens

Библиотека для механистической интерпретируемости языковых моделей в стиле GPT

TransformerLensOrg
⭐ 4,089 Python 👤 TransformerLensOrg Organization 🕐 Обновлено 2026-11-20 📅 Создано 2022-08-26
3
lyramakesmusic/neuron-explorer

Исследователь нейронов с приоритетом управления для Qwen3.5-4B: активируйте каждый нейрон MLP, сохраняйте каждый прогон и изучайте результаты

lyramakesmusic
⭐ 2,045 Python 👤 lyramakesmusic User 🕐 Обновлено 2026-11-02 📅 Создано 2026-10-21
4
decoderesearch/SAELens

Обучение разреженных автокодировщиков на языковых моделях

decoderesearch
⭐ 1,588 Python 👤 decoderesearch Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-11-29
5
jacobhilton/deep_learning_curriculum

Учебная программа по глубокому обучению, ориентированная на согласование языковой модели

jacobhilton
⭐ 1,508 👤 jacobhilton User 🕐 Обновлено 2024-08-19 📅 Создано 2022-07-12
7
chrishayuk/larql

Запускайте, предоставляйте, запрашивайте и редактируйте модели ИИ — среда выполнения моделей на Rust, построенная на основе VINDEX3, исполняемого и доступного для анализа формата моделей.

chrishayuk
⭐ 1,196 Rust 👤 chrishayuk User 🕐 Обновлено 2026-11-21 📅 Создано 2026-03-27
9
stanfordnlp/pyvene

Библиотека Python Stanford NLP для понимания и улучшения моделей PyTorch посредством вмешательств

stanfordnlp
⭐ 919 Python 👤 stanfordnlp Organization 🕐 Обновлено 2026-03-06 📅 Создано 2023-02-06
10
johnmarktaylor91/torchlens

Изучайте, визуализируйте и вмешивайтесь в любые операции любой нейронной сети. Фиксируйте все активации и градиенты, полный граф вычислений и более 800 полей метаданных, не изменяя код модели. Поддерживает PyTorch, JAX, TensorFlow, MLX, PaddlePaddle и tinygrad. Проверено на более чем 6 400 моделях. Создано для исследователей и их ИИ-агентов.

johnmarktaylor91
⭐ 714 Python 👤 johnmarktaylor91 User 🕐 Обновлено 2026-11-17 📅 Создано 2022-10-14
11
zepingyu0512/awesome-llm-understanding-mechanism

отличные статьи по интерпретируемости LLM

zepingyu0512
⭐ 626 👤 zepingyu0512 User 🕐 Обновлено 2025-08-20 📅 Создано 2024-02-18
12
likenneth/honest_llama

Вмешательство во время вывода: получение правдивых ответов от языковой модели

likenneth
⭐ 581 Python 👤 likenneth User 🕐 Обновлено 2025-01-28 📅 Создано 2023-05-19
13
zengxiao-he/tessera

От учителя к плиткам — движок дистилляции и обслуживания LLM, созданный с нуля: пользовательские ядра Triton/CUDA, дистилляция FSDP, пакетная обработка с непрерывным KV-кэшированием, спекулятивное декодирование, шлюз на Rust, оракул JAX и инструменты интерпретируемости.

zengxiao-he
⭐ 556 Python 👤 zengxiao-he User 🕐 Обновлено 2026-10-09 📅 Создано 2026-06-05
14
FailSpy/abliterator

Простая библиотека/структура Python для удаления признаков в LLM, поддерживаемых TransformerLens

FailSpy
⭐ 551 Python 👤 FailSpy User 🕐 Обновлено 2024-06-11 📅 Создано 2024-05-21

Часто задаваемые вопросы

1

Какой репозиторий по теме #mechanistic-interpretability наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #mechanistic-interpretability на GitHub — TransformerLensOrg/TransformerLens, набравший 4,089 звёзд. Библиотека для механистической интерпретируемости языковых моделей в стиле GPT

2

Какие языки программирования чаще всего используются в репозиториях по теме #mechanistic-interpretability?

Среди наиболее высоко оценённых проектов по теме #mechanistic-interpretability на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Rust.

3

Как рассчитывается рейтинг репозиториев по теме #mechanistic-interpretability?

Мы отслеживаем 14 активных репозиториев с открытым исходным кодом, отмеченных тегом #mechanistic-interpretability (500 и более звёзд), с общим числом 19,794 звёзд и в среднем 1,413 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.