#mechanistic-interpretability Репозитории
Откройте для себя 14 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #mechanistic-interpretability, с общим числом 19,794 звёзд (в среднем 1,413 на проект). Лидером этой темы является TransformerLensOrg/TransformerLens, набравший 4,089 звёзд.
Всего репозиториев: 14
Библиотека для механистической интерпретируемости языковых моделей в стиле GPT
Исследователь нейронов с приоритетом управления для Qwen3.5-4B: активируйте каждый нейрон MLP, сохраняйте каждый прогон и изучайте результаты
Учебная программа по глубокому обучению, ориентированная на согласование языковой модели
Запускайте, предоставляйте, запрашивайте и редактируйте модели ИИ — среда выполнения моделей на Rust, построенная на основе VINDEX3, исполняемого и доступного для анализа формата моделей.
Библиотека Python Stanford NLP для понимания и улучшения моделей PyTorch посредством вмешательств
Изучайте, визуализируйте и вмешивайтесь в любые операции любой нейронной сети. Фиксируйте все активации и градиенты, полный граф вычислений и более 800 полей метаданных, не изменяя код модели. Поддерживает PyTorch, JAX, TensorFlow, MLX, PaddlePaddle и tinygrad. Проверено на более чем 6 400 моделях. Создано для исследователей и их ИИ-агентов.
Вмешательство во время вывода: получение правдивых ответов от языковой модели
От учителя к плиткам — движок дистилляции и обслуживания LLM, созданный с нуля: пользовательские ядра Triton/CUDA, дистилляция FSDP, пакетная обработка с непрерывным KV-кэшированием, спекулятивное декодирование, шлюз на Rust, оракул JAX и инструменты интерпретируемости.
Простая библиотека/структура Python для удаления признаков в LLM, поддерживаемых TransformerLens
Часто задаваемые вопросы
Какой репозиторий по теме #mechanistic-interpretability наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #mechanistic-interpretability на GitHub — TransformerLensOrg/TransformerLens, набравший 4,089 звёзд. Библиотека для механистической интерпретируемости языковых моделей в стиле GPT
Какие языки программирования чаще всего используются в репозиториях по теме #mechanistic-interpretability?
Среди наиболее высоко оценённых проектов по теме #mechanistic-interpretability на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, Rust.
Как рассчитывается рейтинг репозиториев по теме #mechanistic-interpretability?
Мы отслеживаем 14 активных репозиториев с открытым исходным кодом, отмеченных тегом #mechanistic-interpretability (500 и более звёзд), с общим числом 19,794 звёзд и в среднем 1,413 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.