#interpretability Репозитории
Откройте для себя 39 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #interpretability, с общим числом 134,415 звёзд (в среднем 3,446 на проект). Лидером этой темы является shap/shap, набравший 25,883 звёзд.
Всего репозиториев: 39
Куратированный список отличных библиотек с открытым исходным кодом для развертывания, мониторинга, версионирования и масштабирования вашего машинного обучения
Расширенная объяснимость ИИ для компьютерного зрения. Поддержка CNN, Vision Transformers, Классификация, Обнаружение объектов, Сегментация, Сходство изображений и многое другое.
Подгоняйте интерпретируемые модели. Объясняйте чёрный ящик машинного обучения.
Куратированный список потрясающих ресурсов по ответственному машинному обучению.
🔅 Shapash: Удобные для пользователя объяснимость и интерпретируемость для разработки надежных и прозрачных моделей машинного обучения
Карты активации классов для ваших моделей PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)
Исследователь нейронов с приоритетом управления для Qwen3.5-4B: активируйте каждый нейрон MLP, сохраняйте каждый прогон и изучайте результаты
Инструментарий для исследований JAX для создания, редактирования и визуализации нейронных сетей.
Responsible AI Toolbox — это набор инструментов, предоставляющий пользовательские интерфейсы и библиотеки для исследования и оценки моделей и данных, которые позволяют лучше понимать системы ИИ. Эти интерфейсы и библиотеки позволяют разработчикам и заинтересованным сторонам систем ИИ более ответственно разрабатывать и контролировать ИИ, а также принимать более обоснованные решения на основе данных.
Сборник исследовательских материалов по интерпретируемому ИИ/МО
Интерпретируемый пакет ML 🔍 для краткого, прозрачного и точного предиктивного моделирования (совместим с sklearn).
Пакет nnsight позволяет интерпретировать и манипулировать внутренними компонентами моделей глубокого обучения.
Библиотека Python Stanford NLP для понимания и улучшения моделей PyTorch посредством вмешательств
Сборник методов обнаружения аномалий (iid/на основе точек, граф и временные ряды), включая активное обучение для обнаружения/открытия аномалий, байесовское извлечение правил, описание для разнообразия/объяснения/интерпретируемости. Анализ интеграции обратной связи по меткам с детекторами на основе ансамблей и деревьев. Включает adversarial атаки с Graph Convolutional Network.
Компьютер, скомпилированный в веса языковой модели. Точная CPU внутри Qwen3.5-4B, где состояние Gated DeltaNet служит оперативной памятью.
Недавние высокоцитируемые/ведущие конференции статьи по интерпретируемости моделей нейронных сетей в глубоком обучении (с кодом)
Изучайте, визуализируйте и вмешивайтесь в любые операции любой нейронной сети. Фиксируйте все активации и градиенты, полный граф вычислений и более 800 полей метаданных, не изменяя код модели. Поддерживает PyTorch, JAX, TensorFlow, MLX, PaddlePaddle и tinygrad. Проверено на более чем 6 400 моделях. Создано для исследователей и их ИИ-агентов.
Коллекция передовых алгоритмов для обучения, обслуживания и интерпретации моделей Decision Forest в Keras.
[JMLR 2023] Quantus — это инструментарий объяснимого ИИ для ответственной оценки объяснений нейронных сетей
Библиотека для обучения, оценки, интерпретации и внедрения в производство моделей деревьев решений, таких как Random Forest и Gradient Boosted Decision Trees.
Примеры техник для обучения интерпретируемых моделей ML, объяснения моделей ML и отладки моделей ML на предмет точности, дискриминации и безопасности.
💭 Анализ тональности на основе аспектов: Transformer & Объяснимое МО (TensorFlow)
Часто задаваемые вопросы
Какой репозиторий по теме #interpretability наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #interpretability на GitHub — shap/shap, набравший 25,883 звёзд. Игнотеоретический подход к объяснению выхода любой модели машинного обучения
Какие языки программирования чаще всего используются в репозиториях по теме #interpretability?
Среди наиболее высоко оценённых проектов по теме #interpretability на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, C++, TypeScript.
Как рассчитывается рейтинг репозиториев по теме #interpretability?
Мы отслеживаем 39 активных репозиториев с открытым исходным кодом, отмеченных тегом #interpretability (500 и более звёзд), с общим числом 134,415 звёзд и в среднем 3,446 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.