#llm-security Репозитории
Откройте для себя 65 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-security, с общим числом 311,462 звёзд (в среднем 4,791 на проект). Лидером этой темы является usestrix/strix, набравший 76,872 звёзд.
Всего репозиториев: 65
Инструмент тестирования на проникновение с открытым исходным кодом на основе ИИ для поиска и устранения уязвимостей вашего приложения.
Серия практических учебных пособий по программированию «Погружение в LLM: Создание больших языковых моделей»
Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.
Полноценная платформа для AI Red Teaming, обеспечивающая безопасность экосистем ИИ с помощью Agent Scan, Skills Scan, MCP Scan, AI Infra Scan и оценки взлома ограничений LLM.
NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.
🛡️ BLA (bla-agents / Blind LLM Agents) — MCP-сервер и CLI с открытым исходным кодом для защиты Blue, оберегающие JS/TS, Electron ASAR, WASM, Python, нативные бинарные файлы, SQLite, GGUF/Safetensors и Android DEX от ИИ-агентов обратной разработки (REA).
Инструментарий для поиска уязвимостей в рамках bug bounty на базе ИИ, работающий как с подпиской, так и без неё.
🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
Безопасность агентов во время выполнения — изоляция агентов в песочнице с нулевым доверием, без настройки и задержек
Коллекция научных методов, процессов, алгоритмов и систем для создания историй и моделей.
Открытый AI-инструментарий для наступательной кибербезопасности и автоматизированного тестирования на проникновение.
[CCS'24] Набор данных состоит из 15 140 подсказок ChatGPT из Reddit, Discord, веб-сайтов и наборов данных с открытым исходным кодом (включая 1 405 подсказок для обхода блокировки).
Безопасная платформа runtime для обмана с низким кодом, использующая ИИ для виртуализации системы.
ADR обеспечивает безопасность корпоративных ИИ-агентов с помощью наблюдаемости, сравнительного анализа безопасности и обнаружения угроз. Развернуто в Uber.
AI Safety HOT: ежедневные новости, статьи и инциденты в области безопасности ИИ в одном месте — джейлбрейки, инъекции промптов, выравнивание, оценки и управление. Сайт, ежедневная сводка, RSS и MCP.
Этот репозиторий содержит вопросы для собеседования по LLM (большая языковая модель), задаваемые в ведущих компаниях, таких как Google, Nvidia, Meta, Microsoft и компаниях из списка Fortune 500.
Мощный инструмент для автоматизированного фаззинга LLM. Он разработан, чтобы помочь разработчикам и исследователям безопасности выявлять и смягчать потенциальные обходы защиты (jailbreaks) в их LLM API.
Хост-приложение командной строки, позволяющее большим языковым моделям (LLM) взаимодействовать с внешними инструментами через протокол контекста модели (MCP).
OWASP Top 10 для приложений с большими языковыми моделями (Часть проекта по безопасности GenAI)
Пентестинговый ИИ-агент с открытым исходным кодом, который проверяет каждую находку с помощью эксплуатации уязвимости. Автономное тестирование веб-приложений и API в 22 этапа с PDF-отчётами, содержащими оценки CVSS. Разворачивайте его самостоятельно, используйте собственную LLM или запускайте полностью локально с Ollama.
🛡️ Бесплатный терминал безопасности и сканер уязвимостей с открытым исходным кодом на базе ИИ (CVE, SBOM). Поддерживает SSH, SFTP, RDP, VNC и последовательные подключения, а также более 12 автономных ИИ-агентов (DeepSeek, OpenAI) для автоматизации процессов обеспечения безопасности, CTF и DevSecOps. Кроссплатформенное решение с веб-интерфейсом.
Автономное тестирование на проникновение с использованием ИИ и открытым исходным кодом. 50 специализированных агентов для веб-приложений, API, облака, Active Directory, Kubernetes, CI/CD и ИИ/LLM (OWASP LLM Top 10), а также граф путей атаки, проверенный на основе доказательств. Работает на локальной LLM за шлюзом конфиденциальности. Интегрируется с GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana и Splunk.
Автономный агентный фреймворк для наступательной безопасности, Bug Bounty и Red Teaming на базе Hermes Agent, специализированных навыков логического мышления и оркестрации мультимодельных LLM.
Сканер безопасности с приоритетом ИИ. НОВОЕ в v2026.7: обнаружение компрометации кода Claude — проверка хуков, разрешений и навыков .claude/ перед клонированием — плюс постоянно работающий сканер сигнатур атак ИИ и собственные правила Rust и PHP. Также: medusa scan --git для проверки любого репозитория, medusa secrets scan для утекших ключей API. Более 40 000 шаблонов, нулевая настройка.
Open-source брандмауэр для ИИ-агентов, обеспечивающий безопасность MCP и контроль исходящего трафика агентов. Сканирует опосредованный трафик HTTP, MCP, A2A и WebSocket на предмет эксфильтрации данных, SSRF и инъекций промптов, а также выдает подписанные посредником квитанции о действиях: проверяемые аудиторские доказательства извне агента.
Совместное семантическое обнаружение и контроль распространения фишинговых атак в социальных сетях с помощью моделирования на основе LLama
Защитный механизм для LLM и конвейеров RAG, в котором конфиденциальность стоит на первом месте. SurrogateShield в режиме реального времени обнаруживает, маскирует и восстанавливает конфиденциальные персональные данные (PII), одновременно защищая от состязательных атак.
Простая в использовании Python-платформа для создания враждебных подсказок, обводящих ограничения.
Локальный аудит безопасности для ретрансляторов API ИИ и прокси LLM: обнаруживает внедрение промптов, подмену модели, переписывание вызовов инструментов, аномалии SSE, утечки ошибок и риски для Web3-кошельков. Сайт: https://apirelayaudit.com
Независимый агент безопасности для ПО, написанного ИИ. Находит проблемы, проверяет, реальны ли они, и показывает вам доказательства. Детерминированное ядро, API-ключ не требуется, вывод в форматах JSON и SARIF.
Самостоятельно размещаемые ИИ API и шлюз MCP для организаций: SSO и RBAC, идентификация каждого пользователя при вызовах инструментов MCP, удаление персональных данных (PII) и защита вызовов инструментов, ограничение частоты запросов, бюджеты, учёт затрат и журналы аудита.
Дайте агенту отдельную машину. Только не свою. Каждый ИИ-агент для программирования получает собственную изолированную машину с root-доступом, Docker и systemd — активная защита автоматически обнаруживает и блокирует угрозы.
Защищённая от подделки трассировка, проверки политик и перекрёстный контроль для ИИ-агентов: узнайте, что сделал агент и почему.
Использовать промпты и методы ролевой игры для обхода ограничений модели ИИ.
Фреймворк для редтиминга и оценки ИИ-агентов, построенный на таксономии ASI01–ASI10, вдохновлённой OWASP
Безопасность во время выполнения для ИИ-приложений и агентов: обнаружение инъекций промптов, авторизация вызовов инструментов, маскирование конфиденциальных данных, защита от ботов и ограничение частоты запросов. Просто добавьте в свой JS/TS-код.
Часто задаваемые вопросы
Какой репозиторий по теме #llm-security наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-security на GitHub — usestrix/strix, набравший 76,872 звёзд. Инструмент тестирования на проникновение с открытым исходным кодом на основе ИИ для поиска и устранения уязвимостей вашего приложения.
Какие языки программирования чаще всего используются в репозиториях по теме #llm-security?
Среди наиболее высоко оценённых проектов по теме #llm-security на GitHub чаще всего используются языки программирования Python, Go, Jupyter Notebook, TypeScript.
Как рассчитывается рейтинг репозиториев по теме #llm-security?
Мы отслеживаем 65 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-security (500 и более звёзд), с общим числом 311,462 звёзд и в среднем 4,791 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.