#ai-security Репозитории
Всего репозиториев: 90
Антивирус и межсетевой экран с открытым исходным кодом для ИИ-агентов: блокируйте во время выполнения рискованные инструменты, доступ к секретам, внедрение промптов, вредоносные пакеты, MCP-серверы, плагины и навыки.
Этот проект направлен на предоставление централизованного репозитория для многих полезных плагинов Tsunami Security Scanner.
Сканер безопасности с приоритетом ИИ. НОВОЕ в v2026.7: обнаружение компрометации кода Claude — проверка хуков, разрешений и навыков .claude/ перед клонированием — плюс постоянно работающий сканер сигнатур атак ИИ и собственные правила Rust и PHP. Также: medusa scan --git для проверки любого репозитория, medusa secrets scan для утекших ключей API. Более 40 000 шаблонов, нулевая настройка.
Open-source брандмауэр для ИИ-агентов, обеспечивающий безопасность MCP и контроль исходящего трафика агентов. Сканирует опосредованный трафик HTTP, MCP, A2A и WebSocket на предмет эксфильтрации данных, SSRF и инъекций промптов, а также выдает подписанные посредником квитанции о действиях: проверяемые аудиторские доказательства извне агента.
Преднамеренно уязвимое банковское приложение, разработанное для отработки тестирования безопасности веб-приложений, API, приложений, интегрированных с ИИ, и проверки безопасного кода. Оно содержит распространенные уязвимости, встречающиеся в реальных приложениях, что делает его идеальной платформой для специалистов по безопасности, разработчиков и энтузиастов для изучения пентестинга и практик безопасного кодирования.
Reconmap — это платформа для операций по обеспечению безопасности, ориентированная на совместную работу команд инфобезопасности и MSSP, обеспечивающая сквозное управление взаимодействием, от разведки до выполнения и отчетности. Благодаря встроенной автоматизации команд, анализу выходных данных и резюме с помощью ИИ, она обеспечивает более быструю, структурированную и качественную оценку безопасности.
Веб-фреймворк на Rust, основанный на Axum, с ядрами приложений, проверяемыми с помощью Lean 4 и работающими на серверах, встраиваемых устройствах без ОС и GPU, а также со встроенным тестированием безопасности.
Локальный аудит безопасности для ретрансляторов API ИИ и прокси LLM: обнаруживает внедрение промптов, подмену модели, переписывание вызовов инструментов, аномалии SSE, утечки ошибок и риски для Web3-кошельков. Сайт: https://apirelayaudit.com
Официальный репозиторий Tencent Cloud Intelligent Penetration Hackathon. Демонстрация лучших проектов с открытым исходным кодом автономных агентов проникновения на основе LLM, включая многолетнюю коллаборацию, автоматизированное проникновение, атакующую безопасность на основе ИИ и интеллектуальные решения для атаки и защиты.
Независимый агент безопасности для ПО, написанного ИИ. Находит проблемы, проверяет, реальны ли они, и показывает вам доказательства. Детерминированное ядро, API-ключ не требуется, вывод в форматах JSON и SARIF.
Мировая премьера!!! Самые полные вопросы для собеседований по кибербезопасности с эталонными ответами (охватывающие сетевую защиту, красные команды, обратную разработку, криптографию, двоичные файлы, ИИ, блокчейн)
Krawl — это настраиваемый, легковесный, облачный веб-сервер для обмана и анти-краулер, который создает фальшивые веб-приложения с низко висящими уязвимостями, используя реалистичные случайно генерируемые приманные данные и HTML-шаблоны, сгенерированные ИИ.
Комплексный контрольный список безопасности для инструментов ИИ на базе MCP. Разработано SlowMist для защиты экосистем плагинов LLM.
Безопасность во время выполнения для ИИ-приложений и агентов: обнаружение инъекций промптов, авторизация вызовов инструментов, маскирование конфиденциальных данных, защита от ботов и ограничение частоты запросов. Просто добавьте в свой JS/TS-код.
Этот инструмент предназначен для помощи пентестерам и сетевым администраторам в выявлении потенциальных угроз безопасности, особенно тех, которые нацелены на веб-приложения, такие как SQL-инъекции, XSS и WebShells. Его модульная конструкция позволяет пользователям свободно выбирать и настраивать различные функциональные модули в соответствии с фактическими потребностями. Этот инструмент подходит для команд HW Red Team для проведения глубокого анализа сетевого трафика, помогая таким профессионалам, как исследователи безопасности, пентестеры и сетевые администраторы, выявлять потенциальные угрозы безопасности, особенно атаки на веб-приложения (такие как SQL-инъекции, XSS, WebShells и т. д.).
Курс и архитектурный справочник, основанные на авторитетных источниках, для инженеров, проектирующих системы, которые должны выдерживать реальный трафик, частичные отказы, проверки безопасности и меняющиеся требования; охватывает проектирование корпоративных систем, распределённые системы, системы ИИ, кибербезопасность, надёжность, облачные технологии, высокопроизводительные вычисления, периферийные вычисления и критически важную инфраструктуру.
Официальный репозиторий GPTFUZZER: Red Teaming больших языковых моделей с помощью автоматически сгенерированных jailbreak-подсказок
Антипаттерны безопасности кода ИИ, извлеченные из более чем 150 источников, чтобы помочь LLM генерировать более безопасный код.
Инструмент безопасности для AI-агентов с открытым исходным кодом, работающий в режиме реального времени — отслеживает и контролирует AI-агентов, выявляя вредоносное использование инструментов, инъекции промптов и отклонения от политик до того, как агент совершит действие.
MCP for Security: Коллекция серверов Model Context Protocol для популярных инструментов безопасности, таких как SQLMap, FFUF, NMAP, Masscan и других. Интегрируйте тестирование безопасности и пентестинг в рабочие процессы ИИ.
Эмуляция противника с открытым исходным кодом для ИИ-агентов и MCP-серверов.
Самостоятельно размещаемая плоскость управления средой выполнения для ИИ-агентов. Отслеживайте вызовы инструментов, подтверждайте их с участием человека (HITL) или блокируйте вредоносные вызовы до выполнения — чтобы предотвращать утечки секретов, инъекции промптов, атаки на цепочку поставок и другие угрозы. Управление осуществляется через локальную панель. Не зависит от агента (Claude, Codex, LangChain и др.).
Дорожная карта, описывающая необходимые навыки, учебные ресурсы и примеры инструментов для становления инженером по искусственному интеллекту
SDK для Python и TypeScript, обеспечивающие проверяемые доказательства действий ИИ-агентов. Подписанные квитанции, применение политик и журналы аудита. Работает с LangChain, CrewAI и MCP.
🛡️ CLI для аудита безопасности серверов Model Context Protocol (MCP) — проверяет конфигурации ИИ-агентов на отравление инструментов, мошеннические схемы rug pull, секреты, зашитые в код, внедрение команд и риски цепочки поставок. Чистый Python, поддержка SARIF и CI.
Плоскость управления полномочиями для автономной работы. EMILIA Gate применяет ограниченные мандаты, принадлежащие клиенту, на защищенных границах исполнителя; открытый протокол обеспечивает проверяемость доказательств.
vArmor — это облачная система усиления безопасности контейнеров, использующая технологии AppArmor/BPF/Seccomp и NetworkProxy для применения контроля доступа на уровнях от системных вызовов до протоколов приложений и защиты рабочих нагрузок, включая ИИ-агентов.
Инструмент перечисления поддоменов на основе ИИ с локальным анализом LLM через Ollama - 100% приватность, нулевые затраты на API
Сканер безопасности Docker на базе ИИ, который объясняет уязвимости простым языком. Проект OWASP Lab.
AgentSkillsHub (agentskillshub.top) — каталог навыков Claude, MCP-серверов и инструментов для ИИ-агентов с открытым исходным кодом и оценкой безопасности; обновляется каждые 8 часов
В этом документе собраны проекты с открытым исходным кодом, научные статьи, бенчмарки возможностей и коммерческие решения (международные и китайские) в области тестирования на проникновение с использованием ИИ, red teaming для LLM, автономных наступательных агентов и обнаружения уязвимостей. Документ призван помочь исследователям, инженерам по безопасности и лицам, принимающим решения в компаниях, быстро сформировать целостное представление об этой области.