#prompt-injection Репозитории
Откройте для себя 45 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #prompt-injection, с общим числом 148,037 звёзд (в среднем 3,289 на проект). Лидером этой темы является ifixai-ai/iFixAi, набравший 46,592 звёзд.
Всего репозиториев: 44
Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.
Сканер безопасности для навыков ИИ-агентов. Обнаруживайте уязвимости, вредоносные шаблоны, риски безопасности, инъекции подсказок, утечку данных и риски цепочки поставок в навыках Claude Code, Codex и MCP перед их установкой.
dsh-purge Community · Версия DeepSeek Harness, поддерживаемая сообществом: совместимость с хост-средой, диагностика состояния, управление промптами, обновления, локальное резервное копирование и откат. Основана на dsh-purge от Xiaoyang / YuJunZhiXue.
Полноценная платформа для AI Red Teaming, обеспечивающая безопасность экосистем ИИ с помощью Agent Scan, Skills Scan, MCP Scan, AI Infra Scan и оценки взлома ограничений LLM.
Superagent защищает ваши приложения ИИ от инъекций промптов, утечек данных и вредоносных результатов. Внедрите меры безопасности непосредственно в ваше приложение и докажите соответствие требованиям вашим клиентам.
ChatGPT Jailbreaks, Утечки промптов GPT-ассистентов, Внедрение промптов GPT, Безопасность промптов LLM, Супер-промпты, Взлом промптов, Безопасность промптов, Инженерия промптов ИИ, Состязательное машинное обучение.
ADR обеспечивает безопасность корпоративных ИИ-агентов с помощью наблюдаемости, сравнительного анализа безопасности и обнаружения угроз. Развернуто в Uber.
Лаборатории игровой площадки AI Red Teaming для проведения тренингов по AI Red Teaming, включая инфраструктуру.
AI Safety HOT: ежедневные новости, статьи и инциденты в области безопасности ИИ в одном месте — джейлбрейки, инъекции промптов, выравнивание, оценки и управление. Сайт, ежедневная сводка, RSS и MCP.
Антивирус и межсетевой экран с открытым исходным кодом для ИИ-агентов: блокируйте во время выполнения рискованные инструменты, доступ к секретам, внедрение промптов, вредоносные пакеты, MCP-серверы, плагины и навыки.
Open-source брандмауэр для ИИ-агентов, обеспечивающий безопасность MCP и контроль исходящего трафика агентов. Сканирует опосредованный трафик HTTP, MCP, A2A и WebSocket на предмет эксфильтрации данных, SSRF и инъекций промптов, а также выдает подписанные посредником квитанции о действиях: проверяемые аудиторские доказательства извне агента.
Экспериментальный проект по обходу защитных механизмов для GPT 6.0 и WorkBuddy V4.1 Flash
🔍 LangKit: Инструментарий с открытым исходным кодом для мониторинга больших языковых моделей (LLM). 📚 Извлекает сигналы из подсказок и ответов, обеспечивая безопасность. 🛡️ Функции включают качество текста, метрики релевантности и анализ настроений. 📊 Комплексный инструмент для наблюдаемости LLM. 👀
Сканер PR с открытым исходным кодом и локальным приоритетом, который находит мёртвый код, ошибки безопасности, секреты, регрессии качества и ошибки ИИ-кода перед слиянием. Для новичков обратитесь к https://duriantaco.github.io/skylos/repo-map/
Это репозиторий, который направлен на предоставление обновлений о статусе взлома языковой модели OpenAI GPT.
Локальный аудит безопасности для ретрансляторов API ИИ и прокси LLM: обнаруживает внедрение промптов, подмену модели, переписывание вызовов инструментов, аномалии SSE, утечки ошибок и риски для Web3-кошельков. Сайт: https://apirelayaudit.com
HacxGPT CLI — Интерфейс командной строки с открытым исходным кодом для неограниченного доступа к моделям ИИ с поддержкой нескольких провайдеров, возможностями исследования инъекций промптов, настраиваемыми конечными точками API, совместимостью с Termux/Linux/Windows и богатым интерфейсом терминала для исследований безопасности и оценки red-team
Независимый агент безопасности для ПО, написанного ИИ. Находит проблемы, проверяет, реальны ли они, и показывает вам доказательства. Детерминированное ядро, API-ключ не требуется, вывод в форматах JSON и SARIF.
KawaiiGPT — Открытый LLM-шлюз для доступа к DeepSeek, Gemini и Kimi-K2 через обратно-инженеренный API Pollinations без необходимости API-ключей, встроенные возможности инъекции промптов для исследований безопасности, нативная поддержка Termux/Linux и богатый консольный интерфейс
Комплексный контрольный список безопасности для инструментов ИИ на базе MCP. Разработано SlowMist для защиты экосистем плагинов LLM.
Официальный джейлбрейк dsh-purge DeepSeek Harness: стандартный промпт ориентирован на китайские модели и основан на оригинальном Xiao Ma Jiang; полностью открытая версия без платного доступа, включающая полные библиотеки навыков и знаний, доступна бесплатно. Джейлбрейк для каждой модели — меняйте промпты в зависимости от модели. Поставьте звезду и добавьте в избранное ⭐
Фреймворк для редтиминга и оценки ИИ-агентов, построенный на таксономии ASI01–ASI10, вдохновлённой OWASP
Каждая практическая и предложенная защита от внедрения запросов.
Центр/исследовательская площадка для джейлбрейка LLM и обхода их фильтров безопасности.
Кураторский список отличных инструментов безопасности, экспериментальных случаев или других интересных вещей с LLM или GPT.
Детерминированная операционная система, ядро безопасности и причинно-следственная нервная система для ИИ-агентов.
mu (μ): большинство решений, которые принимает агент для программирования, не связаны с кодом. mu поручает небольшой модели 40 типов ответов «да/нет»: меньше потраченных впустую токенов, меньше автоматических одобрений и меньше запусков, обрывающихся на полпути. Создано на базе pi.
Инструмент безопасности для AI-агентов с открытым исходным кодом, работающий в режиме реального времени — отслеживает и контролирует AI-агентов, выявляя вредоносное использование инструментов, инъекции промптов и отклонения от политик до того, как агент совершит действие.
Эмуляция противника с открытым исходным кодом для ИИ-агентов и MCP-серверов.
Самостоятельно размещаемая плоскость управления средой выполнения для ИИ-агентов. Отслеживайте вызовы инструментов, подтверждайте их с участием человека (HITL) или блокируйте вредоносные вызовы до выполнения — чтобы предотвращать утечки секретов, инъекции промптов, атаки на цепочку поставок и другие угрозы. Управление осуществляется через локальную панель. Не зависит от агента (Claude, Codex, LangChain и др.).
🛡️ CLI для аудита безопасности серверов Model Context Protocol (MCP) — проверяет конфигурации ИИ-агентов на отравление инструментов, мошеннические схемы rug pull, секреты, зашитые в код, внедрение команд и риски цепочки поставок. Чистый Python, поддержка SARIF и CI.
Этот репозиторий предоставляет бенчмарк для атак и защиты от внедрения промптов в LLM
Часто задаваемые вопросы
Какой репозиторий по теме #prompt-injection наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #prompt-injection на GitHub — ifixai-ai/iFixAi, набравший 46,592 звёзд. Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.
Какие языки программирования чаще всего используются в репозиториях по теме #prompt-injection?
Среди наиболее высоко оценённых проектов по теме #prompt-injection на GitHub чаще всего используются языки программирования Python, TypeScript, HTML, JavaScript.
Как рассчитывается рейтинг репозиториев по теме #prompt-injection?
Мы отслеживаем 45 активных репозиториев с открытым исходным кодом, отмеченных тегом #prompt-injection (500 и более звёзд), с общим числом 148,037 звёзд и в среднем 3,289 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.