Git Stars Git Stars

#prompt-injection Репозитории

Откройте для себя 45 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #prompt-injection, с общим числом 148,037 звёзд (в среднем 3,289 на проект). Лидером этой темы является ifixai-ai/iFixAi, набравший 46,592 звёзд.

45
Всего репозиториев
148,037
Всего звезд
3,289
Среднее количество звезд на репозиторий

Всего репозиториев: 44

1
ifixai-ai/iFixAi

Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-04-27
2
NVIDIA/SkillSpector

Сканер безопасности для навыков ИИ-агентов. Обнаруживайте уязвимости, вредоносные шаблоны, риски безопасности, инъекции подсказок, утечку данных и риски цепочки поставок в навыках Claude Code, Codex и MCP перед их установкой.

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · Версия DeepSeek Harness, поддерживаемая сообществом: совместимость с хост-средой, диагностика состояния, управление промптами, обновления, локальное резервное копирование и откат. Основана на dsh-purge от Xiaoyang / YuJunZhiXue.

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 Обновлено 2026-11-18 📅 Создано 2026-10-16
4
Tencent/AI-Infra-Guard

Полноценная платформа для AI Red Teaming, обеспечивающая безопасность экосистем ИИ с помощью Agent Scan, Skills Scan, MCP Scan, AI Infra Scan и оценки взлома ограничений LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-12-25
5
superagent-ai/superagent

Superagent защищает ваши приложения ИИ от инъекций промптов, утечек данных и вредоносных результатов. Внедрите меры безопасности непосредственно в ваше приложение и докажите соответствие требованиям вашим клиентам.

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 Обновлено 2026-08-25 📅 Создано 2023-05-10
6
0xeb/TheBigPromptLibrary

Коллекция подсказок, системных подсказок и инструкций LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Обновлено 2026-11-10 📅 Создано 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

ChatGPT Jailbreaks, Утечки промптов GPT-ассистентов, Внедрение промптов GPT, Безопасность промптов LLM, Супер-промпты, Взлом промптов, Безопасность промптов, Инженерия промптов ИИ, Состязательное машинное обучение.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 Обновлено 2026-05-05 📅 Создано 2024-03-15
8
protectai/llm-guard

Набор инструментов безопасности для LLM-взаимодействий

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Обновлено 2025-12-15 📅 Создано 2023-07-27
9
Acmesec/PromptJailbreakManual

Руководство по джейлбрейку промптов

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Обновлено 2024-12-17 📅 Создано 2024-11-25
10
uber/ADR

ADR обеспечивает безопасность корпоративных ИИ-агентов с помощью наблюдаемости, сравнительного анализа безопасности и обнаружения угроз. Развернуто в Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

Лаборатории игровой площадки AI Red Teaming для проведения тренингов по AI Red Teaming, включая инфраструктуру.

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 Обновлено 2026-02-13 📅 Создано 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT: ежедневные новости, статьи и инциденты в области безопасности ИИ в одном месте — джейлбрейки, инъекции промптов, выравнивание, оценки и управление. Сайт, ежедневная сводка, RSS и MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-01
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Обновлено 2026-11-01 📅 Создано 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Обновлено 2026-05-11 📅 Создано 2025-09-24
15
utkusen/promptmap

сканер безопасности для пользовательских LLM-приложений

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 Обновлено 2025-12-01 📅 Создано 2023-07-15
16
hashgraph-online/hol-guard

Антивирус и межсетевой экран с открытым исходным кодом для ИИ-агентов: блокируйте во время выполнения рискованные инструменты, доступ к секретам, внедрение промптов, вредоносные пакеты, MCP-серверы, плагины и навыки.

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-03-28
17
trailofbits/anamorpher

атаки масштабирования изображений для многомодальной инъекции промптов

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 Обновлено 2026-05-19 📅 Создано 2025-08-20
18
ethz-spylab/agentdojo

Динамическая среда для оценки атак и защит для агентов LLM.

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 Обновлено 2026-06-02 📅 Создано 2024-02-29
19
pipelab-org/pipelock

Open-source брандмауэр для ИИ-агентов, обеспечивающий безопасность MCP и контроль исходящего трафика агентов. Сканирует опосредованный трафик HTTP, MCP, A2A и WebSocket на предмет эксфильтрации данных, SSRF и инъекций промптов, а также выдает подписанные посредником квитанции о действиях: проверяемые аудиторские доказательства извне агента.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-08
20
aimeoa/hanshuang-codex

Экспериментальный проект по обходу защитных механизмов для GPT 6.0 и WorkBuddy V4.1 Flash

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 Обновлено 2026-10-17 📅 Создано 2026-09-06
21
whylabs/langkit

🔍 LangKit: Инструментарий с открытым исходным кодом для мониторинга больших языковых моделей (LLM). 📚 Извлекает сигналы из подсказок и ответов, обеспечивая безопасность. 🛡️ Функции включают качество текста, метрики релевантности и анализ настроений. 📊 Комплексный инструмент для наблюдаемости LLM. 👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 Обновлено 2024-11-22 📅 Создано 2023-04-26
22
duriantaco/skylos

Сканер PR с открытым исходным кодом и локальным приоритетом, который находит мёртвый код, ошибки безопасности, секреты, регрессии качества и ошибки ИИ-кода перед слиянием. Для новичков обратитесь к https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 Обновлено 2026-11-21 📅 Создано 2025-04-28
23
tg12/gpt_jailbreak_status

Это репозиторий, который направлен на предоставление обновлений о статусе взлома языковой модели OpenAI GPT.

tg12
⭐ 934 HTML 👤 tg12 User 🕐 Обновлено 2026-05-16 📅 Создано 2023-03-01
24
toby-bridges/api-relay-audit

Локальный аудит безопасности для ретрансляторов API ИИ и прокси LLM: обнаруживает внедрение промптов, подмену модели, переписывание вызовов инструментов, аномалии SSE, утечки ошибок и риски для Web3-кошельков. Сайт: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Обновлено 2026-11-18 📅 Создано 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — Интерфейс командной строки с открытым исходным кодом для неограниченного доступа к моделям ИИ с поддержкой нескольких провайдеров, возможностями исследования инъекций промптов, настраиваемыми конечными точками API, совместимостью с Termux/Linux/Windows и богатым интерфейсом терминала для исследований безопасности и оценки red-team

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 Обновлено 2026-03-13 📅 Создано 2026-03-09
26
asamassekou10/ship-safe

Независимый агент безопасности для ПО, написанного ИИ. Находит проблемы, проверяет, реальны ли они, и показывает вам доказательства. Детерминированное ядро, API-ключ не требуется, вывод в форматах JSON и SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Обновлено 2026-10-17 📅 Создано 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — Открытый LLM-шлюз для доступа к DeepSeek, Gemini и Kimi-K2 через обратно-инженеренный API Pollinations без необходимости API-ключей, встроенные возможности инъекции промптов для исследований безопасности, нативная поддержка Termux/Linux и богатый консольный интерфейс

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 Обновлено 2026-03-13 📅 Создано 2026-03-09
28
slowmist/MCP-Security-Checklist

Комплексный контрольный список безопасности для инструментов ИИ на базе MCP. Разработано SlowMist для защиты экосистем плагинов LLM.

slowmist
⭐ 829 👤 slowmist Organization 🕐 Обновлено 2025-04-28 📅 Создано 2025-04-12
29
CallMeGuLab/dsh-purge-safe

Официальный джейлбрейк dsh-purge DeepSeek Harness: стандартный промпт ориентирован на китайские модели и основан на оригинальном Xiao Ma Jiang; полностью открытая версия без платного доступа, включающая полные библиотеки навыков и знаний, доступна бесплатно. Джейлбрейк для каждой модели — меняйте промпты в зависимости от модели. Поставьте звезду и добавьте в избранное ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 Обновлено 2026-11-20 📅 Создано 2026-11-07
30
AgentSafeLabs/safelabs-eval

Фреймворк для редтиминга и оценки ИИ-агентов, построенный на таксономии ASI01–ASI10, вдохновлённой OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Обновлено 2026-11-06 📅 Создано 2026-05-25
31
tldrsec/prompt-injection-defenses

Каждая практическая и предложенная защита от внедрения запросов.

tldrsec
⭐ 696 👤 tldrsec User 🕐 Обновлено 2025-02-22 📅 Создано 2024-04-01
32
lalipa2003-arch/JailbreakHub

Центр/исследовательская площадка для джейлбрейка LLM и обхода их фильтров безопасности.

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 Обновлено 2026-11-20 📅 Создано 2026-09-27
33
cckuailong/awesome-gpt-security

Кураторский список отличных инструментов безопасности, экспериментальных случаев или других интересных вещей с LLM или GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Обновлено 2026-07-24 📅 Создано 2023-04-13
⭐ 677 👤 MemorySquidBlade User 🕐 Обновлено 2026-09-14 📅 Создано 2026-08-29
35
zacfrulloni/Prompt-Engineering-Holy-Grail

Установить OpenClaw: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 Обновлено 2026-03-22 📅 Создано 2024-10-31
36
samvallad33/vestige

Детерминированная операционная система, ядро безопасности и причинно-следственная нервная система для ИИ-агентов.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Обновлено 2026-11-20 📅 Создано 2026-01-25
37
qybaihe/mu

mu (μ): большинство решений, которые принимает агент для программирования, не связаны с кодом. mu поручает небольшой модели 40 типов ответов «да/нет»: меньше потраченных впустую токенов, меньше автоматических одобрений и меньше запусков, обрывающихся на полпути. Создано на базе pi.

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 Обновлено 2026-11-19 📅 Создано 2026-09-22
38
secureagentics/Adrian

Инструмент безопасности для AI-агентов с открытым исходным кодом, работающий в режиме реального времени — отслеживает и контролирует AI-агентов, выявляя вредоносное использование инструментов, инъекции промптов и отклонения от политик до того, как агент совершит действие.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Обновлено 2026-10-21 📅 Создано 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

Эмуляция противника с открытым исходным кодом для ИИ-агентов и MCP-серверов.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Обновлено 2026-11-03 📅 Создано 2026-04-06
40
PrismorSec/prismor

Самостоятельно размещаемая плоскость управления средой выполнения для ИИ-агентов. Отслеживайте вызовы инструментов, подтверждайте их с участием человека (HITL) или блокируйте вредоносные вызовы до выполнения — чтобы предотвращать утечки секретов, инъекции промптов, атаки на цепочку поставок и другие угрозы. Управление осуществляется через локальную панель. Не зависит от агента (Claude, Codex, LangChain и др.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-20
41
haizelabs/llama3-jailbreak

Тривиальный программный джейлбрейк Llama 3. Извини, Цукерберг!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Обновлено 2025-01-26 📅 Создано 2024-04-20
42
riseandignite/mcp-shield

Сканер безопасности для серверов MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Обновлено 2025-04-26 📅 Создано 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ CLI для аудита безопасности серверов Model Context Protocol (MCP) — проверяет конфигурации ИИ-агентов на отравление инструментов, мошеннические схемы rug pull, секреты, зашитые в код, внедрение команд и риски цепочки поставок. Чистый Python, поддержка SARIF и CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Обновлено 2026-10-24 📅 Создано 2026-09-26
44
liu00222/Open-Prompt-Injection

Этот репозиторий предоставляет бенчмарк для атак и защиты от внедрения промптов в LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Обновлено 2026-09-27 📅 Создано 2023-10-19

Часто задаваемые вопросы

1

Какой репозиторий по теме #prompt-injection наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #prompt-injection на GitHub — ifixai-ai/iFixAi, набравший 46,592 звёзд. Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.

2

Какие языки программирования чаще всего используются в репозиториях по теме #prompt-injection?

Среди наиболее высоко оценённых проектов по теме #prompt-injection на GitHub чаще всего используются языки программирования Python, TypeScript, HTML, JavaScript.

3

Как рассчитывается рейтинг репозиториев по теме #prompt-injection?

Мы отслеживаем 45 активных репозиториев с открытым исходным кодом, отмеченных тегом #prompt-injection (500 и более звёзд), с общим числом 148,037 звёзд и в среднем 3,289 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.