Git Stars Git Stars

#llm-security Репозитории

Откройте для себя 65 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-security, с общим числом 311,462 звёзд (в среднем 4,791 на проект). Лидером этой темы является usestrix/strix, набравший 76,872 звёзд.

65
Всего репозиториев
311,462
Всего звезд
4,791
Среднее количество звезд на репозиторий

Всего репозиториев: 65

1
usestrix/strix

Инструмент тестирования на проникновение с открытым исходным кодом на основе ИИ для поиска и устранения уязвимостей вашего приложения.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 Обновлено 2026-11-19 📅 Создано 2025-08-05
2
Lordog/dive-into-llms

Серия практических учебных пособий по программированию «Погружение в LLM: Создание больших языковых моделей»

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 Обновлено 2025-10-10 📅 Создано 2024-04-08
3
ifixai-ai/iFixAi

Независимый аудит ИИ-агентов. Проводится человеком или самим агентом, чтобы ответить на самый важный вопрос в экономике ИИ-агентов: выполняет ли агент то, что должен? С iFixAi вы получите ответ менее чем за 120 секунд.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-04-27
4
NVIDIA/garak

сканер уязвимостей LLM

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-18 📅 Создано 2023-05-10
5
Tencent/AI-Infra-Guard

Полноценная платформа для AI Red Teaming, обеспечивающая безопасность экосистем ИИ с помощью Agent Scan, Skills Scan, MCP Scan, AI Infra Scan и оценки взлома ограничений LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Обновлено 2026-11-19 📅 Создано 2023-04-18
7
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — MCP-сервер и CLI с открытым исходным кодом для защиты Blue, оберегающие JS/TS, Electron ASAR, WASM, Python, нативные бинарные файлы, SQLite, GGUF/Safetensors и Android DEX от ИИ-агентов обратной разработки (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-25
8
awarexone/Agentic-Bug-Hunter

Инструментарий для поиска уязвимостей в рамках bug bounty на базе ИИ, работающий как с подпиской, так и без неё.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 Обновлено 2026-11-12 📅 Создано 2026-03-08
9
Giskard-AI/giskard-oss

🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Обновлено 2026-11-20 📅 Создано 2022-03-06
10
0xeb/TheBigPromptLibrary

Коллекция подсказок, системных подсказок и инструкций LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Обновлено 2026-11-10 📅 Создано 2023-11-24
11
nolabs-ai/nono

Безопасность агентов во время выполнения — изоляция агентов в песочнице с нулевым доверием, без настройки и задержек

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-01-31
12
meta-llama/PurpleLlama

Набор инструментов для оценки и улучшения безопасности LLM.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Шпаргалка по веб-атакам

riramar
⭐ 4,438 👤 riramar User 🕐 Обновлено 2026-09-04 📅 Создано 2020-01-11
14
llm-attacks/llm-attacks

Универсальные и переносимые атаки на выровненные языковые модели

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 Обновлено 2024-08-02 📅 Создано 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

Коллекция научных методов, процессов, алгоритмов и систем для создания историй и моделей.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 Обновлено 2026-10-28 📅 Создано 2022-03-29
16
CyberStrikeus/CyberStrike

Открытый AI-инструментарий для наступательной кибербезопасности и автоматизированного тестирования на проникновение.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-02-14
17
verazuo/jailbreak_llms

[CCS'24] Набор данных состоит из 15 140 подсказок ChatGPT из Reddit, Discord, веб-сайтов и наборов данных с открытым исходным кодом (включая 1 405 подсказок для обхода блокировки).

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 Обновлено 2024-12-24 📅 Создано 2023-08-01
18
protectai/llm-guard

Набор инструментов безопасности для LLM-взаимодействий

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Обновлено 2025-12-15 📅 Создано 2023-07-27
19
Acmesec/PromptJailbreakManual

Руководство по джейлбрейку промптов

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Обновлено 2024-12-17 📅 Создано 2024-11-25
20
beelzebub-labs/beelzebub

Безопасная платформа runtime для обмана с низким кодом, использующая ИИ для виртуализации системы.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 Обновлено 2026-11-20 📅 Создано 2022-05-08
21
uber/ADR

ADR обеспечивает безопасность корпоративных ИИ-агентов с помощью наблюдаемости, сравнительного анализа безопасности и обнаружения угроз. Развернуто в Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Обновлено 2026-11-20 📅 Создано 2026-04-19
22
greshake/llm-security

Новые способы взлома LLM, интегрированных в приложения

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 Обновлено 2025-07-17 📅 Создано 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT: ежедневные новости, статьи и инциденты в области безопасности ИИ в одном месте — джейлбрейки, инъекции промптов, выравнивание, оценки и управление. Сайт, ежедневная сводка, RSS и MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Обновлено 2026-11-21 📅 Создано 2026-10-01
24
msoedov/agentic_security

Сканер уязвимостей Agentic LLM / Набор для Red Teaming с ИИ 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 Обновлено 2026-11-19 📅 Создано 2024-04-11
25
llmgenai/LLMInterviewQuestions

Этот репозиторий содержит вопросы для собеседования по LLM (большая языковая модель), задаваемые в ведущих компаниях, таких как Google, Nvidia, Meta, Microsoft и компаниях из списка Fortune 500.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 Обновлено 2025-02-12 📅 Создано 2024-12-26
26
cyberark/FuzzyAI

Мощный инструмент для автоматизированного фаззинга LLM. Он разработан, чтобы помочь разработчикам и исследователям безопасности выявлять и смягчать потенциальные обходы защиты (jailbreaks) в их LLM API.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 Обновлено 2026-02-06 📅 Создано 2024-12-03
27
mark3labs/mcphost

Хост-приложение командной строки, позволяющее большим языковым моделям (LLM) взаимодействовать с внешними инструментами через протокол контекста модели (MCP).

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 Обновлено 2026-02-26 📅 Создано 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

OWASP Top 10 для приложений с большими языковыми моделями (Часть проекта по безопасности GenAI)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 Обновлено 2026-08-05 📅 Создано 2023-05-16
29
xalgorix/xalgorix

Пентестинговый ИИ-агент с открытым исходным кодом, который проверяет каждую находку с помощью эксплуатации уязвимости. Автономное тестирование веб-приложений и API в 22 этапа с PDF-отчётами, содержащими оценки CVSS. Разворачивайте его самостоятельно, используйте собственную LLM или запускайте полностью локально с Ollama.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Обновлено 2026-11-01 📅 Создано 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Обновлено 2026-05-11 📅 Создано 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ Бесплатный терминал безопасности и сканер уязвимостей с открытым исходным кодом на базе ИИ (CVE, SBOM). Поддерживает SSH, SFTP, RDP, VNC и последовательные подключения, а также более 12 автономных ИИ-агентов (DeepSeek, OpenAI) для автоматизации процессов обеспечения безопасности, CTF и DevSecOps. Кроссплатформенное решение с веб-интерфейсом.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 Обновлено 2026-11-04 📅 Создано 2026-09-10
33
ASCIT31/Dark-Moon

Автономное тестирование на проникновение с использованием ИИ и открытым исходным кодом. 50 специализированных агентов для веб-приложений, API, облака, Active Directory, Kubernetes, CI/CD и ИИ/LLM (OWASP LLM Top 10), а также граф путей атаки, проверенный на основе доказательств. Работает на локальной LLM за шлюзом конфиденциальности. Интегрируется с GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana и Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-11-26
34
splx-ai/agentic-radar

Сканер безопасности для ваших агентских рабочих процессов LLM

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 Обновлено 2026-11-13 📅 Создано 2025-02-12
35
Zyrexnn/Cybermes

Автономный агентный фреймворк для наступательной безопасности, Bug Bounty и Red Teaming на базе Hermes Agent, специализированных навыков логического мышления и оркестрации мультимодельных LLM.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 Обновлено 2026-11-16 📅 Создано 2026-08-19
36
Pantheon-Security/medusa

Сканер безопасности с приоритетом ИИ. НОВОЕ в v2026.7: обнаружение компрометации кода Claude — проверка хуков, разрешений и навыков .claude/ перед клонированием — плюс постоянно работающий сканер сигнатур атак ИИ и собственные правила Rust и PHP. Также: medusa scan --git для проверки любого репозитория, medusa secrets scan для утекших ключей API. Более 40 000 шаблонов, нулевая настройка.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 Обновлено 2026-08-10 📅 Создано 2025-11-15
37
pipelab-org/pipelock

Open-source брандмауэр для ИИ-агентов, обеспечивающий безопасность MCP и контроль исходящего трафика агентов. Сканирует опосредованный трафик HTTP, MCP, A2A и WebSocket на предмет эксфильтрации данных, SSRF и инъекций промптов, а также выдает подписанные посредником квитанции о действиях: проверяемые аудиторские доказательства извне агента.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-08
38
wang-rui/phishguard-scaffold

Совместное семантическое обнаружение и контроль распространения фишинговых атак в социальных сетях с помощью моделирования на основе LLama

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 Обновлено 2026-02-15 📅 Создано 2025-09-08
39
sherwinvishesh/SurrogateShield

Защитный механизм для LLM и конвейеров RAG, в котором конфиденциальность стоит на первом месте. SurrogateShield в режиме реального времени обнаруживает, маскирует и восстанавливает конфиденциальные персональные данные (PII), одновременно защищая от состязательных атак.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 Обновлено 2026-10-16 📅 Создано 2026-05-13
40
openpcc/openpcc

Структура с открытым исходным кодом для проверяемого приватного вывода ИИ

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 Обновлено 2026-01-08 📅 Создано 2025-11-05
41
EasyJailbreak/EasyJailbreak

Простая в использовании Python-платформа для создания враждебных подсказок, обводящих ограничения.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 Обновлено 2026-09-01 📅 Создано 2024-01-31
42
toby-bridges/api-relay-audit

Локальный аудит безопасности для ретрансляторов API ИИ и прокси LLM: обнаруживает внедрение промптов, подмену модели, переписывание вызовов инструментов, аномалии SSE, утечки ошибок и риски для Web3-кошельков. Сайт: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Обновлено 2026-11-18 📅 Создано 2026-03-30
43
asamassekou10/ship-safe

Независимый агент безопасности для ПО, написанного ИИ. Находит проблемы, проверяет, реальны ли они, и показывает вам доказательства. Детерминированное ядро, API-ключ не требуется, вывод в форматах JSON и SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Обновлено 2026-10-17 📅 Создано 2026-02-02
44
OWASP/www-project-ai-testing-guide

веб-репозиторий Фонда OWASP

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 Обновлено 2026-06-01 📅 Создано 2025-06-10
45
ThinkWatchProject/ThinkWatch

Самостоятельно размещаемые ИИ API и шлюз MCP для организаций: SSO и RBAC, идентификация каждого пользователя при вызовах инструментов MCP, удаление персональных данных (PII) и защита вызовов инструментов, ограничение частоты запросов, бюджеты, учёт затрат и журналы аудита.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-04-02
46
coipond/coi

Дайте агенту отдельную машину. Только не свою. Каждый ИИ-агент для программирования получает собственную изолированную машину с root-доступом, Docker и systemd — активная защита автоматически обнаруживает и блокирует угрозы.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-01-07
47
Cygnux-Labs/Tracekit

Защищённая от подделки трассировка, проверки политик и перекрёстный контроль для ИИ-агентов: узнайте, что сделал агент и почему.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-09-26
48
l0gicx/ai-model-bypass

Использовать промпты и методы ролевой игры для обхода ограничений модели ИИ.

l0gicx
⭐ 722 👤 l0gicx User 🕐 Обновлено 2025-10-04 📅 Создано 2025-05-21
49
AgentSafeLabs/safelabs-eval

Фреймворк для редтиминга и оценки ИИ-агентов, построенный на таксономии ASI01–ASI10, вдохновлённой OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Обновлено 2026-11-06 📅 Создано 2026-05-25
50
arcjet/arcjet-js

Безопасность во время выполнения для ИИ-приложений и агентов: обнаружение инъекций промптов, авторизация вызовов инструментов, маскирование конфиденциальных данных, защита от ботов и ограничение частоты запросов. Просто добавьте в свой JS/TS-код.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 Обновлено 2026-11-19 📅 Создано 2023-11-30

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-security наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-security на GitHub — usestrix/strix, набравший 76,872 звёзд. Инструмент тестирования на проникновение с открытым исходным кодом на основе ИИ для поиска и устранения уязвимостей вашего приложения.

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-security?

Среди наиболее высоко оценённых проектов по теме #llm-security на GitHub чаще всего используются языки программирования Python, Go, Jupyter Notebook, TypeScript.

3

Как рассчитывается рейтинг репозиториев по теме #llm-security?

Мы отслеживаем 65 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-security (500 и более звёзд), с общим числом 311,462 звёзд и в среднем 4,791 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.