Git Stars Git Stars

#llm-security Репозитории

65
Всего репозиториев
311,462
Всего звезд
4,791
Среднее количество звезд на репозиторий
Языки программирования: Python TypeScript Rust Jupyter Notebook

Всего репозиториев: 65

51
cckuailong/awesome-gpt-security

Кураторский список отличных инструментов безопасности, экспериментальных случаев или других интересных вещей с LLM или GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Обновлено 2026-07-24 📅 Создано 2023-04-13
⭐ 664 👤 pashov User 🕐 Обновлено 2026-11-13 📅 Создано 2026-03-12
53
samvallad33/vestige

Детерминированная операционная система, ядро безопасности и причинно-следственная нервная система для ИИ-агентов.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Обновлено 2026-11-20 📅 Создано 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: Открытый бенчмарк устойчивости для взлома языковых моделей [Трек датасетов и бенчмарков NeurIPS 2024]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 Обновлено 2025-04-04 📅 Создано 2023-11-13
55
secureagentics/Adrian

Инструмент безопасности для AI-агентов с открытым исходным кодом, работающий в режиме реального времени — отслеживает и контролирует AI-агентов, выявляя вредоносное использование инструментов, инъекции промптов и отклонения от политик до того, как агент совершит действие.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Обновлено 2026-10-21 📅 Создано 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

Эмуляция противника с открытым исходным кодом для ИИ-агентов и MCP-серверов.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Обновлено 2026-11-03 📅 Создано 2026-04-06
57
PrismorSec/prismor

Самостоятельно размещаемая плоскость управления средой выполнения для ИИ-агентов. Отслеживайте вызовы инструментов, подтверждайте их с участием человека (HITL) или блокируйте вредоносные вызовы до выполнения — чтобы предотвращать утечки секретов, инъекции промптов, атаки на цепочку поставок и другие угрозы. Управление осуществляется через локальную панель. Не зависит от агента (Claude, Codex, LangChain и др.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-20
58
General-Analysis/GA

Энциклопедия методов джейлбрейка для повышения безопасности моделей ИИ.

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 Обновлено 2025-05-26 📅 Создано 2025-01-18
59
chawins/llm-sp

Документы и ресурсы, связанные с безопасностью и конфиденциальностью LLM 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 Обновлено 2025-06-08 📅 Создано 2023-11-15
60
haizelabs/llama3-jailbreak

Тривиальный программный джейлбрейк Llama 3. Извини, Цукерберг!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Обновлено 2025-01-26 📅 Создано 2024-04-20
61
jplhughes/bon-jailbreaking

Выпуск кода для джейлбрейка Best-of-N

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 Обновлено 2025-02-05 📅 Создано 2024-10-11
62
riseandignite/mcp-shield

Сканер безопасности для серверов MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Обновлено 2025-04-26 📅 Создано 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ CLI для аудита безопасности серверов Model Context Protocol (MCP) — проверяет конфигурации ИИ-агентов на отравление инструментов, мошеннические схемы rug pull, секреты, зашитые в код, внедрение команд и риски цепочки поставок. Чистый Python, поддержка SARIF и CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Обновлено 2026-10-24 📅 Создано 2026-09-26
64
liu00222/Open-Prompt-Injection

Этот репозиторий предоставляет бенчмарк для атак и защиты от внедрения промптов в LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Обновлено 2026-09-27 📅 Создано 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

В этом документе собраны проекты с открытым исходным кодом, научные статьи, бенчмарки возможностей и коммерческие решения (международные и китайские) в области тестирования на проникновение с использованием ИИ, red teaming для LLM, автономных наступательных агентов и обнаружения уязвимостей. Документ призван помочь исследователям, инженерам по безопасности и лицам, принимающим решения в компаниях, быстро сформировать целостное представление об этой области.

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 Обновлено 2026-11-19 📅 Создано 2026-06-11