Git Stars Git Stars

#llm-security 仓库

65
仓库总数
311,462
总星标数
4,791
平均每个仓库星标数
51
cckuailong/awesome-gpt-security

LLM或GPT的精选安全工具、实验案例或其他有趣事物的列表。

cckuailong
⭐ 678 👤 cckuailong User 🕐 已更新 2026-07-24 📅 创建时间 2023-04-13
⭐ 664 👤 pashov User 🕐 已更新 2026-11-13 📅 创建时间 2026-03-12
53
samvallad33/vestige

面向 AI 智能体的确定性操作系统、安全内核和因果神经系统。

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 已更新 2026-11-20 📅 创建时间 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: 语言模型越狱的开放鲁棒性基准测试 [NeurIPS 2024 数据集与基准测试轨道]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 已更新 2025-04-04 📅 创建时间 2023-11-13
55
secureagentics/Adrian

开源运行时 AI 智能体安全工具——实时监控和控制 AI 智能体,在智能体执行操作前捕获恶意工具使用、提示词注入和策略偏移。

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 已更新 2026-10-21 📅 创建时间 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

针对 AI 智能体和 MCP 服务器的开源对抗模拟。

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 已更新 2026-11-03 📅 创建时间 2026-04-06
57
PrismorSec/prismor

面向 AI 智能体的自托管运行时控制平面。通过本地控制面板,在工具调用执行前进行监控、人工审核(HITL)或拦截,防止机密泄露、提示词注入、供应链攻击等风险。兼容各类智能体(Claude、Codex、LangChain 等)。

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-20
58
General-Analysis/GA

关于用于使 AI 模型更安全的越狱技术的百科全书。

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 已更新 2025-05-26 📅 创建时间 2025-01-18
59
chawins/llm-sp

与LLM安全和隐私相关的论文和资源 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 已更新 2025-06-08 📅 创建时间 2023-11-15
60
haizelabs/llama3-jailbreak

一个简单的 Llama 3 程序化越狱。抱歉了 Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 已更新 2025-01-26 📅 创建时间 2024-04-20
61
jplhughes/bon-jailbreaking

Best-of-N 越狱代码发布

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 已更新 2025-02-05 📅 创建时间 2024-10-11
62
riseandignite/mcp-shield

MCP服务器安全扫描器

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 已更新 2025-04-26 📅 创建时间 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ 用于模型上下文协议(MCP)服务器的安全审计命令行工具——扫描 AI 代理配置,检测工具投毒、撤资跑路、硬编码密钥、命令注入和供应链风险。纯 Python 编写,支持 SARIF 和 CI。

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 已更新 2026-10-24 📅 创建时间 2026-09-26
64
liu00222/Open-Prompt-Injection

此代码仓库为大语言模型中的提示词注入攻击与防御提供了一个基准测试

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 已更新 2026-09-27 📅 创建时间 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

本文汇总了人工智能渗透测试、大语言模型(LLM)红队测试、自主攻击代理和漏洞发现领域的开源项目、学术论文、能力基准以及商业解决方案(涵盖国际市场和中国),旨在帮助研究人员、安全工程师和企业决策者快速形成全面的整体认知。

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 已更新 2026-11-19 📅 创建时间 2026-06-11