Git Stars Git Stars

#prompt-injection 仓库

探索 45 个标记为 #prompt-injection 的活跃开源 GitHub 仓库,它们累计获得 148,037 个 Star(平均每个项目 3,289 个)。该主题的领先项目是 ifixai-ai/iFixAi,拥有 46,592 个 Star。

45
仓库总数
148,037
总星标数
3,289
平均每个仓库星标数
1
ifixai-ai/iFixAi

AI 智能体独立审计。无论是人工运行还是由智能体自身运行,旨在回答 AI 智能体经济中最关键的问题:该智能体是否在执行其应有的任务?使用 iFixAi,您可以在 120 秒内获得答案。

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-04-27
2
NVIDIA/SkillSpector

AI代理技能安全扫描器。在安装Claude Code、Codex和MCP技能之前,检测漏洞、恶意模式、安全风险、提示注入、数据泄露和供应链风险。

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · DeepSeek Harness 社区维护版:宿主兼容、状态诊断、提示词管理、更新与本机备份回滚。基于小杨 / YuJunZhiXue 的 dsh-purge。

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 已更新 2026-11-18 📅 创建时间 2026-10-16
4
Tencent/AI-Infra-Guard

一个全栈式 AI 红队测试平台,通过 Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估,保障 AI 生态系统安全。

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-12-25
5
superagent-ai/superagent

Superagent 保护您的 AI 应用程序免受提示注入、数据泄露和有害输出的侵害。将安全功能直接嵌入到您的应用程序中,并向您的客户证明合规性。

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 已更新 2026-08-25 📅 创建时间 2023-05-10
6
0xeb/TheBigPromptLibrary

提示、系统提示和 LLM 指令的集合

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 已更新 2026-11-10 📅 创建时间 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

ChatGPT 越狱, GPT 助手提示泄露, GPTs 提示注入, LLM 提示安全, Super Prompts, 提示破解, 提示安全, AI 提示工程, 对抗性机器学习.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 已更新 2026-05-05 📅 创建时间 2024-03-15
8
protectai/llm-guard

LLM 交互的安全工具包

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 已更新 2025-12-15 📅 创建时间 2023-07-27
⭐ 3,049 👤 Acmesec Organization 🕐 已更新 2024-12-17 📅 创建时间 2024-11-25
10
uber/ADR

ADR通过可观测性、安全基准测试和威胁检测来保护企业AI代理。已在Uber部署。

uber
⭐ 2,143 Python 👤 uber Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

AI Red Teaming 练习场实验室,用于运行 AI Red Teaming 培训,包括基础设施。

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 已更新 2026-02-13 📅 创建时间 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT:每日 AI 安全新闻、论文和事件,一站汇集——越狱、提示注入、对齐、评测与治理。提供网站、每日摘要、RSS 和 MCP。

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-01
⭐ 1,376 Python 👤 harishsg993010 User 🕐 已更新 2026-11-01 📅 创建时间 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 已更新 2026-05-11 📅 创建时间 2025-09-24
15
utkusen/promptmap

用于自定义 LLM 应用程序的安全扫描仪

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 已更新 2025-12-01 📅 创建时间 2023-07-15
16
hashgraph-online/hol-guard

面向 AI 智能体的开源杀毒软件和防火墙:在运行时拦截高风险工具、机密信息访问、提示注入、恶意软件包、MCP 服务器、插件和技能。

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-03-28
17
trailofbits/anamorpher

用于多模态提示注入的图像缩放攻击

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 已更新 2026-05-19 📅 创建时间 2025-08-20
18
ethz-spylab/agentdojo

用于评估LLM代理攻击与防御的动态环境。

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 已更新 2026-06-02 📅 创建时间 2024-02-29
19
pipelab-org/pipelock

用于 MCP 安全和代理出口的开源 AI 代理防火墙。扫描受控的 HTTP、MCP、A2A 和 WebSocket 流量以检测数据外泄、SSRF 和提示注入,并发出经中介签名的操作回执:来自代理外部的可验证审计证据。

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-08
20
aimeoa/hanshuang-codex

针对GPT 6.0、WorkBuddy V4.1 Flash的破甲实验项目

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 已更新 2026-10-17 📅 创建时间 2026-09-06
21
whylabs/langkit

🔍 LangKit: 一个用于监控大型语言模型 (LLM) 的开源工具包。📚 从提示和响应中提取信号,确保安全。🛡️ 功能包括文本质量、相关性指标和情感分析。📊 LLM 可观测性的综合工具。👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 已更新 2024-11-22 📅 创建时间 2023-04-26
22
duriantaco/skylos

开源本地优先的PR扫描器,可在合并前发现死代码、安全漏洞、密钥、质量回退和AI代码错误。首次使用者请参考 https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 已更新 2026-11-21 📅 创建时间 2025-04-28
23
tg12/gpt_jailbreak_status

这是一个旨在提供OpenAI GPT语言模型越狱状态更新的存储库。

tg12
⭐ 934 HTML 👤 tg12 User 🕐 已更新 2026-05-16 📅 创建时间 2023-03-01
24
toby-bridges/api-relay-audit

面向 AI API 中继和 LLM 代理的本地安全审计:检测提示注入、模型替换、工具调用篡改、SSE 异常、错误信息泄露以及 Web3 钱包风险。网站:https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 已更新 2026-11-18 📅 创建时间 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — 开源命令行界面,用于无限制访问AI模型,支持多提供商、提示注入研究功能、可配置API端点、Termux/Linux/Windows兼容性,以及用于安全研究和红队评估的丰富终端UI

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 已更新 2026-03-13 📅 创建时间 2026-03-09
26
asamassekou10/ship-safe

面向AI编写软件的独立安全代理。发现问题,调查其是否真实存在,并向您展示证据。确定性核心,无需API密钥,支持JSON和SARIF输出。

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 已更新 2026-10-17 📅 创建时间 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — 开源 LLM 网关,通过逆向工程的 Pollinations API 访问 DeepSeek、Gemini 和 Kimi-K2,无需 API 密钥,内置提示注入功能用于安全研究,支持 Termux/Linux 原生运行,以及丰富的控制台界面

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 已更新 2026-03-13 📅 创建时间 2026-03-09
28
slowmist/MCP-Security-Checklist

适用于MCP驱动的AI工具的全面安全清单。由SlowMist构建,旨在保护LLM插件生态系统。

slowmist
⭐ 829 👤 slowmist Organization 🕐 已更新 2025-04-28 📅 创建时间 2025-04-12
29
CallMeGuLab/dsh-purge-safe

正版 dsh-purge DeepSeek Harness 破甲:默认提示词面向国模,原小码酱,完整开放版,无付费墙,技能库与知识库全含,免费公开。适用于每个模型的越狱——按模型切换提示词。求 Star 收藏 ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 已更新 2026-11-20 📅 创建时间 2026-11-07
30
AgentSafeLabs/safelabs-eval

面向 AI 智能体的红队测试与评估框架,基于受 OWASP 启发的 ASI01–ASI10 分类体系构建

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 已更新 2026-11-06 📅 创建时间 2026-05-25
31
tldrsec/prompt-injection-defenses

所有针对提示注入的实际和建议的防御措施。

tldrsec
⭐ 696 👤 tldrsec User 🕐 已更新 2025-02-22 📅 创建时间 2024-04-01
32
lalipa2003-arch/JailbreakHub

一个用于研究如何越狱大型语言模型并突破其安全过滤机制的中心/研究区域。

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 已更新 2026-11-20 📅 创建时间 2026-09-27
33
cckuailong/awesome-gpt-security

LLM或GPT的精选安全工具、实验案例或其他有趣事物的列表。

cckuailong
⭐ 678 👤 cckuailong User 🕐 已更新 2026-07-24 📅 创建时间 2023-04-13
⭐ 677 👤 MemorySquidBlade User 🕐 已更新 2026-09-14 📅 创建时间 2026-08-29
35
zacfrulloni/Prompt-Engineering-Holy-Grail

设置 OpenClaw: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 已更新 2026-03-22 📅 创建时间 2024-10-31
36
samvallad33/vestige

面向 AI 智能体的确定性操作系统、安全内核和因果神经系统。

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 已更新 2026-11-20 📅 创建时间 2026-01-25
37
qybaihe/mu

mu(μ):编码代理做出的决策,大多数都与代码无关。mu 将 40 类是非判断交给一个小模型:减少浪费的 token,减少自动放行的审批,减少半途停止的运行。基于 pi 构建。

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 已更新 2026-11-19 📅 创建时间 2026-09-22
38
secureagentics/Adrian

开源运行时 AI 智能体安全工具——实时监控和控制 AI 智能体,在智能体执行操作前捕获恶意工具使用、提示词注入和策略偏移。

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 已更新 2026-10-21 📅 创建时间 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

针对 AI 智能体和 MCP 服务器的开源对抗模拟。

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 已更新 2026-11-03 📅 创建时间 2026-04-06
40
PrismorSec/prismor

面向 AI 智能体的自托管运行时控制平面。通过本地控制面板,在工具调用执行前进行监控、人工审核(HITL)或拦截,防止机密泄露、提示词注入、供应链攻击等风险。兼容各类智能体(Claude、Codex、LangChain 等)。

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-20
41
haizelabs/llama3-jailbreak

一个简单的 Llama 3 程序化越狱。抱歉了 Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 已更新 2025-01-26 📅 创建时间 2024-04-20
42
riseandignite/mcp-shield

MCP服务器安全扫描器

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 已更新 2025-04-26 📅 创建时间 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ 用于模型上下文协议(MCP)服务器的安全审计命令行工具——扫描 AI 代理配置,检测工具投毒、撤资跑路、硬编码密钥、命令注入和供应链风险。纯 Python 编写,支持 SARIF 和 CI。

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 已更新 2026-10-24 📅 创建时间 2026-09-26
44
liu00222/Open-Prompt-Injection

此代码仓库为大语言模型中的提示词注入攻击与防御提供了一个基准测试

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 已更新 2026-09-27 📅 创建时间 2023-10-19

常见问题解答

1

GitHub 上最受欢迎的 #prompt-injection 仓库是什么?

GitHub 上排名第一的开源 #prompt-injection 项目是 ifixai-ai/iFixAi,拥有 46,592 个 Star。AI 智能体独立审计。无论是人工运行还是由智能体自身运行,旨在回答 AI 智能体经济中最关键的问题:该智能体是否在执行其应有的任务?使用 iFixAi,您可以在 120 秒内获得答案。

2

#prompt-injection 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #prompt-injection 项目中,最常见的编程语言是 Python, TypeScript, HTML, JavaScript。

3

#prompt-injection 仓库的排名是如何计算的?

我们跟踪了 45 个标记为 #prompt-injection 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 148,037 个 Star,平均每个仓库拥有 3,289 个 Star。排名每日根据 GitHub API 更新。