Git Stars Git Stars

#llm-security 仓库

探索 65 个标记为 #llm-security 的活跃开源 GitHub 仓库,它们累计获得 311,462 个 Star(平均每个项目 4,791 个)。该主题的领先项目是 usestrix/strix,拥有 76,872 个 Star。

65
仓库总数
311,462
总星标数
4,791
平均每个仓库星标数
1
usestrix/strix

开源AI渗透测试工具,用于发现并修复您的应用程序漏洞。

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 已更新 2026-11-19 📅 创建时间 2025-08-05
2
Lordog/dive-into-llms

《动手学大模型Dive into LLMs》系列编程实践教程

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 已更新 2025-10-10 📅 创建时间 2024-04-08
3
ifixai-ai/iFixAi

AI 智能体独立审计。无论是人工运行还是由智能体自身运行,旨在回答 AI 智能体经济中最关键的问题:该智能体是否在执行其应有的任务?使用 iFixAi,您可以在 120 秒内获得答案。

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-04-27
4
NVIDIA/garak

LLM漏洞扫描器

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 已更新 2026-11-18 📅 创建时间 2023-05-10
5
Tencent/AI-Infra-Guard

一个全栈式 AI 红队测试平台,通过 Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估,保障 AI 生态系统安全。

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails 是一个开源库,可用于为 LLM 和智能体应用实施可编程的安全与防护控制。

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 已更新 2026-11-19 📅 创建时间 2023-04-18
7
qybaihe/bla

🛡️ BLA(bla-agents / Blind LLM Agents,盲化 LLM 智能体)——开源的蓝队防御 MCP 服务器和 CLI,可保护 JS/TS、Electron ASAR、WASM、Python、原生二进制文件、SQLite、GGUF/Safetensors 和 Android DEX,抵御 AI 逆向工程智能体(REA)。

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-25
8
awarexone/Agentic-Bug-Hunter

支持订阅或不订阅使用的 AI 驱动漏洞赏金猎捕工具包。

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 已更新 2026-11-12 📅 创建时间 2026-03-08
9
Giskard-AI/giskard-oss

🐢 面向 LLM 智能体的开源评估与测试库

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 已更新 2026-11-20 📅 创建时间 2022-03-06
10
0xeb/TheBigPromptLibrary

提示、系统提示和 LLM 指令的集合

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 已更新 2026-11-10 📅 创建时间 2023-11-24
11
nolabs-ai/nono

智能体运行时安全——零信任、零配置、零延迟的智能体沙箱

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-01-31
12
meta-llama/PurpleLlama

用于评估和改进 LLM 安全性的工具集。

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 已更新 2026-11-20 📅 创建时间 2023-12-06
13
riramar
⭐ 4,438 👤 riramar User 🕐 已更新 2026-09-04 📅 创建时间 2020-01-11
14
llm-attacks/llm-attacks

面向对齐语言模型的通用可迁移攻击

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 已更新 2024-08-02 📅 创建时间 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

一套用于构建故事和模型的科学方法、流程、算法和系统。

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 已更新 2026-10-28 📅 创建时间 2022-03-29
16
CyberStrikeus/CyberStrike

用于自动化渗透测试的开源人工智能驱动的进攻性安全测试框架。

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-02-14
17
verazuo/jailbreak_llms

一个数据集包含来自 Reddit、Discord、网站和开源数据集的 15,140 个 ChatGPT 提示(包括 1,405 个越狱提示)。

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 已更新 2024-12-24 📅 创建时间 2023-08-01
18
protectai/llm-guard

LLM 交互的安全工具包

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 已更新 2025-12-15 📅 创建时间 2023-07-27
⭐ 3,049 👤 Acmesec Organization 🕐 已更新 2024-12-17 📅 创建时间 2024-11-25
20
beelzebub-labs/beelzebub

一个安全的低代码欺骗运行时框架,利用 AI 进行系统虚拟化。

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 已更新 2026-11-20 📅 创建时间 2022-05-08
21
uber/ADR

ADR通过可观测性、安全基准测试和威胁检测来保护企业AI代理。已在Uber部署。

uber
⭐ 2,143 Python 👤 uber Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-04-19
22
greshake/llm-security

破解应用集成 LLM 的新方法

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 已更新 2025-07-17 📅 创建时间 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT:每日 AI 安全新闻、论文和事件,一站汇集——越狱、提示注入、对齐、评测与治理。提供网站、每日摘要、RSS 和 MCP。

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 已更新 2026-11-21 📅 创建时间 2026-10-01
24
msoedov/agentic_security

Agentic LLM 易受攻击性扫描器 / AI 红队演练套件 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 已更新 2026-11-19 📅 创建时间 2024-04-11
25
llmgenai/LLMInterviewQuestions

该存储库包含在Google、Nvidia、Meta、Microsoft和财富500强公司等顶级公司中提出的LLM(大型语言模型)面试问题。

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 已更新 2025-02-12 📅 创建时间 2024-12-26
26
cyberark/FuzzyAI

一个强大的自动化 LLM Fuzzing 工具。它旨在帮助开发人员和安全研究人员识别和缓解其 LLM API 中潜在的越狱问题。

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 已更新 2026-02-06 📅 创建时间 2024-12-03
27
mark3labs/mcphost

一个 CLI 主机应用程序,它使大型语言模型 (LLM) 能够通过模型上下文协议 (MCP) 与外部工具进行交互。

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 已更新 2026-02-26 📅 创建时间 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

大型语言模型应用程序的 OWASP Top 10(GenAI 安全项目的一部分)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 已更新 2026-08-05 📅 创建时间 2023-05-16
29
xalgorix/xalgorix

开源 AI 渗透测试代理,能够通过漏洞利用验证每一项发现。针对 Web 应用和 API 进行自主的 22 阶段渗透测试,并生成带有 CVSS 评分的 PDF 报告。支持自托管、使用您自己的大语言模型(LLM),或通过 Ollama 完全在本地运行。

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 已更新 2026-11-01 📅 创建时间 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 已更新 2026-05-11 📅 创建时间 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ 免费开源的 AI 安全终端与漏洞扫描器(CVE、SBOM)。支持 SSH、SFTP、RDP、VNC、串口,以及 12 种以上自主 AI 智能体(DeepSeek、OpenAI),助力自动化安全工作流、CTF 和 DevSecOps。支持跨平台,并提供 Web UI。

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 已更新 2026-11-04 📅 创建时间 2026-09-10
33
ASCIT31/Dark-Moon

开源自主 AI 渗透测试。配备 50 个专业智能体,覆盖 Web、API、云、Active Directory、Kubernetes、CI/CD 以及 AI/LLM(OWASP LLM Top 10),并提供经过证据核验的攻击路径图。运行于隐私网关之后的本地 LLM。可与 GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana 和 Splunk 集成。

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-11-26
34
splx-ai/agentic-radar

LLM 代理工作流的安全扫描器

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 已更新 2026-11-13 📅 创建时间 2025-02-12
35
Zyrexnn/Cybermes

基于 Hermes Agent、专业推理能力以及多模型 LLM 编排的自主进攻性安全、漏洞赏金与红队智能体框架。

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 已更新 2026-11-16 📅 创建时间 2026-08-19
36
Pantheon-Security/medusa

AI优先的安全扫描器。v2026.7新功能:Claude代码入侵检测——在克隆前审查.claude/钩子、权限和技能——外加始终在线的AI攻击特征扫描器和原生Rust与PHP规则。此外:medusa scan --git 审查任何仓库,medusa secrets scan 扫描泄露的API密钥。40,000+种模式,零设置。

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 已更新 2026-08-10 📅 创建时间 2025-11-15
37
pipelab-org/pipelock

用于 MCP 安全和代理出口的开源 AI 代理防火墙。扫描受控的 HTTP、MCP、A2A 和 WebSocket 流量以检测数据外泄、SSRF 和提示注入,并发出经中介签名的操作回执:来自代理外部的可验证审计证据。

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-02-08
38
wang-rui/phishguard-scaffold

基于LLama模型的社交媒体网络钓鱼攻击的联合语义检测与传播控制

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 已更新 2026-02-15 📅 创建时间 2025-09-08
39
sherwinvishesh/SurrogateShield

为隐私优先的 LLM 和 RAG 流程提供防护屏障。SurrogateShield 可实时检测、脱敏并还原敏感个人身份信息(PII),同时抵御对抗性攻击。

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 已更新 2026-10-16 📅 创建时间 2026-05-13
40
openpcc/openpcc

一个用于可验证私有AI推理的开源框架

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 已更新 2026-01-08 📅 创建时间 2025-11-05
41
EasyJailbreak/EasyJailbreak

一个易于使用的 Python 框架,用于生成对抗性越狱提示。

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 已更新 2026-09-01 📅 创建时间 2024-01-31
42
toby-bridges/api-relay-audit

面向 AI API 中继和 LLM 代理的本地安全审计:检测提示注入、模型替换、工具调用篡改、SSE 异常、错误信息泄露以及 Web3 钱包风险。网站:https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 已更新 2026-11-18 📅 创建时间 2026-03-30
43
asamassekou10/ship-safe

面向AI编写软件的独立安全代理。发现问题,调查其是否真实存在,并向您展示证据。确定性核心,无需API密钥,支持JSON和SARIF输出。

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 已更新 2026-10-17 📅 创建时间 2026-02-02
44
OWASP/www-project-ai-testing-guide

OWASP 基金会网络仓库

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 已更新 2026-06-01 📅 创建时间 2025-06-10
45
ThinkWatchProject/ThinkWatch

面向组织的自托管 AI API 和 MCP 网关:支持单点登录(SSO)和基于角色的访问控制(RBAC)、为 MCP 工具调用提供每用户身份、个人身份信息(PII)脱敏和工具调用防护、速率限制、预算、成本核算及审计日志。

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-02
46
coipond/coi

给智能体一台机器,但不是你的那台。每个 AI 编程智能体都拥有一台独立隔离的机器,配备 root 权限、Docker 和 systemd——主动防御会自动检测并阻止威胁。

coipond
⭐ 790 Go 👤 coipond Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-01-07
47
Cygnux-Labs/Tracekit

为 AI 智能体提供防篡改追踪、策略关卡和交叉核验:了解智能体做了什么,以及为什么这样做。

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-09-26
48
l0gicx/ai-model-bypass

利用提示词和角色扮演技巧绕过AI模型的限制。

l0gicx
⭐ 722 👤 l0gicx User 🕐 已更新 2025-10-04 📅 创建时间 2025-05-21
49
AgentSafeLabs/safelabs-eval

面向 AI 智能体的红队测试与评估框架,基于受 OWASP 启发的 ASI01–ASI10 分类体系构建

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 已更新 2026-11-06 📅 创建时间 2026-05-25
50
arcjet/arcjet-js

针对 AI 应用和智能体的运行时安全防护:包含提示词注入检测、工具调用授权、敏感数据脱敏、机器人防护以及速率限制。可直接集成到您的 JS/TS 代码中。

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 已更新 2026-11-19 📅 创建时间 2023-11-30

常见问题解答

1

GitHub 上最受欢迎的 #llm-security 仓库是什么?

GitHub 上排名第一的开源 #llm-security 项目是 usestrix/strix,拥有 76,872 个 Star。开源AI渗透测试工具,用于发现并修复您的应用程序漏洞。

2

#llm-security 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llm-security 项目中,最常见的编程语言是 Python, Go, Jupyter Notebook, TypeScript。

3

#llm-security 仓库的排名是如何计算的?

我们跟踪了 65 个标记为 #llm-security 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 311,462 个 Star,平均每个仓库拥有 4,791 个 Star。排名每日根据 GitHub API 更新。