Git Stars Git Stars

#llm-security Repositorios

Descubre 65 repositorios activos de código abierto de GitHub etiquetados con #llm-security, que acumulan 311,462 estrellas en total (una media de 4,791 estrellas por proyecto). El líder de este tema es usestrix/strix, con 76,872 estrellas.

65
Total de Repositorios
311,462
Total de estrellas
4,791
Promedio de Estrellas/Repo

65 repositorios en total

1
usestrix/strix

Herramienta de prueba de penetración de IA de código abierto para encontrar y corregir las vulnerabilidades de su aplicación.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 Actualizado 2026-11-19 📅 Creado 2025-08-05
2
Lordog/dive-into-llms

Serie de tutoriales de programación "Sumérgete en LLM: Aprende modelos de lenguaje grandes"

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 Actualizado 2025-10-10 📅 Creado 2024-04-08
3
ifixai-ai/iFixAi

Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-27
4
NVIDIA/garak

el escáner de vulnerabilidades LLM

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 Actualizado 2026-11-18 📅 Creado 2023-05-10
5
Tencent/AI-Infra-Guard

Una plataforma integral de Red Teaming de IA que protege los ecosistemas de IA mediante Agent Scan, Skills Scan, MCP Scan, AI Infra Scan y la evaluación de jailbreaks de LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Actualizado 2026-11-20 📅 Creado 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Actualizado 2026-11-19 📅 Creado 2023-04-18
7
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — servidor MCP y CLI de defensa Blue de código abierto que protege JS/TS, Electron ASAR, WASM, Python, binarios nativos, SQLite, GGUF/Safetensors y Android DEX frente a agentes de ingeniería inversa basados en IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-25
8
awarexone/Agentic-Bug-Hunter

Kit de herramientas para la búsqueda de vulnerabilidades en programas de bug bounty impulsado por IA, que funciona con o sin suscripción.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 Actualizado 2026-11-12 📅 Creado 2026-03-08
9
Giskard-AI/giskard-oss

🐢 Biblioteca de código abierto para evaluación y pruebas de agentes LLM

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Actualizado 2026-11-20 📅 Creado 2022-03-06
10
0xeb/TheBigPromptLibrary

Una colección de indicaciones, indicaciones del sistema e instrucciones de LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Actualizado 2026-11-10 📅 Creado 2023-11-24
11
nolabs-ai/nono

Seguridad del entorno de ejecución de agentes: aislamiento en sandbox con cero confianza, cero configuración y cero latencia

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-01-31
12
meta-llama/PurpleLlama

Conjunto de herramientas para evaluar y mejorar la seguridad de LLM.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 Actualizado 2026-11-20 📅 Creado 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Hoja de trucos de ataques web

riramar
⭐ 4,438 👤 riramar User 🕐 Actualizado 2026-09-04 📅 Creado 2020-01-11
14
llm-attacks/llm-attacks

Ataques universales y transferibles a modelos lingüísticos alineados

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 Actualizado 2024-08-02 📅 Creado 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

Una colección de métodos científicos, procesos, algoritmos y sistemas para construir historias y modelos.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 Actualizado 2026-10-28 📅 Creado 2022-03-29
16
CyberStrikeus/CyberStrike

Arnés de seguridad ofensiva de código abierto impulsado por IA para pruebas de penetración automatizadas.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-02-14
17
verazuo/jailbreak_llms

Un conjunto de datos consta de 15,140 indicaciones de ChatGPT de Reddit, Discord, sitios web y conjuntos de datos de código abierto (incluidas 1,405 indicaciones de jailbreak).

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 Actualizado 2024-12-24 📅 Creado 2023-08-01
18
protectai/llm-guard

El kit de herramientas de seguridad para interacciones LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Actualizado 2025-12-15 📅 Creado 2023-07-27
19
Acmesec/PromptJailbreakManual

Manual de jailbreak de indicaciones

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Actualizado 2024-12-17 📅 Creado 2024-11-25
20
beelzebub-labs/beelzebub

Un framework runtime de engaño de bajo código seguro, aprovechando IA para Virtualización de Sistema.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 Actualizado 2026-11-20 📅 Creado 2022-05-08
21
uber/ADR

ADR asegura los agentes de IA empresariales mediante observabilidad, evaluación comparativa de seguridad y detección de amenazas. Implementado en Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-19
22
greshake/llm-security

Nuevas formas de romper LLM integrados en aplicaciones

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 Actualizado 2025-07-17 📅 Creado 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT: noticias, artículos e incidentes diarios sobre seguridad de la IA, todo en un solo lugar: jailbreaks, inyección de prompts, alineación, evaluaciones y gobernanza. Sitio web, resumen diario, RSS y MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-01
24
msoedov/agentic_security

Escáner de vulnerabilidades LLM Agentic / Kit de red teaming de IA 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 Actualizado 2026-11-19 📅 Creado 2024-04-11
25
llmgenai/LLMInterviewQuestions

Este repositorio contiene preguntas de entrevista de LLM (modelo de lenguaje grande) formuladas en empresas importantes como Google, Nvidia, Meta, Microsoft y empresas Fortune 500.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 Actualizado 2025-02-12 📅 Creado 2024-12-26
26
cyberark/FuzzyAI

Una potente herramienta para el fuzzing automatizado de LLM. Está diseñada para ayudar a los desarrolladores e investigadores de seguridad a identificar y mitigar posibles jailbreaks en sus API de LLM.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 Actualizado 2026-02-06 📅 Creado 2024-12-03
27
mark3labs/mcphost

Una aplicación host CLI que permite a los modelos de lenguaje grandes (LLM) interactuar con herramientas externas a través del Protocolo de Contexto del Modelo (MCP).

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 Actualizado 2026-02-26 📅 Creado 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

OWASP Top 10 para aplicaciones de modelos lingüísticos grandes (Parte del Proyecto de Seguridad GenAI)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 Actualizado 2026-08-05 📅 Creado 2023-05-16
29
xalgorix/xalgorix

Agente de pruebas de penetración con IA y código abierto que verifica mediante explotación cada hallazgo. Pentests autónomos en 22 fases para aplicaciones web y API, con informes PDF puntuados según CVSS. Autohospédalo, usa tu propio LLM o ejecútalo completamente en local con Ollama.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Actualizado 2026-11-01 📅 Creado 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Actualizado 2026-05-11 📅 Creado 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ Terminal de seguridad y escáner de vulnerabilidades gratuitos, de código abierto y potenciados por IA (CVE, SBOM). Compatibles con SSH, SFTP, RDP, VNC y conexiones serie, además de más de 12 agentes autónomos de IA (DeepSeek, OpenAI) para automatizar flujos de trabajo de seguridad, CTF y DevSecOps. Multiplataforma y con interfaz web.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 Actualizado 2026-11-04 📅 Creado 2026-09-10
33
ASCIT31/Dark-Moon

Pruebas de penetración autónomas con IA y de código abierto. 50 agentes especializados en web, API, nube, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo de rutas de ataque verificado mediante evidencias. Se ejecuta con un LLM local detrás de una Puerta de Privacidad. Se integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana y Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Actualizado 2026-11-21 📅 Creado 2024-11-26
34
splx-ai/agentic-radar

Un escáner de seguridad para sus flujos de trabajo de agentes LLM

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 Actualizado 2026-11-13 📅 Creado 2025-02-12
35
Zyrexnn/Cybermes

Marco de agentes autónomos para seguridad ofensiva, bug bounty y red teaming impulsado por Hermes Agent, habilidades de razonamiento especializadas y orquestación de LLM multimodelo.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 Actualizado 2026-11-16 📅 Creado 2026-08-19
36
Pantheon-Security/medusa

Escáner de seguridad con prioridad de IA. NUEVO en v2026.7: detección de compromiso de Claude Code: examine los hooks, permisos y habilidades de .claude/ antes de clonar, además de un escáner de firmas de ataque de IA siempre activo y reglas nativas de Rust y PHP. También: medusa scan --git para examinar cualquier repositorio, medusa secrets scan para claves API filtradas. Más de 40,000 patrones, sin configuración.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 Actualizado 2026-08-10 📅 Creado 2025-11-15
37
pipelab-org/pipelock

Firewall de agentes de IA de código abierto para seguridad MCP y salida de agentes. Escanea el tráfico mediado de HTTP, MCP, A2A y WebSocket en busca de exfiltración, SSRF e inyección de prompts, y emite recibos de acción firmados por el mediador: evidencia de auditoría verificable desde fuera del agente.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-08
38
wang-rui/phishguard-scaffold

Detección semántica conjunta y control de diseminación de ataques de phishing en redes sociales mediante modelado basado en LLama

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 Actualizado 2026-02-15 📅 Creado 2025-09-08
39
sherwinvishesh/SurrogateShield

Una barrera de protección centrada en la privacidad para LLM y flujos RAG. SurrogateShield detecta, elimina y reconstruye datos sensibles de identificación personal (PII) sobre la marcha, al tiempo que protege contra ataques adversarios.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 Actualizado 2026-10-16 📅 Creado 2026-05-13
40
openpcc/openpcc

Un marco de código abierto para la inferencia de IA privada verificable

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 Actualizado 2026-01-08 📅 Creado 2025-11-05
41
EasyJailbreak/EasyJailbreak

Un framework Python fácil de usar para generar indicaciones de jailbreak adversarias.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 Actualizado 2026-09-01 📅 Creado 2024-01-31
42
toby-bridges/api-relay-audit

Auditoría de seguridad local para relés de API de IA y proxies de LLM: detecta inyección de prompts, sustitución de modelos, alteración de llamadas a herramientas, anomalías de SSE, filtración de errores y riesgos para monederos Web3. Sitio web: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Actualizado 2026-11-18 📅 Creado 2026-03-30
43
asamassekou10/ship-safe

El agente de seguridad independiente para software escrito por IA. Encuentra problemas, investiga si son reales y le muestra la evidencia. Núcleo determinista, sin necesidad de clave API, salida en JSON y SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Actualizado 2026-10-17 📅 Creado 2026-02-02
44
OWASP/www-project-ai-testing-guide

repositorio web de la Fundación OWASP

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 Actualizado 2026-06-01 📅 Creado 2025-06-10
45
ThinkWatchProject/ThinkWatch

API de IA y puerta de enlace MCP autogestionados para organizaciones: SSO y RBAC, identidad por usuario para las llamadas a herramientas MCP, eliminación de datos personales (PII) y controles de seguridad para las llamadas a herramientas, límites de velocidad, presupuestos, contabilidad de costes y registros de auditoría.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-04-02
46
coipond/coi

Dale una máquina al agente. Pero no la tuya. Cada agente de programación de IA obtiene su propia máquina aislada con acceso root, Docker y systemd; la defensa activa detecta y detiene las amenazas automáticamente.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-01-07
47
Cygnux-Labs/Tracekit

Trazabilidad a prueba de manipulaciones, controles de políticas y verificaciones cruzadas para agentes de IA: descubre qué hizo el agente y por qué.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-09-26
48
l0gicx/ai-model-bypass

Explotar indicaciones y técnicas de juego de roles para eludir las restricciones del modelo de IA.

l0gicx
⭐ 722 👤 l0gicx User 🕐 Actualizado 2025-10-04 📅 Creado 2025-05-21
49
AgentSafeLabs/safelabs-eval

Marco de pruebas de equipo rojo y evaluación para agentes de IA, basado en una taxonomía ASI01–ASI10 inspirada en OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Actualizado 2026-11-06 📅 Creado 2026-05-25
50
arcjet/arcjet-js

Seguridad en tiempo de ejecución para aplicaciones y agentes de IA: detección de inyección de prompts, autorización de llamadas a herramientas, redacción de datos confidenciales, protección contra bots y limitación de tasa. Intégrelo fácilmente en su código JS/TS.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 Actualizado 2026-11-19 📅 Creado 2023-11-30

Preguntas frecuentes

1

¿Cuál es el repositorio de #llm-security más popular en GitHub?

El proyecto de código abierto de #llm-security mejor posicionado en GitHub es usestrix/strix, con 76,872 estrellas. Herramienta de prueba de penetración de IA de código abierto para encontrar y corregir las vulnerabilidades de su aplicación.

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-security?

Entre los proyectos de #llm-security mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Go, Jupyter Notebook, TypeScript.

3

¿Cómo se calcula la clasificación de los repositorios de #llm-security?

Seguimos 65 repositorios activos de código abierto etiquetados con #llm-security (500+ estrellas), que suman un total de 311,462 estrellas, con una media de 4,791 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.