Git Stars Git Stars

#prompt-injection Repositorios

Descubre 45 repositorios activos de código abierto de GitHub etiquetados con #prompt-injection, que acumulan 148,037 estrellas en total (una media de 3,289 estrellas por proyecto). El líder de este tema es ifixai-ai/iFixAi, con 46,592 estrellas.

45
Total de Repositorios
148,037
Total de estrellas
3,289
Promedio de Estrellas/Repo

44 repositorios en total

1
ifixai-ai/iFixAi

Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-27
2
NVIDIA/SkillSpector

Escáner de seguridad para habilidades de agentes de IA. Detecte vulnerabilidades, patrones maliciosos, riesgos de seguridad, inyección de prompts, exfiltración de datos y riesgos de la cadena de suministro en habilidades de Claude Code, Codex y MCP antes de instalarlas.

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · Versión de DeepSeek Harness mantenida por la comunidad: compatibilidad con el entorno anfitrión, diagnóstico de estado, gestión de prompts, actualizaciones y copias de seguridad y reversión locales. Basado en dsh-purge de Xiaoyang / YuJunZhiXue.

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 Actualizado 2026-11-18 📅 Creado 2026-10-16
4
Tencent/AI-Infra-Guard

Una plataforma integral de Red Teaming de IA que protege los ecosistemas de IA mediante Agent Scan, Skills Scan, MCP Scan, AI Infra Scan y la evaluación de jailbreaks de LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Actualizado 2026-11-20 📅 Creado 2024-12-25
5
superagent-ai/superagent

Superagent protege sus aplicaciones de IA contra inyecciones de prompt, fugas de datos y salidas dañinas. Incorpore la seguridad directamente en su aplicación y demuestre el cumplimiento a sus clientes.

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 Actualizado 2026-08-25 📅 Creado 2023-05-10
6
0xeb/TheBigPromptLibrary

Una colección de indicaciones, indicaciones del sistema e instrucciones de LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Actualizado 2026-11-10 📅 Creado 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

Jailbreaks de ChatGPT, Fugas de prompts de Asistentes GPT, Inyección de prompts de GPT, Seguridad de prompts LLM, Super Prompts, Hack de prompts, Seguridad de prompts, Ingeniería de prompts de IA, Aprendizaje automático adversario.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 Actualizado 2026-05-05 📅 Creado 2024-03-15
8
protectai/llm-guard

El kit de herramientas de seguridad para interacciones LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Actualizado 2025-12-15 📅 Creado 2023-07-27
9
Acmesec/PromptJailbreakManual

Manual de jailbreak de indicaciones

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Actualizado 2024-12-17 📅 Creado 2024-11-25
10
uber/ADR

ADR asegura los agentes de IA empresariales mediante observabilidad, evaluación comparativa de seguridad y detección de amenazas. Implementado en Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

Laboratorios de campo de juego de AI Red Teaming para ejecutar capacitaciones de AI Red Teaming, incluida la infraestructura.

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 Actualizado 2026-02-13 📅 Creado 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT: noticias, artículos e incidentes diarios sobre seguridad de la IA, todo en un solo lugar: jailbreaks, inyección de prompts, alineación, evaluaciones y gobernanza. Sitio web, resumen diario, RSS y MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-01
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Actualizado 2026-11-01 📅 Creado 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Actualizado 2026-05-11 📅 Creado 2025-09-24
15
utkusen/promptmap

un escáner de seguridad para aplicaciones LLM personalizadas

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 Actualizado 2025-12-01 📅 Creado 2023-07-15
16
hashgraph-online/hol-guard

Antivirus y cortafuegos de código abierto para agentes de IA: bloquea en tiempo de ejecución herramientas de riesgo, el acceso a secretos, la inyección de prompts, paquetes maliciosos, servidores MCP, complementos y habilidades.

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-03-28
17
trailofbits/anamorpher

ataques de escalado de imágenes para inyección de indicaciones multimodales

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 Actualizado 2026-05-19 📅 Creado 2025-08-20
18
ethz-spylab/agentdojo

Un entorno dinámico para evaluar ataques y defensas para agentes LLM.

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 Actualizado 2026-06-02 📅 Creado 2024-02-29
19
pipelab-org/pipelock

Firewall de agentes de IA de código abierto para seguridad MCP y salida de agentes. Escanea el tráfico mediado de HTTP, MCP, A2A y WebSocket en busca de exfiltración, SSRF e inyección de prompts, y emite recibos de acción firmados por el mediador: evidencia de auditoría verificable desde fuera del agente.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-08
20
aimeoa/hanshuang-codex

Proyecto de experimentación de ruptura de protecciones dirigido a GPT 6.0 y WorkBuddy V4.1 Flash

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 Actualizado 2026-10-17 📅 Creado 2026-09-06
21
whylabs/langkit

🔍 LangKit: Un toolkit de código abierto para la monitorización de Modelos de Lenguaje Grandes (LLMs). 📚 Extrae señales de los prompts y respuestas, garantizando la seguridad. 🛡️ Las funciones incluyen calidad del texto, métricas de relevancia y análisis de sentimiento. 📊 Una herramienta completa para la observabilidad de LLMs. 👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 Actualizado 2024-11-22 📅 Creado 2023-04-26
22
duriantaco/skylos

Escáner de PR de código abierto y local primero que encuentra código muerto, errores de seguridad, secretos, regresiones de calidad y errores de código de IA antes de la fusión. Para principiantes, consulte https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 Actualizado 2026-11-21 📅 Creado 2025-04-28
23
tg12/gpt_jailbreak_status

Este es un repositorio que tiene como objetivo proporcionar actualizaciones sobre el estado de la liberación del modelo de lenguaje GPT de OpenAI.

tg12
⭐ 934 HTML 👤 tg12 User 🕐 Actualizado 2026-05-16 📅 Creado 2023-03-01
24
toby-bridges/api-relay-audit

Auditoría de seguridad local para relés de API de IA y proxies de LLM: detecta inyección de prompts, sustitución de modelos, alteración de llamadas a herramientas, anomalías de SSE, filtración de errores y riesgos para monederos Web3. Sitio web: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Actualizado 2026-11-18 📅 Creado 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — Interfaz de línea de comandos de código abierto para acceso ilimitado a modelos de IA con soporte multi-proveedor, capacidades de investigación de inyección de prompts, endpoints de API configurables, compatibilidad con Termux/Linux/Windows y UI de terminal Rich para investigación de seguridad y evaluación de red team

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 Actualizado 2026-03-13 📅 Creado 2026-03-09
26
asamassekou10/ship-safe

El agente de seguridad independiente para software escrito por IA. Encuentra problemas, investiga si son reales y le muestra la evidencia. Núcleo determinista, sin necesidad de clave API, salida en JSON y SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Actualizado 2026-10-17 📅 Creado 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — Pasarela LLM de código abierto que accede a DeepSeek, Gemini y Kimi-K2 a través de la API de Pollinations ingenierizada inversamente sin necesidad de claves API, capacidades integradas de inyección de prompts para investigación de seguridad, soporte nativo de Termux/Linux e interfaz de consola rica

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 Actualizado 2026-03-13 📅 Creado 2026-03-09
28
slowmist/MCP-Security-Checklist

Una lista de verificación de seguridad completa para herramientas de IA basadas en MCP. Creada por SlowMist para proteger los ecosistemas de complementos de LLM.

slowmist
⭐ 829 👤 slowmist Organization 🕐 Actualizado 2025-04-28 📅 Creado 2025-04-12
29
CallMeGuLab/dsh-purge-safe

Jailbreak oficial de dsh-purge DeepSeek Harness: el prompt predeterminado está adaptado para modelos chinos y se basa en el Xiao Ma Jiang original; versión completamente abierta, sin muro de pago, con las bases de habilidades y conocimientos completas incluidas, disponible gratis. Jailbreak para todos los modelos: cambia los prompts según el modelo. ¡Se agradece una estrella y un favorito ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 Actualizado 2026-11-20 📅 Creado 2026-11-07
30
AgentSafeLabs/safelabs-eval

Marco de pruebas de equipo rojo y evaluación para agentes de IA, basado en una taxonomía ASI01–ASI10 inspirada en OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Actualizado 2026-11-06 📅 Creado 2026-05-25
31
tldrsec/prompt-injection-defenses

Cada defensa práctica y propuesta contra la inyección de prompts.

tldrsec
⭐ 696 👤 tldrsec User 🕐 Actualizado 2025-02-22 📅 Creado 2024-04-01
32
lalipa2003-arch/JailbreakHub

Un centro/área de investigación para hacer jailbreak a los LLM y vulnerar sus filtros de seguridad.

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 Actualizado 2026-11-20 📅 Creado 2026-09-27
33
cckuailong/awesome-gpt-security

Una lista curada de geniales herramientas de seguridad, casos experimentales u otras cosas interesantes con LLM o GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Actualizado 2026-07-24 📅 Creado 2023-04-13
⭐ 677 👤 MemorySquidBlade User 🕐 Actualizado 2026-09-14 📅 Creado 2026-08-29
35
zacfrulloni/Prompt-Engineering-Holy-Grail

Configurar OpenClaw: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 Actualizado 2026-03-22 📅 Creado 2024-10-31
36
samvallad33/vestige

Sistema operativo determinista, núcleo de seguridad y sistema nervioso causal para agentes de IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Actualizado 2026-11-20 📅 Creado 2026-01-25
37
qybaihe/mu

mu (μ): la mayoría de las decisiones de un agente de programación no tienen que ver con código. mu delega 40 tipos de decisiones de sí o no en un modelo pequeño: menos tokens desperdiciados, menos aprobaciones automáticas y menos ejecuciones que se quedan a medias. Basado en pi.

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 Actualizado 2026-11-19 📅 Creado 2026-09-22
38
secureagentics/Adrian

Herramienta de seguridad de tiempo de ejecución para agentes de IA de código abierto: supervisa y controla a los agentes de IA, detectando el uso malintencionado de herramientas, la inyección de prompts y la desviación de políticas en tiempo real, antes de que el agente actúe.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Actualizado 2026-10-21 📅 Creado 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

Emulación de adversarios de código abierto para agentes de IA y servidores MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Actualizado 2026-11-03 📅 Creado 2026-04-06
40
PrismorSec/prismor

Plano de control en tiempo de ejecución autohospedado para agentes de IA. Supervisa, aprueba con intervención humana (HITL) o bloquea llamadas maliciosas a herramientas antes de que se ejecuten, para evitar filtraciones de secretos, inyección de prompts, ataques a la cadena de suministro y otros riesgos, desde un panel local. Compatible con cualquier agente (Claude, Codex, LangChain, etc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-20
41
haizelabs/llama3-jailbreak

Una trivial explotación programática de Llama 3. ¡Lo siento, Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Actualizado 2025-01-26 📅 Creado 2024-04-20
42
riseandignite/mcp-shield

Escáner de seguridad para servidores MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Actualizado 2025-04-26 📅 Creado 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ CLI de auditoría de seguridad para servidores del Protocolo de Contexto del Modelo (MCP): analiza las configuraciones de agentes de IA en busca de envenenamiento de herramientas, estafas de salida, secretos codificados, inyección de comandos y riesgos en la cadena de suministro. Solo Python, compatible con SARIF y CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Actualizado 2026-10-24 📅 Creado 2026-09-26
44
liu00222/Open-Prompt-Injection

Este repositorio proporciona un punto de referencia para los ataques y las defensas contra la inyección de prompts en los LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Actualizado 2026-09-27 📅 Creado 2023-10-19

Preguntas frecuentes

1

¿Cuál es el repositorio de #prompt-injection más popular en GitHub?

El proyecto de código abierto de #prompt-injection mejor posicionado en GitHub es ifixai-ai/iFixAi, con 46,592 estrellas. Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #prompt-injection?

Entre los proyectos de #prompt-injection mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, TypeScript, HTML, JavaScript.

3

¿Cómo se calcula la clasificación de los repositorios de #prompt-injection?

Seguimos 45 repositorios activos de código abierto etiquetados con #prompt-injection (500+ estrellas), que suman un total de 148,037 estrellas, con una media de 3,289 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.