#prompt-injection Repositorios
Descubre 45 repositorios activos de código abierto de GitHub etiquetados con #prompt-injection, que acumulan 148,037 estrellas en total (una media de 3,289 estrellas por proyecto). El líder de este tema es ifixai-ai/iFixAi, con 46,592 estrellas.
44 repositorios en total
Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.
Escáner de seguridad para habilidades de agentes de IA. Detecte vulnerabilidades, patrones maliciosos, riesgos de seguridad, inyección de prompts, exfiltración de datos y riesgos de la cadena de suministro en habilidades de Claude Code, Codex y MCP antes de instalarlas.
dsh-purge Community · Versión de DeepSeek Harness mantenida por la comunidad: compatibilidad con el entorno anfitrión, diagnóstico de estado, gestión de prompts, actualizaciones y copias de seguridad y reversión locales. Basado en dsh-purge de Xiaoyang / YuJunZhiXue.
Una plataforma integral de Red Teaming de IA que protege los ecosistemas de IA mediante Agent Scan, Skills Scan, MCP Scan, AI Infra Scan y la evaluación de jailbreaks de LLM.
Superagent protege sus aplicaciones de IA contra inyecciones de prompt, fugas de datos y salidas dañinas. Incorpore la seguridad directamente en su aplicación y demuestre el cumplimiento a sus clientes.
Una colección de indicaciones, indicaciones del sistema e instrucciones de LLM
Jailbreaks de ChatGPT, Fugas de prompts de Asistentes GPT, Inyección de prompts de GPT, Seguridad de prompts LLM, Super Prompts, Hack de prompts, Seguridad de prompts, Ingeniería de prompts de IA, Aprendizaje automático adversario.
ADR asegura los agentes de IA empresariales mediante observabilidad, evaluación comparativa de seguridad y detección de amenazas. Implementado en Uber.
Laboratorios de campo de juego de AI Red Teaming para ejecutar capacitaciones de AI Red Teaming, incluida la infraestructura.
AI Safety HOT: noticias, artículos e incidentes diarios sobre seguridad de la IA, todo en un solo lugar: jailbreaks, inyección de prompts, alineación, evaluaciones y gobernanza. Sitio web, resumen diario, RSS y MCP.
Antivirus y cortafuegos de código abierto para agentes de IA: bloquea en tiempo de ejecución herramientas de riesgo, el acceso a secretos, la inyección de prompts, paquetes maliciosos, servidores MCP, complementos y habilidades.
ataques de escalado de imágenes para inyección de indicaciones multimodales
Firewall de agentes de IA de código abierto para seguridad MCP y salida de agentes. Escanea el tráfico mediado de HTTP, MCP, A2A y WebSocket en busca de exfiltración, SSRF e inyección de prompts, y emite recibos de acción firmados por el mediador: evidencia de auditoría verificable desde fuera del agente.
Proyecto de experimentación de ruptura de protecciones dirigido a GPT 6.0 y WorkBuddy V4.1 Flash
🔍 LangKit: Un toolkit de código abierto para la monitorización de Modelos de Lenguaje Grandes (LLMs). 📚 Extrae señales de los prompts y respuestas, garantizando la seguridad. 🛡️ Las funciones incluyen calidad del texto, métricas de relevancia y análisis de sentimiento. 📊 Una herramienta completa para la observabilidad de LLMs. 👀
Escáner de PR de código abierto y local primero que encuentra código muerto, errores de seguridad, secretos, regresiones de calidad y errores de código de IA antes de la fusión. Para principiantes, consulte https://duriantaco.github.io/skylos/repo-map/
Este es un repositorio que tiene como objetivo proporcionar actualizaciones sobre el estado de la liberación del modelo de lenguaje GPT de OpenAI.
Auditoría de seguridad local para relés de API de IA y proxies de LLM: detecta inyección de prompts, sustitución de modelos, alteración de llamadas a herramientas, anomalías de SSE, filtración de errores y riesgos para monederos Web3. Sitio web: https://apirelayaudit.com
HacxGPT CLI — Interfaz de línea de comandos de código abierto para acceso ilimitado a modelos de IA con soporte multi-proveedor, capacidades de investigación de inyección de prompts, endpoints de API configurables, compatibilidad con Termux/Linux/Windows y UI de terminal Rich para investigación de seguridad y evaluación de red team
El agente de seguridad independiente para software escrito por IA. Encuentra problemas, investiga si son reales y le muestra la evidencia. Núcleo determinista, sin necesidad de clave API, salida en JSON y SARIF.
KawaiiGPT — Pasarela LLM de código abierto que accede a DeepSeek, Gemini y Kimi-K2 a través de la API de Pollinations ingenierizada inversamente sin necesidad de claves API, capacidades integradas de inyección de prompts para investigación de seguridad, soporte nativo de Termux/Linux e interfaz de consola rica
Una lista de verificación de seguridad completa para herramientas de IA basadas en MCP. Creada por SlowMist para proteger los ecosistemas de complementos de LLM.
Jailbreak oficial de dsh-purge DeepSeek Harness: el prompt predeterminado está adaptado para modelos chinos y se basa en el Xiao Ma Jiang original; versión completamente abierta, sin muro de pago, con las bases de habilidades y conocimientos completas incluidas, disponible gratis. Jailbreak para todos los modelos: cambia los prompts según el modelo. ¡Se agradece una estrella y un favorito ⭐
Marco de pruebas de equipo rojo y evaluación para agentes de IA, basado en una taxonomía ASI01–ASI10 inspirada en OWASP
Cada defensa práctica y propuesta contra la inyección de prompts.
Un centro/área de investigación para hacer jailbreak a los LLM y vulnerar sus filtros de seguridad.
Una lista curada de geniales herramientas de seguridad, casos experimentales u otras cosas interesantes con LLM o GPT.
Sistema operativo determinista, núcleo de seguridad y sistema nervioso causal para agentes de IA.
mu (μ): la mayoría de las decisiones de un agente de programación no tienen que ver con código. mu delega 40 tipos de decisiones de sí o no en un modelo pequeño: menos tokens desperdiciados, menos aprobaciones automáticas y menos ejecuciones que se quedan a medias. Basado en pi.
Herramienta de seguridad de tiempo de ejecución para agentes de IA de código abierto: supervisa y controla a los agentes de IA, detectando el uso malintencionado de herramientas, la inyección de prompts y la desviación de políticas en tiempo real, antes de que el agente actúe.
Emulación de adversarios de código abierto para agentes de IA y servidores MCP.
Plano de control en tiempo de ejecución autohospedado para agentes de IA. Supervisa, aprueba con intervención humana (HITL) o bloquea llamadas maliciosas a herramientas antes de que se ejecuten, para evitar filtraciones de secretos, inyección de prompts, ataques a la cadena de suministro y otros riesgos, desde un panel local. Compatible con cualquier agente (Claude, Codex, LangChain, etc.).
🛡️ CLI de auditoría de seguridad para servidores del Protocolo de Contexto del Modelo (MCP): analiza las configuraciones de agentes de IA en busca de envenenamiento de herramientas, estafas de salida, secretos codificados, inyección de comandos y riesgos en la cadena de suministro. Solo Python, compatible con SARIF y CI.
Este repositorio proporciona un punto de referencia para los ataques y las defensas contra la inyección de prompts en los LLM
Preguntas frecuentes
¿Cuál es el repositorio de #prompt-injection más popular en GitHub?
El proyecto de código abierto de #prompt-injection mejor posicionado en GitHub es ifixai-ai/iFixAi, con 46,592 estrellas. Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.
¿Qué lenguajes de programación se utilizan más en los repositorios de #prompt-injection?
Entre los proyectos de #prompt-injection mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, TypeScript, HTML, JavaScript.
¿Cómo se calcula la clasificación de los repositorios de #prompt-injection?
Seguimos 45 repositorios activos de código abierto etiquetados con #prompt-injection (500+ estrellas), que suman un total de 148,037 estrellas, con una media de 3,289 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.