#ai-security Repositorios
90 repositorios en total
Antivirus y cortafuegos de código abierto para agentes de IA: bloquea en tiempo de ejecución herramientas de riesgo, el acceso a secretos, la inyección de prompts, paquetes maliciosos, servidores MCP, complementos y habilidades.
ataques de escalado de imágenes para inyección de indicaciones multimodales
Este proyecto tiene como objetivo proporcionar un repositorio central para muchos complementos útiles de Tsunami Security Scanner.
Escáner de seguridad con prioridad de IA. NUEVO en v2026.7: detección de compromiso de Claude Code: examine los hooks, permisos y habilidades de .claude/ antes de clonar, además de un escáner de firmas de ataque de IA siempre activo y reglas nativas de Rust y PHP. También: medusa scan --git para examinar cualquier repositorio, medusa secrets scan para claves API filtradas. Más de 40,000 patrones, sin configuración.
Firewall de agentes de IA de código abierto para seguridad MCP y salida de agentes. Escanea el tráfico mediado de HTTP, MCP, A2A y WebSocket en busca de exfiltración, SSRF e inyección de prompts, y emite recibos de acción firmados por el mediador: evidencia de auditoría verificable desde fuera del agente.
Una aplicación bancaria deliberadamente vulnerable diseñada para practicar pruebas de seguridad de aplicaciones web, API, aplicaciones integradas con IA y revisiones de código seguro. Presenta vulnerabilidades comunes encontradas en aplicaciones del mundo real, lo que la convierte en una plataforma ideal para profesionales de la seguridad, desarrolladores y entusiastas para aprender pentesting y prácticas de codificación segura.
Reconmap es una plataforma de operaciones de seguridad centrada en la colaboración para equipos de infosec y MSSP, que permite la gestión integral del compromiso, desde el reconocimiento hasta la ejecución y la presentación de informes. Con automatización de comandos incorporada, análisis de salidas y resúmenes asistidos por IA, ofrece evaluaciones de seguridad más rápidas, estructuradas y de alta calidad.
Un framework web de Rust basado en Axum, con núcleos de aplicación verificables con Lean 4 que se ejecutan en servidores, dispositivos integrados bare-metal y GPU, además de pruebas de seguridad integradas.
Auditoría de seguridad local para relés de API de IA y proxies de LLM: detecta inyección de prompts, sustitución de modelos, alteración de llamadas a herramientas, anomalías de SSE, filtración de errores y riesgos para monederos Web3. Sitio web: https://apirelayaudit.com
Repositorio oficial del Tencent Cloud Intelligent Penetration Hackathon. Mostrando los mejores proyectos de código abierto de agentes de penetración autónomos basados en LLM, incluyendo colaboración multiagente, penetración automatizada, seguridad ofensiva impulsada por IA y soluciones inteligentes de ataque-defensa.
El agente de seguridad independiente para software escrito por IA. Encuentra problemas, investiga si son reales y le muestra la evidencia. Núcleo determinista, sin necesidad de clave API, salida en JSON y SARIF.
¡¡¡Estreno mundial!!! Las preguntas más completas de entrevistas de ciberseguridad con respuestas de referencia (que cubren redes de protección, equipos rojos, ingeniería inversa, criptografía, binario, IA, blockchain)
DianXing - Auditoría de seguridad de código de extremo a extremo impulsada por IA
Krawl es un servidor de engaño web personalizable, ligero y nativo de la nube, y un anti-rastreador que crea aplicaciones web falsas con vulnerabilidades de bajo colgante utilizando datos de señuelo realistas generados aleatoriamente y plantillas HTML generadas por IA.
Una lista de verificación de seguridad completa para herramientas de IA basadas en MCP. Creada por SlowMist para proteger los ecosistemas de complementos de LLM.
Seguridad en tiempo de ejecución para aplicaciones y agentes de IA: detección de inyección de prompts, autorización de llamadas a herramientas, redacción de datos confidenciales, protección contra bots y limitación de tasa. Intégrelo fácilmente en su código JS/TS.
Esta herramienta está diseñada para ayudar a los pentesters y administradores de red a identificar posibles amenazas de seguridad, especialmente aquellas dirigidas a aplicaciones web como inyección SQL, XSS y WebShells. Su diseño modular permite a los usuarios seleccionar y personalizar libremente varios módulos funcionales según las necesidades reales. Esta herramienta es adecuada para el análisis profundo del tráfico de red por parte de los equipos HW Red, ayudando a profesionales como investigadores de seguridad, pentesters y administradores de red a identificar posibles amenazas de seguridad, especialmente aquellas dirigidas a aplicaciones web (como inyección SQL, XSS, WebShell, etc.)
Un curso y una referencia arquitectónica fundamentados en fuentes para ingenieros que diseñan sistemas capaces de soportar tráfico real, fallos parciales, revisiones de seguridad y requisitos cambiantes, y que abarca el diseño de sistemas empresariales, los sistemas distribuidos, los sistemas de IA, la ciberseguridad, la fiabilidad, la nube, la computación de alto rendimiento, el edge y la infraestructura crítica para misiones.
Repositorio oficial de GPTFUZZER: Red Teaming de modelos de lenguaje grandes con indicaciones de jailbreak generadas automáticamente
Anti-patrones de seguridad de código IA destilados de más de 150 fuentes para ayudar a los LLM a generar código más seguro.
Herramienta de seguridad de tiempo de ejecución para agentes de IA de código abierto: supervisa y controla a los agentes de IA, detectando el uso malintencionado de herramientas, la inyección de prompts y la desviación de políticas en tiempo real, antes de que el agente actúe.
MCP for Security: Una colección de servidores Model Context Protocol para herramientas de seguridad populares como SQLMap, FFUF, NMAP, Masscan y más. Integre pruebas de seguridad y pruebas de penetración en flujos de trabajo de IA.
Emulación de adversarios de código abierto para agentes de IA y servidores MCP.
Plano de control en tiempo de ejecución autohospedado para agentes de IA. Supervisa, aprueba con intervención humana (HITL) o bloquea llamadas maliciosas a herramientas antes de que se ejecuten, para evitar filtraciones de secretos, inyección de prompts, ataques a la cadena de suministro y otros riesgos, desde un panel local. Compatible con cualquier agente (Claude, Codex, LangChain, etc.).
Un plan de acción que describe las habilidades requeridas, los recursos de aprendizaje y las herramientas de ejemplo para convertirse en un ingeniero de IA
SDKs de Python y TypeScript para obtener pruebas verificables de las acciones de los agentes de IA. Recibos firmados, aplicación de políticas y registros de auditoría. Funciona con LangChain, CrewAI y MCP.
🛡️ CLI de auditoría de seguridad para servidores del Protocolo de Contexto del Modelo (MCP): analiza las configuraciones de agentes de IA en busca de envenenamiento de herramientas, estafas de salida, secretos codificados, inyección de comandos y riesgos en la cadena de suministro. Solo Python, compatible con SARIF y CI.
Plano de control de autoridad para el trabajo autónomo. EMILIA Gate aplica mandatos finitos propiedad del cliente en los límites protegidos del ejecutor; el protocolo abierto mantiene la evidencia verificable.
vArmor es un sistema nativo de la nube para reforzar la seguridad de contenedores que aprovecha las tecnologías AppArmor/BPF/Seccomp y NetworkProxy para aplicar controles de acceso desde las llamadas al sistema hasta los protocolos de aplicación, protegiendo cargas de trabajo, incluidos los agentes de IA.
Herramienta de enumeración de subdominios impulsada por IA con análisis local de LLM a través de Ollama - 100% privada, cero costos de API
Escáner de seguridad de Docker con inteligencia artificial que explica las vulnerabilidades en un lenguaje sencillo. Un proyecto de OWASP Lab.
AgentSkillsHub (agentskillshub.top): directorio con clasificación de seguridad de habilidades de Claude, servidores MCP y herramientas para agentes de IA de código abierto, actualizado cada 8 horas
Este documento reúne proyectos de código abierto, artículos académicos, evaluaciones comparativas de capacidades y soluciones comerciales (internacionales y de China) en los ámbitos de las pruebas de penetración de IA, el red teaming de LLM, los agentes ofensivos autónomos y el descubrimiento de vulnerabilidades, con el objetivo de ayudar a investigadores, ingenieros de seguridad y responsables de la toma de decisiones empresariales a formarse rápidamente una visión integral.