#llm-security Repositorios
Descubre 65 repositorios activos de código abierto de GitHub etiquetados con #llm-security, que acumulan 311,462 estrellas en total (una media de 4,791 estrellas por proyecto). El líder de este tema es usestrix/strix, con 76,872 estrellas.
65 repositorios en total
Herramienta de prueba de penetración de IA de código abierto para encontrar y corregir las vulnerabilidades de su aplicación.
Serie de tutoriales de programación "Sumérgete en LLM: Aprende modelos de lenguaje grandes"
Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi, puede obtener esta respuesta en menos de 120 segundos.
Una plataforma integral de Red Teaming de IA que protege los ecosistemas de IA mediante Agent Scan, Skills Scan, MCP Scan, AI Infra Scan y la evaluación de jailbreaks de LLM.
NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.
🛡️ BLA (bla-agents / Blind LLM Agents) — servidor MCP y CLI de defensa Blue de código abierto que protege JS/TS, Electron ASAR, WASM, Python, binarios nativos, SQLite, GGUF/Safetensors y Android DEX frente a agentes de ingeniería inversa basados en IA (REA).
Kit de herramientas para la búsqueda de vulnerabilidades en programas de bug bounty impulsado por IA, que funciona con o sin suscripción.
Una colección de indicaciones, indicaciones del sistema e instrucciones de LLM
Seguridad del entorno de ejecución de agentes: aislamiento en sandbox con cero confianza, cero configuración y cero latencia
Una colección de métodos científicos, procesos, algoritmos y sistemas para construir historias y modelos.
Arnés de seguridad ofensiva de código abierto impulsado por IA para pruebas de penetración automatizadas.
Un conjunto de datos consta de 15,140 indicaciones de ChatGPT de Reddit, Discord, sitios web y conjuntos de datos de código abierto (incluidas 1,405 indicaciones de jailbreak).
Un framework runtime de engaño de bajo código seguro, aprovechando IA para Virtualización de Sistema.
ADR asegura los agentes de IA empresariales mediante observabilidad, evaluación comparativa de seguridad y detección de amenazas. Implementado en Uber.
AI Safety HOT: noticias, artículos e incidentes diarios sobre seguridad de la IA, todo en un solo lugar: jailbreaks, inyección de prompts, alineación, evaluaciones y gobernanza. Sitio web, resumen diario, RSS y MCP.
Este repositorio contiene preguntas de entrevista de LLM (modelo de lenguaje grande) formuladas en empresas importantes como Google, Nvidia, Meta, Microsoft y empresas Fortune 500.
Una potente herramienta para el fuzzing automatizado de LLM. Está diseñada para ayudar a los desarrolladores e investigadores de seguridad a identificar y mitigar posibles jailbreaks en sus API de LLM.
Una aplicación host CLI que permite a los modelos de lenguaje grandes (LLM) interactuar con herramientas externas a través del Protocolo de Contexto del Modelo (MCP).
OWASP Top 10 para aplicaciones de modelos lingüísticos grandes (Parte del Proyecto de Seguridad GenAI)
Agente de pruebas de penetración con IA y código abierto que verifica mediante explotación cada hallazgo. Pentests autónomos en 22 fases para aplicaciones web y API, con informes PDF puntuados según CVSS. Autohospédalo, usa tu propio LLM o ejecútalo completamente en local con Ollama.
🛡️ Terminal de seguridad y escáner de vulnerabilidades gratuitos, de código abierto y potenciados por IA (CVE, SBOM). Compatibles con SSH, SFTP, RDP, VNC y conexiones serie, además de más de 12 agentes autónomos de IA (DeepSeek, OpenAI) para automatizar flujos de trabajo de seguridad, CTF y DevSecOps. Multiplataforma y con interfaz web.
Pruebas de penetración autónomas con IA y de código abierto. 50 agentes especializados en web, API, nube, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo de rutas de ataque verificado mediante evidencias. Se ejecuta con un LLM local detrás de una Puerta de Privacidad. Se integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana y Splunk.
Marco de agentes autónomos para seguridad ofensiva, bug bounty y red teaming impulsado por Hermes Agent, habilidades de razonamiento especializadas y orquestación de LLM multimodelo.
Escáner de seguridad con prioridad de IA. NUEVO en v2026.7: detección de compromiso de Claude Code: examine los hooks, permisos y habilidades de .claude/ antes de clonar, además de un escáner de firmas de ataque de IA siempre activo y reglas nativas de Rust y PHP. También: medusa scan --git para examinar cualquier repositorio, medusa secrets scan para claves API filtradas. Más de 40,000 patrones, sin configuración.
Firewall de agentes de IA de código abierto para seguridad MCP y salida de agentes. Escanea el tráfico mediado de HTTP, MCP, A2A y WebSocket en busca de exfiltración, SSRF e inyección de prompts, y emite recibos de acción firmados por el mediador: evidencia de auditoría verificable desde fuera del agente.
Detección semántica conjunta y control de diseminación de ataques de phishing en redes sociales mediante modelado basado en LLama
Una barrera de protección centrada en la privacidad para LLM y flujos RAG. SurrogateShield detecta, elimina y reconstruye datos sensibles de identificación personal (PII) sobre la marcha, al tiempo que protege contra ataques adversarios.
Un framework Python fácil de usar para generar indicaciones de jailbreak adversarias.
Auditoría de seguridad local para relés de API de IA y proxies de LLM: detecta inyección de prompts, sustitución de modelos, alteración de llamadas a herramientas, anomalías de SSE, filtración de errores y riesgos para monederos Web3. Sitio web: https://apirelayaudit.com
El agente de seguridad independiente para software escrito por IA. Encuentra problemas, investiga si son reales y le muestra la evidencia. Núcleo determinista, sin necesidad de clave API, salida en JSON y SARIF.
API de IA y puerta de enlace MCP autogestionados para organizaciones: SSO y RBAC, identidad por usuario para las llamadas a herramientas MCP, eliminación de datos personales (PII) y controles de seguridad para las llamadas a herramientas, límites de velocidad, presupuestos, contabilidad de costes y registros de auditoría.
Dale una máquina al agente. Pero no la tuya. Cada agente de programación de IA obtiene su propia máquina aislada con acceso root, Docker y systemd; la defensa activa detecta y detiene las amenazas automáticamente.
Trazabilidad a prueba de manipulaciones, controles de políticas y verificaciones cruzadas para agentes de IA: descubre qué hizo el agente y por qué.
Explotar indicaciones y técnicas de juego de roles para eludir las restricciones del modelo de IA.
Marco de pruebas de equipo rojo y evaluación para agentes de IA, basado en una taxonomía ASI01–ASI10 inspirada en OWASP
Seguridad en tiempo de ejecución para aplicaciones y agentes de IA: detección de inyección de prompts, autorización de llamadas a herramientas, redacción de datos confidenciales, protección contra bots y limitación de tasa. Intégrelo fácilmente en su código JS/TS.
Preguntas frecuentes
¿Cuál es el repositorio de #llm-security más popular en GitHub?
El proyecto de código abierto de #llm-security mejor posicionado en GitHub es usestrix/strix, con 76,872 estrellas. Herramienta de prueba de penetración de IA de código abierto para encontrar y corregir las vulnerabilidades de su aplicación.
¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-security?
Entre los proyectos de #llm-security mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Go, Jupyter Notebook, TypeScript.
¿Cómo se calcula la clasificación de los repositorios de #llm-security?
Seguimos 65 repositorios activos de código abierto etiquetados con #llm-security (500+ estrellas), que suman un total de 311,462 estrellas, con una media de 4,791 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.