#ai-red-teaming Repositorios
Descubre 8 repositorios activos de código abierto de GitHub etiquetados con #ai-red-teaming, que acumulan 19,286 estrellas en total (una media de 2,410 estrellas por proyecto). El líder de este tema es Tencent/AI-Infra-Guard, con 7,604 estrellas.
9 repositorios en total
Una plataforma integral de Red Teaming de IA que protege los ecosistemas de IA mediante Agent Scan, Skills Scan, MCP Scan, AI Infra Scan y la evaluación de jailbreaks de LLM.
Kit de herramientas de código abierto de Microsoft para pruebas de red teaming de IA. Pon a prueba sistemas de IA generativa con análisis automatizados, ataques adaptativos de varios turnos y una interfaz web.
Laboratorios de campo de juego de AI Red Teaming para ejecutar capacitaciones de AI Red Teaming, incluida la infraestructura.
Pruebas de penetración autónomas con IA y de código abierto. 50 agentes especializados en web, API, nube, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo de rutas de ataque verificado mediante evidencias. Se ejecuta con un LLM local detrás de una Puerta de Privacidad. Se integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana y Splunk.
Una guía completa sobre pruebas adversariales y evaluación de seguridad de sistemas de IA, ayudando a las organizaciones a identificar vulnerabilidades antes de que los atacantes las exploten.
Emulación de adversarios de código abierto para agentes de IA y servidores MCP.
Una enciclopedia de técnicas de jailbreaking para hacer que los modelos de IA sean más seguros.
Este documento reúne proyectos de código abierto, artículos académicos, evaluaciones comparativas de capacidades y soluciones comerciales (internacionales y de China) en los ámbitos de las pruebas de penetración de IA, el red teaming de LLM, los agentes ofensivos autónomos y el descubrimiento de vulnerabilidades, con el objetivo de ayudar a investigadores, ingenieros de seguridad y responsables de la toma de decisiones empresariales a formarse rápidamente una visión integral.
Preguntas frecuentes
¿Cuál es el repositorio de #ai-red-teaming más popular en GitHub?
El proyecto de código abierto de #ai-red-teaming mejor posicionado en GitHub es Tencent/AI-Infra-Guard, con 7,604 estrellas. Una plataforma integral de Red Teaming de IA que protege los ecosistemas de IA mediante Agent Scan, Skills Scan, MCP Scan, AI Infra Scan y la evaluación de jailbreaks de LLM.
¿Qué lenguajes de programación se utilizan más en los repositorios de #ai-red-teaming?
Entre los proyectos de #ai-red-teaming mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, TypeScript, Jupyter Notebook.
¿Cómo se calcula la clasificación de los repositorios de #ai-red-teaming?
Seguimos 8 repositorios activos de código abierto etiquetados con #ai-red-teaming (500+ estrellas), que suman un total de 19,286 estrellas, con una media de 2,410 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.