#ai-red-team Repositorios
Descubre 8 repositorios activos de código abierto de GitHub etiquetados con #ai-red-team, que acumulan 20,336 estrellas en total (una media de 2,542 estrellas por proyecto). El líder de este tema es Giskard-AI/giskard-oss, con 5,965 estrellas.
8 repositorios en total
Kit de herramientas de código abierto de Microsoft para pruebas de red teaming de IA. Pon a prueba sistemas de IA generativa con análisis automatizados, ataques adaptativos de varios turnos y una interfaz web.
Laboratorios de campo de juego de AI Red Teaming para ejecutar capacitaciones de AI Red Teaming, incluida la infraestructura.
Una potente herramienta para el fuzzing automatizado de LLM. Está diseñada para ayudar a los desarrolladores e investigadores de seguridad a identificar y mitigar posibles jailbreaks en sus API de LLM.
Pruebas de penetración autónomas con IA y de código abierto. 50 agentes especializados en web, API, nube, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo de rutas de ataque verificado mediante evidencias. Se ejecuta con un LLM local detrás de una Puerta de Privacidad. Se integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana y Splunk.
Un conjunto de herramientas de seguridad ofensiva/defensiva para el descubrimiento, reconocimiento y evaluación ética de Agentes de IA
Una guía completa sobre pruebas adversariales y evaluación de seguridad de sistemas de IA, ayudando a las organizaciones a identificar vulnerabilidades antes de que los atacantes las exploten.
Preguntas frecuentes
¿Cuál es el repositorio de #ai-red-team más popular en GitHub?
El proyecto de código abierto de #ai-red-team mejor posicionado en GitHub es Giskard-AI/giskard-oss, con 5,965 estrellas. 🐢 Biblioteca de código abierto para evaluación y pruebas de agentes LLM
¿Qué lenguajes de programación se utilizan más en los repositorios de #ai-red-team?
Entre los proyectos de #ai-red-team mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, TypeScript, Jupyter Notebook.
¿Cómo se calcula la clasificación de los repositorios de #ai-red-team?
Seguimos 8 repositorios activos de código abierto etiquetados con #ai-red-team (500+ estrellas), que suman un total de 20,336 estrellas, con una media de 2,542 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.