#ai-red-teaming Repositórios
Descubra 8 repositórios ativos de código aberto no GitHub marcados com #ai-red-teaming, acumulando um total de 19,286 estrelas (uma média de 2,410 por projeto). O líder deste tópico é Tencent/AI-Infra-Guard, com 7,604 estrelas.
9 repositórios no total
Uma plataforma full-stack de Red Teaming de IA que protege os ecossistemas de IA por meio de Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e avaliação de jailbreaks de LLM.
Kit de ferramentas de código aberto da Microsoft para red teaming de IA. Teste sistemas de IA generativa com verificações automatizadas, ataques adaptativos em várias etapas e uma interface web.
Laboratórios de campo de testes (playground labs) de Red Teaming de IA para a realização de treinamentos de Red Teaming de IA, incluindo infraestrutura.
Testes de penetração autônomos com IA e código aberto. 50 agentes especializados em web, APIs, nuvem, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), com um grafo de caminhos de ataque verificado por evidências. Executa em um LLM local protegido por um Privacy Gateway. Integra-se ao GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.
Um guia abrangente para testes adversariais e avaliação de segurança de sistemas de IA, ajudando organizações a identificar vulnerabilidades antes que atacantes as explorem.
Emulação de adversários de código aberto para agentes de IA e servidores MCP.
Uma enciclopédia de técnicas de jailbreaking para tornar os modelos de IA mais seguros.
Este documento reúne projetos de código aberto, artigos acadêmicos, benchmarks de capacidades e soluções comerciais (internacionais e da China) nas áreas de testes de intrusão com IA, red teaming de LLMs, agentes ofensivos autônomos e descoberta de vulnerabilidades, com o objetivo de ajudar pesquisadores, engenheiros de segurança e tomadores de decisão empresariais a formar rapidamente uma visão holística.
Perguntas Frequentes
Qual é o repositório de #ai-red-teaming mais popular no GitHub?
O projeto de código aberto de #ai-red-teaming mais bem classificado no GitHub é Tencent/AI-Infra-Guard, com 7,604 estrelas. Uma plataforma full-stack de Red Teaming de IA que protege os ecossistemas de IA por meio de Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e avaliação de jailbreaks de LLM.
Quais linguagens de programação são mais usadas nos repositórios de #ai-red-teaming?
Entre os projetos de #ai-red-teaming mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, Jupyter Notebook.
Como é calculada a classificação dos repositórios de #ai-red-teaming?
Acompanhamos 8 repositórios ativos de código aberto marcados com #ai-red-teaming (com mais de 500 estrelas), totalizando 19,286 estrelas e uma média de 2,410 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.