#ai-red-team Repositórios
Descubra 8 repositórios ativos de código aberto no GitHub marcados com #ai-red-team, acumulando um total de 20,336 estrelas (uma média de 2,542 por projeto). O líder deste tópico é Giskard-AI/giskard-oss, com 5,965 estrelas.
8 repositórios no total
Kit de ferramentas de código aberto da Microsoft para red teaming de IA. Teste sistemas de IA generativa com verificações automatizadas, ataques adaptativos em várias etapas e uma interface web.
Laboratórios de campo de testes (playground labs) de Red Teaming de IA para a realização de treinamentos de Red Teaming de IA, incluindo infraestrutura.
Uma ferramenta poderosa para fuzzing automatizado de LLM. Ela foi projetada para ajudar desenvolvedores e pesquisadores de segurança a identificar e mitigar possíveis jailbreaks em suas APIs de LLM.
Testes de penetração autônomos com IA e código aberto. 50 agentes especializados em web, APIs, nuvem, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), com um grafo de caminhos de ataque verificado por evidências. Executa em um LLM local protegido por um Privacy Gateway. Integra-se ao GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.
Um conjunto de ferramentas de segurança ofensiva/defensiva para descoberta, reconhecimento e avaliação ética de Agentes de IA
Um guia abrangente para testes adversariais e avaliação de segurança de sistemas de IA, ajudando organizações a identificar vulnerabilidades antes que atacantes as explorem.
Perguntas Frequentes
Qual é o repositório de #ai-red-team mais popular no GitHub?
O projeto de código aberto de #ai-red-team mais bem classificado no GitHub é Giskard-AI/giskard-oss, com 5,965 estrelas. 🐢 Biblioteca de Código Aberto para Avaliação e Teste de Agentes LLM
Quais linguagens de programação são mais usadas nos repositórios de #ai-red-team?
Entre os projetos de #ai-red-team mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, Jupyter Notebook.
Como é calculada a classificação dos repositórios de #ai-red-team?
Acompanhamos 8 repositórios ativos de código aberto marcados com #ai-red-team (com mais de 500 estrelas), totalizando 20,336 estrelas e uma média de 2,542 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.