#ai-security Repositórios
90 repositórios no total
Antivírus e firewall de código aberto para agentes de IA: bloqueie em tempo de execução ferramentas arriscadas, acesso a segredos, injeção de prompts, pacotes maliciosos, servidores MCP, plugins e habilidades.
Este projeto visa fornecer um repositório central para muitos plugins úteis do Tsunami Security Scanner.
Scanner de segurança com foco em IA. NOVO na v2026.7: detecção de comprometimento do Claude Code — examine os hooks, permissões e habilidades do .claude/ antes de clonar — além de um scanner de assinaturas de ataque de IA sempre ativo e regras nativas Rust e PHP. Também: medusa scan --git para examinar qualquer repositório, medusa secrets scan para chaves de API vazadas. Mais de 40.000 padrões, configuração zero.
Firewall de agentes de IA de código aberto para segurança MCP e saída de agentes. Analisa o tráfego mediado de HTTP, MCP, A2A e WebSocket em busca de exfiltração, SSRF e injeção de prompt, e emite recibos de ação assinados pelo mediador: evidência de auditoria verificável de fora do agente.
Uma aplicação bancária deliberadamente vulnerável, projetada para a prática de testes de segurança de aplicações web, APIs, aplicações integradas com IA e revisões de código seguro. Apresenta vulnerabilidades comuns encontradas em aplicações do mundo real, tornando-a uma plataforma ideal para profissionais de segurança, desenvolvedores e entusiastas aprenderem pentesting e práticas de codificação segura.
O Reconmap é uma plataforma de operações de segurança com foco em colaboração para equipes de segurança da informação e MSSPs, permitindo o gerenciamento de engajamento de ponta a ponta, desde a reconhecimento até a execução e relatórios. Com automação de comandos integrada, análise de saída e resumos assistidos por IA, ele oferece avaliações de segurança mais rápidas, estruturadas e de alta qualidade.
Um framework web em Rust baseado no Axum, com kernels de aplicação verificáveis com Lean 4 que são executados em servidores, dispositivos embarcados bare-metal e GPUs, além de testes de segurança integrados.
Auditoria de segurança local para retransmissores de API de IA e proxies de LLM: detecta injeção de prompts, substituição de modelos, reescrita de chamadas de ferramentas, anomalias de SSE, vazamento de erros e riscos para carteiras Web3. Site: https://apirelayaudit.com
Repositório oficial do Tencent Cloud Intelligent Penetration Hackathon. Apresentando os melhores projetos de código aberto de agentes de penetração autônomos baseados em LLM, incluindo colaboração multiagente, penetração automatizada, segurança ofensiva orientada por IA e soluções inteligentes de ataque-defesa.
O agente de segurança independente para software escrito por IA. Encontra problemas, investiga se são reais e mostra as evidências. Núcleo determinístico, sem necessidade de chave de API, saída em JSON e SARIF.
Estreia mundial!!! As perguntas mais completas para entrevistas de segurança cibernética com respostas de referência (abrangendo proteção de rede, equipes vermelhas, engenharia reversa, criptografia, binário, IA, blockchain)
DianXing - Auditoria de segurança de código de ponta a ponta orientada por IA
Krawl é um servidor de engano web personalizável, leve e nativo da nuvem, e um anti-rastreador que cria aplicativos web falsos com vulnerabilidades de baixa pendência usando dados de isca realistas gerados aleatoriamente e modelos HTML gerados por IA.
Uma lista de verificação de segurança abrangente para ferramentas de IA baseadas em MCP. Construído pela SlowMist para proteger os ecossistemas de plugins LLM.
Segurança em tempo de execução para aplicações e agentes de IA: detecção de injeção de prompt, autorização de chamadas de ferramentas, redação de dados sensíveis, proteção contra bots e limitação de taxa. Integre facilmente ao seu código JS/TS.
Esta ferramenta é projetada para análise aprofundada de tráfego de rede e é adequada para uso profissional pela Equipe Azul (Blue Team) da HW, pesquisadores de segurança, testadores de penetração e administradores de rede. Ela ajuda a identificar potenciais ameaças de segurança, especialmente aquelas direcionadas a aplicações web (como injeção SQL, XSS e WebShells). Seu design modular permite aos usuários selecionar e personalizar livremente vários módulos funcionais de acordo com as necessidades reais.
Um curso e uma referência de arquitetura fundamentados em fontes para engenheiros que projetam sistemas capazes de suportar tráfego real, falhas parciais, revisões de segurança e requisitos em constante mudança, abrangendo design de sistemas empresariais, sistemas distribuídos, sistemas de IA, cibersegurança, confiabilidade, nuvem, computação de alto desempenho, edge e infraestrutura crítica para missões.
Repositório oficial do GPTFUZZER: Red Teaming de Grandes Modelos de Linguagem com Prompts de Jailbreak Gerados Automaticamente
Padrões Anti-Segurança de Código AI destilados de mais de 150 fontes para ajudar LLMs a gerar código mais seguro.
Ferramenta de segurança de tempo de execução para agentes de IA de código aberto - monitora e controla agentes de IA, detectando uso malicioso de ferramentas, injeção de prompt e desvio de política em tempo real, antes que o agente aja.
MCP for Security: Uma coleção de servidores Model Context Protocol para ferramentas de segurança populares como SQLMap, FFUF, NMAP, Masscan e mais. Integre testes de segurança e testes de penetração em fluxos de trabalho de IA.
Emulação de adversários de código aberto para agentes de IA e servidores MCP.
Plano de controle de execução auto-hospedado para agentes de IA. Monitore, aprove com intervenção humana (HITL) ou bloqueie chamadas maliciosas a ferramentas antes que sejam executadas, evitando vazamentos de segredos, injeção de prompt, ataques à cadeia de suprimentos e outros riscos, tudo em um painel local. Compatível com qualquer agente (Claude, Codex, LangChain etc.).
Um roteiro descrevendo as habilidades necessárias, recursos de aprendizado e ferramentas de exemplo para se tornar um Engenheiro de IA
SDKs de Python e TypeScript para evidências verificáveis das ações de agentes de IA. Recibos assinados, aplicação de políticas e trilhas de auditoria. Funciona com LangChain, CrewAI e MCP.
🛡️ CLI de auditoria de segurança para servidores do Model Context Protocol (MCP) — analisa configurações de agentes de IA em busca de envenenamento de ferramentas, rug pulls, segredos embutidos no código, injeção de comandos e riscos na cadeia de suprimentos. Feito em Python puro, pronto para SARIF e CI.
Plano de controle de autoridade para trabalho autônomo. O EMILIA Gate aplica mandatos finitos de propriedade do cliente em limites protegidos do executor; o protocolo aberto mantém as evidências verificáveis.
O vArmor é um sistema nativo da nuvem para reforço da segurança de contêineres que utiliza as tecnologias AppArmor/BPF/Seccomp e NetworkProxy para aplicar controles de acesso desde chamadas de sistema até protocolos de aplicação, protegendo cargas de trabalho, incluindo agentes de IA.
Ferramenta de enumeração de subdomínios com tecnologia de IA e análise local de LLM via Ollama - 100% privada, zero custos de API
Scanner de segurança do Docker com tecnologia de IA que explica vulnerabilidades em linguagem simples. Um projeto do OWASP Lab.
AgentSkillsHub (agentskillshub.top) — diretório com classificação de segurança de skills do Claude, servidores MCP e ferramentas para agentes de IA de código aberto, atualizado a cada 8 horas
Este documento reúne projetos de código aberto, artigos acadêmicos, benchmarks de capacidades e soluções comerciais (internacionais e da China) nas áreas de testes de intrusão com IA, red teaming de LLMs, agentes ofensivos autônomos e descoberta de vulnerabilidades, com o objetivo de ajudar pesquisadores, engenheiros de segurança e tomadores de decisão empresariais a formar rapidamente uma visão holística.