#llm-security Repositórios
Descubra 65 repositórios ativos de código aberto no GitHub marcados com #llm-security, acumulando um total de 311,462 estrelas (uma média de 4,791 por projeto). O líder deste tópico é usestrix/strix, com 76,872 estrelas.
65 repositórios no total
Ferramenta de teste de penetração de IA de código aberto para encontrar e corrigir as vulnerabilidades do seu aplicativo.
Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.
Uma plataforma full-stack de Red Teaming de IA que protege os ecossistemas de IA por meio de Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e avaliação de jailbreaks de LLM.
NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.
🛡️ BLA (bla-agents / Blind LLM Agents) — servidor MCP e CLI de defesa Blue de código aberto que protege JS/TS, Electron ASAR, WASM, Python, binários nativos, SQLite, GGUF/Safetensors e Android DEX contra agentes de engenharia reversa com IA (REA).
Kit de ferramentas baseado em IA para caça a vulnerabilidades em programas de bug bounty, que funciona com ou sem assinatura.
Segurança em tempo de execução de agentes — sandboxing de agentes com confiança zero, configuração zero e latência zero
Uma coleção de métodos científicos, processos, algoritmos e sistemas para construir histórias e modelos.
Estrutura de segurança ofensiva de código aberto baseada em IA para testes de penetração automatizados.
[CCS'24] Um conjunto de dados consiste em 15.140 prompts do ChatGPT do Reddit, Discord, websites e conjuntos de dados de código aberto (incluindo 1.405 prompts de jailbreak).
Um framework runtime de engano de baixo código seguro, aproveitando IA para Virtualização de Sistema.
A ADR protege agentes de IA empresariais por meio de observabilidade, benchmarking de segurança e detecção de ameaças. Implantado na Uber.
AI Safety HOT: notícias, artigos e incidentes diários sobre segurança de IA em um só lugar — jailbreaks, injeção de prompts, alinhamento, avaliações e governança. Site, resumo diário, RSS e MCP.
Este repositório contém perguntas de entrevista sobre LLM (Modelo de Linguagem Grande) feitas em grandes empresas como Google, Nvidia, Meta, Microsoft e companhias da Fortune 500.
Uma ferramenta poderosa para fuzzing automatizado de LLM. Ela foi projetada para ajudar desenvolvedores e pesquisadores de segurança a identificar e mitigar possíveis jailbreaks em suas APIs de LLM.
Uma aplicação host CLI que permite que Modelos de Linguagem Grandes (LLMs) interajam com ferramentas externas através do Protocolo de Contexto do Modelo (MCP).
OWASP Top 10 para Aplicações de Modelos de Linguagem Grandes (Parte do Projeto de Segurança GenAI)
Agente de testes de intrusão com IA e código aberto que verifica cada descoberta por meio de exploração. Pentests autônomos em 22 fases de aplicações web e APIs, com relatórios em PDF classificados segundo o CVSS. Hospede por conta própria, use seu próprio LLM ou execute tudo localmente com o Ollama.
🛡️ Terminal de segurança e scanner de vulnerabilidades gratuitos, de código aberto e com tecnologia de IA (CVE, SBOM). Compatível com SSH, SFTP, RDP, VNC e conexões seriais, além de mais de 12 agentes autônomos de IA (DeepSeek, OpenAI) para automatizar fluxos de trabalho de segurança, CTF e DevSecOps. Multiplataforma e com interface web.
Testes de penetração autônomos com IA e código aberto. 50 agentes especializados em web, APIs, nuvem, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), com um grafo de caminhos de ataque verificado por evidências. Executa em um LLM local protegido por um Privacy Gateway. Integra-se ao GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.
Framework de agentes autônomos de segurança ofensiva, bug bounty e red teaming impulsionado pelo Hermes Agent, habilidades especializadas de raciocínio e orquestração de LLM multimodelo.
Scanner de segurança com foco em IA. NOVO na v2026.7: detecção de comprometimento do Claude Code — examine os hooks, permissões e habilidades do .claude/ antes de clonar — além de um scanner de assinaturas de ataque de IA sempre ativo e regras nativas Rust e PHP. Também: medusa scan --git para examinar qualquer repositório, medusa secrets scan para chaves de API vazadas. Mais de 40.000 padrões, configuração zero.
Firewall de agentes de IA de código aberto para segurança MCP e saída de agentes. Analisa o tráfego mediado de HTTP, MCP, A2A e WebSocket em busca de exfiltração, SSRF e injeção de prompt, e emite recibos de ação assinados pelo mediador: evidência de auditoria verificável de fora do agente.
Detecção Semântica Conjunta e Controle de Disseminação de Ataques de Phishing em Mídias Sociais por Modelagem Baseada em LLama
Uma camada de proteção com foco na privacidade para LLMs e pipelines RAG. O SurrogateShield detecta, oculta e reconstrói dados pessoais sensíveis (PII) em tempo real, ao mesmo tempo que protege contra ataques adversariais.
Um framework Python fácil de usar para gerar prompts de jailbreak adversariais.
Auditoria de segurança local para retransmissores de API de IA e proxies de LLM: detecta injeção de prompts, substituição de modelos, reescrita de chamadas de ferramentas, anomalias de SSE, vazamento de erros e riscos para carteiras Web3. Site: https://apirelayaudit.com
O agente de segurança independente para software escrito por IA. Encontra problemas, investiga se são reais e mostra as evidências. Núcleo determinístico, sem necessidade de chave de API, saída em JSON e SARIF.
API de IA e gateway MCP autogerenciados para organizações: SSO e RBAC, identidade por usuário para chamadas de ferramentas MCP, mascaramento de informações pessoais (PII) e proteções para chamadas de ferramentas, limites de taxa, orçamentos, contabilização de custos e registros de auditoria.
Dê ao agente uma máquina. Só não a sua. Cada agente de programação de IA recebe sua própria máquina isolada com acesso root, Docker e systemd — a defesa ativa detecta e interrompe ameaças automaticamente.
Rastreamento à prova de adulteração, controles de políticas e verificações cruzadas para agentes de IA: veja o que o agente fez e por quê.
Explorar prompts e técnicas de interpretação de papéis para contornar as restrições do modelo de IA.
Framework de red teaming e avaliação para agentes de IA, baseado em uma taxonomia ASI01–ASI10 inspirada na OWASP
Segurança em tempo de execução para aplicações e agentes de IA: detecção de injeção de prompt, autorização de chamadas de ferramentas, redação de dados sensíveis, proteção contra bots e limitação de taxa. Integre facilmente ao seu código JS/TS.
Perguntas Frequentes
Qual é o repositório de #llm-security mais popular no GitHub?
O projeto de código aberto de #llm-security mais bem classificado no GitHub é usestrix/strix, com 76,872 estrelas. Ferramenta de teste de penetração de IA de código aberto para encontrar e corrigir as vulnerabilidades do seu aplicativo.
Quais linguagens de programação são mais usadas nos repositórios de #llm-security?
Entre os projetos de #llm-security mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Go, Jupyter Notebook, TypeScript.
Como é calculada a classificação dos repositórios de #llm-security?
Acompanhamos 65 repositórios ativos de código aberto marcados com #llm-security (com mais de 500 estrelas), totalizando 311,462 estrelas e uma média de 4,791 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.