#prompt-injection Repositórios
Descubra 45 repositórios ativos de código aberto no GitHub marcados com #prompt-injection, acumulando um total de 148,037 estrelas (uma média de 3,289 por projeto). O líder deste tópico é ifixai-ai/iFixAi, com 46,592 estrelas.
44 repositórios no total
Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.
Scanner de segurança para habilidades de agentes de IA. Detecte vulnerabilidades, padrões maliciosos, riscos de segurança, injeção de prompts, exfiltração de dados e riscos da cadeia de suprimentos em habilidades do Claude Code, Codex e MCP antes de instalá-las.
dsh-purge Community · Versão do DeepSeek Harness mantida pela comunidade: compatibilidade com o ambiente anfitrião, diagnóstico de estado, gestão de prompts, atualizações e cópia de segurança e reversão locais. Baseada no dsh-purge de Xiaoyang / YuJunZhiXue.
Uma plataforma full-stack de Red Teaming de IA que protege os ecossistemas de IA por meio de Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e avaliação de jailbreaks de LLM.
O Superagent protege suas aplicações de IA contra injeções de prompt, vazamentos de dados e saídas prejudiciais. Incorpore a segurança diretamente no seu aplicativo e comprove a conformidade aos seus clientes.
Jailbreaks do ChatGPT, Vazamentos de Prompts de Assistentes GPT, Injeção de Prompt em GPTs, Segurança de Prompt de LLM, Super Prompts, Hacking de Prompt, Segurança de Prompt, Engenharia de Prompt de IA, Aprendizado de Máquina Adversarial.
A ADR protege agentes de IA empresariais por meio de observabilidade, benchmarking de segurança e detecção de ameaças. Implantado na Uber.
Laboratórios de campo de testes (playground labs) de Red Teaming de IA para a realização de treinamentos de Red Teaming de IA, incluindo infraestrutura.
AI Safety HOT: notícias, artigos e incidentes diários sobre segurança de IA em um só lugar — jailbreaks, injeção de prompts, alinhamento, avaliações e governança. Site, resumo diário, RSS e MCP.
Antivírus e firewall de código aberto para agentes de IA: bloqueie em tempo de execução ferramentas arriscadas, acesso a segredos, injeção de prompts, pacotes maliciosos, servidores MCP, plugins e habilidades.
Firewall de agentes de IA de código aberto para segurança MCP e saída de agentes. Analisa o tráfego mediado de HTTP, MCP, A2A e WebSocket em busca de exfiltração, SSRF e injeção de prompt, e emite recibos de ação assinados pelo mediador: evidência de auditoria verificável de fora do agente.
Projeto experimental de quebra de proteções direcionado ao GPT 6.0 e ao WorkBuddy V4.1 Flash
🔍 LangKit: Um kit de ferramentas de código aberto para monitoramento de Modelos de Linguagem Grandes (LLMs). 📚 Extrai sinais de prompts e respostas, garantindo segurança e proteção. 🛡️ Os recursos incluem qualidade de texto, métricas de relevância e análise de sentimento. 📊 Uma ferramenta abrangente para observabilidade de LLM. 👀
Scanner de PR open source e local-first que encontra código morto, bugs de segurança, segredos, regressões de qualidade e erros de código de IA antes do merge. Para iniciantes, consulte https://duriantaco.github.io/skylos/repo-map/
Este é um repositório que visa fornecer atualizações sobre o status do 'jailbreak' do modelo de linguagem GPT da OpenAI.
Auditoria de segurança local para retransmissores de API de IA e proxies de LLM: detecta injeção de prompts, substituição de modelos, reescrita de chamadas de ferramentas, anomalias de SSE, vazamento de erros e riscos para carteiras Web3. Site: https://apirelayaudit.com
HacxGPT CLI — Interface de linha de comando open-source para acesso irrestrito a modelos de IA com suporte multi-provedor, capacidades de pesquisa de injeção de prompts, endpoints de API configuráveis, compatibilidade Termux/Linux/Windows e UI de terminal Rich para pesquisa de segurança e avaliação red-team
O agente de segurança independente para software escrito por IA. Encontra problemas, investiga se são reais e mostra as evidências. Núcleo determinístico, sem necessidade de chave de API, saída em JSON e SARIF.
KawaiiGPT — Gateway LLM de código aberto acessando DeepSeek, Gemini e Kimi-K2 através da API Pollinations com engenharia reversa, sem chaves API necessárias, capacidades integradas de injeção de prompts para pesquisa de segurança, suporte nativo Termux/Linux e interface de console rica
Uma lista de verificação de segurança abrangente para ferramentas de IA baseadas em MCP. Construído pela SlowMist para proteger os ecossistemas de plugins LLM.
Jailbreak oficial do dsh-purge DeepSeek Harness: o prompt padrão é voltado para modelos chineses e baseado no Xiao Ma Jiang original; versão totalmente aberta, sem paywall, com as bibliotecas completas de habilidades e conhecimento incluídas, disponível gratuitamente. Jailbreak para todos os modelos — troque os prompts de acordo com o modelo. Deixe uma estrela e adicione aos favoritos ⭐
Framework de red teaming e avaliação para agentes de IA, baseado em uma taxonomia ASI01–ASI10 inspirada na OWASP
Todas as defesas práticas e propostas contra injeção de prompt.
Um centro/área de pesquisa para fazer jailbreak de LLMs e quebrar seus filtros de segurança.
Uma lista selecionada de ferramentas de segurança incríveis, casos experimentais ou outras coisas interessantes com LLM ou GPT.
Sistema operacional determinístico, kernel de segurança e sistema nervoso causal para agentes de IA.
mu (μ): a maioria das decisões de um agente de programação não envolve código. mu delega 40 tipos de decisões de sim/não a um modelo pequeno: menos tokens desperdiçados, menos aprovações automáticas e menos execuções interrompidas pela metade. Desenvolvido com base em pi.
Ferramenta de segurança de tempo de execução para agentes de IA de código aberto - monitora e controla agentes de IA, detectando uso malicioso de ferramentas, injeção de prompt e desvio de política em tempo real, antes que o agente aja.
Emulação de adversários de código aberto para agentes de IA e servidores MCP.
Plano de controle de execução auto-hospedado para agentes de IA. Monitore, aprove com intervenção humana (HITL) ou bloqueie chamadas maliciosas a ferramentas antes que sejam executadas, evitando vazamentos de segredos, injeção de prompt, ataques à cadeia de suprimentos e outros riscos, tudo em um painel local. Compatível com qualquer agente (Claude, Codex, LangChain etc.).
🛡️ CLI de auditoria de segurança para servidores do Model Context Protocol (MCP) — analisa configurações de agentes de IA em busca de envenenamento de ferramentas, rug pulls, segredos embutidos no código, injeção de comandos e riscos na cadeia de suprimentos. Feito em Python puro, pronto para SARIF e CI.
Este repositório fornece um benchmark para ataques de injeção de prompts e defesas em LLMs
Perguntas Frequentes
Qual é o repositório de #prompt-injection mais popular no GitHub?
O projeto de código aberto de #prompt-injection mais bem classificado no GitHub é ifixai-ai/iFixAi, com 46,592 estrelas. Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.
Quais linguagens de programação são mais usadas nos repositórios de #prompt-injection?
Entre os projetos de #prompt-injection mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, HTML, JavaScript.
Como é calculada a classificação dos repositórios de #prompt-injection?
Acompanhamos 45 repositórios ativos de código aberto marcados com #prompt-injection (com mais de 500 estrelas), totalizando 148,037 estrelas e uma média de 3,289 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.