Git Stars Git Stars

#prompt-injection Repositórios

Descubra 45 repositórios ativos de código aberto no GitHub marcados com #prompt-injection, acumulando um total de 148,037 estrelas (uma média de 3,289 por projeto). O líder deste tópico é ifixai-ai/iFixAi, com 46,592 estrelas.

45
Total de Repositórios
148,037
Total de estrelas
3,289
Média de Estrelas/Repositório

44 repositórios no total

1
ifixai-ai/iFixAi

Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-27
2
NVIDIA/SkillSpector

Scanner de segurança para habilidades de agentes de IA. Detecte vulnerabilidades, padrões maliciosos, riscos de segurança, injeção de prompts, exfiltração de dados e riscos da cadeia de suprimentos em habilidades do Claude Code, Codex e MCP antes de instalá-las.

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · Versão do DeepSeek Harness mantida pela comunidade: compatibilidade com o ambiente anfitrião, diagnóstico de estado, gestão de prompts, atualizações e cópia de segurança e reversão locais. Baseada no dsh-purge de Xiaoyang / YuJunZhiXue.

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 Atualizado 2026-11-18 📅 Criado 2026-10-16
4
Tencent/AI-Infra-Guard

Uma plataforma full-stack de Red Teaming de IA que protege os ecossistemas de IA por meio de Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e avaliação de jailbreaks de LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-12-25
5
superagent-ai/superagent

O Superagent protege suas aplicações de IA contra injeções de prompt, vazamentos de dados e saídas prejudiciais. Incorpore a segurança diretamente no seu aplicativo e comprove a conformidade aos seus clientes.

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 Atualizado 2026-08-25 📅 Criado 2023-05-10
6
0xeb/TheBigPromptLibrary

Uma coleção de prompts, prompts de sistema e instruções de LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Atualizado 2026-11-10 📅 Criado 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

Jailbreaks do ChatGPT, Vazamentos de Prompts de Assistentes GPT, Injeção de Prompt em GPTs, Segurança de Prompt de LLM, Super Prompts, Hacking de Prompt, Segurança de Prompt, Engenharia de Prompt de IA, Aprendizado de Máquina Adversarial.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 Atualizado 2026-05-05 📅 Criado 2024-03-15
8
protectai/llm-guard

O Kit de Ferramentas de Segurança para Interações com LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Atualizado 2025-12-15 📅 Criado 2023-07-27
9
Acmesec/PromptJailbreakManual

Manual de Jailbreak de Prompt

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Atualizado 2024-12-17 📅 Criado 2024-11-25
10
uber/ADR

A ADR protege agentes de IA empresariais por meio de observabilidade, benchmarking de segurança e detecção de ameaças. Implantado na Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

Laboratórios de campo de testes (playground labs) de Red Teaming de IA para a realização de treinamentos de Red Teaming de IA, incluindo infraestrutura.

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 Atualizado 2026-02-13 📅 Criado 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT: notícias, artigos e incidentes diários sobre segurança de IA em um só lugar — jailbreaks, injeção de prompts, alinhamento, avaliações e governança. Site, resumo diário, RSS e MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-01
13
harishsg993010/damn-vulnerable-MCP-server

Malditamente Vulnerável Servidor MCP

harishsg993010
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Atualizado 2026-11-01 📅 Criado 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Atualizado 2026-05-11 📅 Criado 2025-09-24
15
utkusen/promptmap

um scanner de segurança para aplicações LLM personalizadas

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 Atualizado 2025-12-01 📅 Criado 2023-07-15
16
hashgraph-online/hol-guard

Antivírus e firewall de código aberto para agentes de IA: bloqueie em tempo de execução ferramentas arriscadas, acesso a segredos, injeção de prompts, pacotes maliciosos, servidores MCP, plugins e habilidades.

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-03-28
17
trailofbits/anamorpher

ataques de escalonamento de imagem para injeção de prompt multimodal

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 Atualizado 2026-05-19 📅 Criado 2025-08-20
18
ethz-spylab/agentdojo

Um ambiente dinâmico para avaliar ataques e defesas para agentes LLM.

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 Atualizado 2026-06-02 📅 Criado 2024-02-29
19
pipelab-org/pipelock

Firewall de agentes de IA de código aberto para segurança MCP e saída de agentes. Analisa o tráfego mediado de HTTP, MCP, A2A e WebSocket em busca de exfiltração, SSRF e injeção de prompt, e emite recibos de ação assinados pelo mediador: evidência de auditoria verificável de fora do agente.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-08
20
aimeoa/hanshuang-codex

Projeto experimental de quebra de proteções direcionado ao GPT 6.0 e ao WorkBuddy V4.1 Flash

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 Atualizado 2026-10-17 📅 Criado 2026-09-06
21
whylabs/langkit

🔍 LangKit: Um kit de ferramentas de código aberto para monitoramento de Modelos de Linguagem Grandes (LLMs). 📚 Extrai sinais de prompts e respostas, garantindo segurança e proteção. 🛡️ Os recursos incluem qualidade de texto, métricas de relevância e análise de sentimento. 📊 Uma ferramenta abrangente para observabilidade de LLM. 👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 Atualizado 2024-11-22 📅 Criado 2023-04-26
22
duriantaco/skylos

Scanner de PR open source e local-first que encontra código morto, bugs de segurança, segredos, regressões de qualidade e erros de código de IA antes do merge. Para iniciantes, consulte https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 Atualizado 2026-11-21 📅 Criado 2025-04-28
23
tg12/gpt_jailbreak_status

Este é um repositório que visa fornecer atualizações sobre o status do 'jailbreak' do modelo de linguagem GPT da OpenAI.

tg12
⭐ 934 HTML 👤 tg12 User 🕐 Atualizado 2026-05-16 📅 Criado 2023-03-01
24
toby-bridges/api-relay-audit

Auditoria de segurança local para retransmissores de API de IA e proxies de LLM: detecta injeção de prompts, substituição de modelos, reescrita de chamadas de ferramentas, anomalias de SSE, vazamento de erros e riscos para carteiras Web3. Site: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Atualizado 2026-11-18 📅 Criado 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — Interface de linha de comando open-source para acesso irrestrito a modelos de IA com suporte multi-provedor, capacidades de pesquisa de injeção de prompts, endpoints de API configuráveis, compatibilidade Termux/Linux/Windows e UI de terminal Rich para pesquisa de segurança e avaliação red-team

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 Atualizado 2026-03-13 📅 Criado 2026-03-09
26
asamassekou10/ship-safe

O agente de segurança independente para software escrito por IA. Encontra problemas, investiga se são reais e mostra as evidências. Núcleo determinístico, sem necessidade de chave de API, saída em JSON e SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Atualizado 2026-10-17 📅 Criado 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — Gateway LLM de código aberto acessando DeepSeek, Gemini e Kimi-K2 através da API Pollinations com engenharia reversa, sem chaves API necessárias, capacidades integradas de injeção de prompts para pesquisa de segurança, suporte nativo Termux/Linux e interface de console rica

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 Atualizado 2026-03-13 📅 Criado 2026-03-09
28
slowmist/MCP-Security-Checklist

Uma lista de verificação de segurança abrangente para ferramentas de IA baseadas em MCP. Construído pela SlowMist para proteger os ecossistemas de plugins LLM.

slowmist
⭐ 829 👤 slowmist Organization 🕐 Atualizado 2025-04-28 📅 Criado 2025-04-12
29
CallMeGuLab/dsh-purge-safe

Jailbreak oficial do dsh-purge DeepSeek Harness: o prompt padrão é voltado para modelos chineses e baseado no Xiao Ma Jiang original; versão totalmente aberta, sem paywall, com as bibliotecas completas de habilidades e conhecimento incluídas, disponível gratuitamente. Jailbreak para todos os modelos — troque os prompts de acordo com o modelo. Deixe uma estrela e adicione aos favoritos ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 Atualizado 2026-11-20 📅 Criado 2026-11-07
30
AgentSafeLabs/safelabs-eval

Framework de red teaming e avaliação para agentes de IA, baseado em uma taxonomia ASI01–ASI10 inspirada na OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Atualizado 2026-11-06 📅 Criado 2026-05-25
31
tldrsec/prompt-injection-defenses

Todas as defesas práticas e propostas contra injeção de prompt.

tldrsec
⭐ 696 👤 tldrsec User 🕐 Atualizado 2025-02-22 📅 Criado 2024-04-01
32
lalipa2003-arch/JailbreakHub

Um centro/área de pesquisa para fazer jailbreak de LLMs e quebrar seus filtros de segurança.

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 Atualizado 2026-11-20 📅 Criado 2026-09-27
33
cckuailong/awesome-gpt-security

Uma lista selecionada de ferramentas de segurança incríveis, casos experimentais ou outras coisas interessantes com LLM ou GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Atualizado 2026-07-24 📅 Criado 2023-04-13
35
zacfrulloni/Prompt-Engineering-Holy-Grail

Configurar OpenClaw: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 Atualizado 2026-03-22 📅 Criado 2024-10-31
36
samvallad33/vestige

Sistema operacional determinístico, kernel de segurança e sistema nervoso causal para agentes de IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Atualizado 2026-11-20 📅 Criado 2026-01-25
37
qybaihe/mu

mu (μ): a maioria das decisões de um agente de programação não envolve código. mu delega 40 tipos de decisões de sim/não a um modelo pequeno: menos tokens desperdiçados, menos aprovações automáticas e menos execuções interrompidas pela metade. Desenvolvido com base em pi.

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 Atualizado 2026-11-19 📅 Criado 2026-09-22
38
secureagentics/Adrian

Ferramenta de segurança de tempo de execução para agentes de IA de código aberto - monitora e controla agentes de IA, detectando uso malicioso de ferramentas, injeção de prompt e desvio de política em tempo real, antes que o agente aja.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Atualizado 2026-10-21 📅 Criado 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

Emulação de adversários de código aberto para agentes de IA e servidores MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Atualizado 2026-11-03 📅 Criado 2026-04-06
40
PrismorSec/prismor

Plano de controle de execução auto-hospedado para agentes de IA. Monitore, aprove com intervenção humana (HITL) ou bloqueie chamadas maliciosas a ferramentas antes que sejam executadas, evitando vazamentos de segredos, injeção de prompt, ataques à cadeia de suprimentos e outros riscos, tudo em um painel local. Compatível com qualquer agente (Claude, Codex, LangChain etc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-20
41
haizelabs/llama3-jailbreak

Uma quebra de programa trivial do Llama 3. Desculpe, Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Atualizado 2025-01-26 📅 Criado 2024-04-20
42
riseandignite/mcp-shield

Scanner de segurança para servidores MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Atualizado 2025-04-26 📅 Criado 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ CLI de auditoria de segurança para servidores do Model Context Protocol (MCP) — analisa configurações de agentes de IA em busca de envenenamento de ferramentas, rug pulls, segredos embutidos no código, injeção de comandos e riscos na cadeia de suprimentos. Feito em Python puro, pronto para SARIF e CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Atualizado 2026-10-24 📅 Criado 2026-09-26
44
liu00222/Open-Prompt-Injection

Este repositório fornece um benchmark para ataques de injeção de prompts e defesas em LLMs

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Atualizado 2026-09-27 📅 Criado 2023-10-19

Perguntas Frequentes

1

Qual é o repositório de #prompt-injection mais popular no GitHub?

O projeto de código aberto de #prompt-injection mais bem classificado no GitHub é ifixai-ai/iFixAi, com 46,592 estrelas. Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.

2

Quais linguagens de programação são mais usadas nos repositórios de #prompt-injection?

Entre os projetos de #prompt-injection mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, HTML, JavaScript.

3

Como é calculada a classificação dos repositórios de #prompt-injection?

Acompanhamos 45 repositórios ativos de código aberto marcados com #prompt-injection (com mais de 500 estrelas), totalizando 148,037 estrelas e uma média de 3,289 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.