Git Stars Git Stars

#llm-security Repositórios

Descubra 65 repositórios ativos de código aberto no GitHub marcados com #llm-security, acumulando um total de 311,462 estrelas (uma média de 4,791 por projeto). O líder deste tópico é usestrix/strix, com 76,872 estrelas.

65
Total de Repositórios
311,462
Total de estrelas
4,791
Média de Estrelas/Repositório

65 repositórios no total

1
usestrix/strix

Ferramenta de teste de penetração de IA de código aberto para encontrar e corrigir as vulnerabilidades do seu aplicativo.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 Atualizado 2026-11-19 📅 Criado 2025-08-05
2
Lordog/dive-into-llms

Série de Tutoriais Práticos de Programação "Dive into LLMs"

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 Atualizado 2025-10-10 📅 Criado 2024-04-08
3
ifixai-ai/iFixAi

Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente, para responder à pergunta mais crucial na economia dos agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você pode obter essa resposta em menos de 120 segundos.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-27
4
NVIDIA/garak

o scanner de vulnerabilidades de LLM

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 Atualizado 2026-11-18 📅 Criado 2023-05-10
5
Tencent/AI-Infra-Guard

Uma plataforma full-stack de Red Teaming de IA que protege os ecossistemas de IA por meio de Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e avaliação de jailbreaks de LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Atualizado 2026-11-19 📅 Criado 2023-04-18
7
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — servidor MCP e CLI de defesa Blue de código aberto que protege JS/TS, Electron ASAR, WASM, Python, binários nativos, SQLite, GGUF/Safetensors e Android DEX contra agentes de engenharia reversa com IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-25
8
awarexone/Agentic-Bug-Hunter

Kit de ferramentas baseado em IA para caça a vulnerabilidades em programas de bug bounty, que funciona com ou sem assinatura.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 Atualizado 2026-11-12 📅 Criado 2026-03-08
9
Giskard-AI/giskard-oss

🐢 Biblioteca de Código Aberto para Avaliação e Teste de Agentes LLM

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Atualizado 2026-11-20 📅 Criado 2022-03-06
10
0xeb/TheBigPromptLibrary

Uma coleção de prompts, prompts de sistema e instruções de LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Atualizado 2026-11-10 📅 Criado 2023-11-24
11
nolabs-ai/nono

Segurança em tempo de execução de agentes — sandboxing de agentes com confiança zero, configuração zero e latência zero

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-01-31
12
meta-llama/PurpleLlama

Conjunto de ferramentas para avaliar e melhorar a segurança de LLMs.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 Atualizado 2026-11-20 📅 Criado 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Roteiro de Ataques Web

riramar
⭐ 4,438 👤 riramar User 🕐 Atualizado 2026-09-04 📅 Criado 2020-01-11
14
llm-attacks/llm-attacks

Ataques Universais e Transferíveis em Modelos de Linguagem Alinhados

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 Atualizado 2024-08-02 📅 Criado 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

Uma coleção de métodos científicos, processos, algoritmos e sistemas para construir histórias e modelos.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 Atualizado 2026-10-28 📅 Criado 2022-03-29
16
CyberStrikeus/CyberStrike

Estrutura de segurança ofensiva de código aberto baseada em IA para testes de penetração automatizados.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-02-14
17
verazuo/jailbreak_llms

[CCS'24] Um conjunto de dados consiste em 15.140 prompts do ChatGPT do Reddit, Discord, websites e conjuntos de dados de código aberto (incluindo 1.405 prompts de jailbreak).

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 Atualizado 2024-12-24 📅 Criado 2023-08-01
18
protectai/llm-guard

O Kit de Ferramentas de Segurança para Interações com LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Atualizado 2025-12-15 📅 Criado 2023-07-27
19
Acmesec/PromptJailbreakManual

Manual de Jailbreak de Prompt

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Atualizado 2024-12-17 📅 Criado 2024-11-25
20
beelzebub-labs/beelzebub

Um framework runtime de engano de baixo código seguro, aproveitando IA para Virtualização de Sistema.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 Atualizado 2026-11-20 📅 Criado 2022-05-08
21
uber/ADR

A ADR protege agentes de IA empresariais por meio de observabilidade, benchmarking de segurança e detecção de ameaças. Implantado na Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-19
22
greshake/llm-security

Novas formas de violação de LLMs integrados a aplicativos

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 Atualizado 2025-07-17 📅 Criado 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT: notícias, artigos e incidentes diários sobre segurança de IA em um só lugar — jailbreaks, injeção de prompts, alinhamento, avaliações e governança. Site, resumo diário, RSS e MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-01
24
msoedov/agentic_security

Scanner de Vulnerabilidade de LLM Agentic / Kit de Red Teaming de IA 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 Atualizado 2026-11-19 📅 Criado 2024-04-11
25
llmgenai/LLMInterviewQuestions

Este repositório contém perguntas de entrevista sobre LLM (Modelo de Linguagem Grande) feitas em grandes empresas como Google, Nvidia, Meta, Microsoft e companhias da Fortune 500.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 Atualizado 2025-02-12 📅 Criado 2024-12-26
26
cyberark/FuzzyAI

Uma ferramenta poderosa para fuzzing automatizado de LLM. Ela foi projetada para ajudar desenvolvedores e pesquisadores de segurança a identificar e mitigar possíveis jailbreaks em suas APIs de LLM.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 Atualizado 2026-02-06 📅 Criado 2024-12-03
27
mark3labs/mcphost

Uma aplicação host CLI que permite que Modelos de Linguagem Grandes (LLMs) interajam com ferramentas externas através do Protocolo de Contexto do Modelo (MCP).

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 Atualizado 2026-02-26 📅 Criado 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

OWASP Top 10 para Aplicações de Modelos de Linguagem Grandes (Parte do Projeto de Segurança GenAI)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 Atualizado 2026-08-05 📅 Criado 2023-05-16
29
xalgorix/xalgorix

Agente de testes de intrusão com IA e código aberto que verifica cada descoberta por meio de exploração. Pentests autônomos em 22 fases de aplicações web e APIs, com relatórios em PDF classificados segundo o CVSS. Hospede por conta própria, use seu próprio LLM ou execute tudo localmente com o Ollama.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-03-13
30
harishsg993010/damn-vulnerable-MCP-server

Malditamente Vulnerável Servidor MCP

harishsg993010
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Atualizado 2026-11-01 📅 Criado 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Atualizado 2026-05-11 📅 Criado 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ Terminal de segurança e scanner de vulnerabilidades gratuitos, de código aberto e com tecnologia de IA (CVE, SBOM). Compatível com SSH, SFTP, RDP, VNC e conexões seriais, além de mais de 12 agentes autônomos de IA (DeepSeek, OpenAI) para automatizar fluxos de trabalho de segurança, CTF e DevSecOps. Multiplataforma e com interface web.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 Atualizado 2026-11-04 📅 Criado 2026-09-10
33
ASCIT31/Dark-Moon

Testes de penetração autônomos com IA e código aberto. 50 agentes especializados em web, APIs, nuvem, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), com um grafo de caminhos de ataque verificado por evidências. Executa em um LLM local protegido por um Privacy Gateway. Integra-se ao GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Atualizado 2026-11-21 📅 Criado 2024-11-26
34
splx-ai/agentic-radar

Um scanner de segurança para seus fluxos de trabalho de agentes LLM

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 Atualizado 2026-11-13 📅 Criado 2025-02-12
35
Zyrexnn/Cybermes

Framework de agentes autônomos de segurança ofensiva, bug bounty e red teaming impulsionado pelo Hermes Agent, habilidades especializadas de raciocínio e orquestração de LLM multimodelo.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 Atualizado 2026-11-16 📅 Criado 2026-08-19
36
Pantheon-Security/medusa

Scanner de segurança com foco em IA. NOVO na v2026.7: detecção de comprometimento do Claude Code — examine os hooks, permissões e habilidades do .claude/ antes de clonar — além de um scanner de assinaturas de ataque de IA sempre ativo e regras nativas Rust e PHP. Também: medusa scan --git para examinar qualquer repositório, medusa secrets scan para chaves de API vazadas. Mais de 40.000 padrões, configuração zero.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 Atualizado 2026-08-10 📅 Criado 2025-11-15
37
pipelab-org/pipelock

Firewall de agentes de IA de código aberto para segurança MCP e saída de agentes. Analisa o tráfego mediado de HTTP, MCP, A2A e WebSocket em busca de exfiltração, SSRF e injeção de prompt, e emite recibos de ação assinados pelo mediador: evidência de auditoria verificável de fora do agente.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-08
38
wang-rui/phishguard-scaffold

Detecção Semântica Conjunta e Controle de Disseminação de Ataques de Phishing em Mídias Sociais por Modelagem Baseada em LLama

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 Atualizado 2026-02-15 📅 Criado 2025-09-08
39
sherwinvishesh/SurrogateShield

Uma camada de proteção com foco na privacidade para LLMs e pipelines RAG. O SurrogateShield detecta, oculta e reconstrói dados pessoais sensíveis (PII) em tempo real, ao mesmo tempo que protege contra ataques adversariais.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 Atualizado 2026-10-16 📅 Criado 2026-05-13
40
openpcc/openpcc

Um framework de código aberto para inferência de IA privada verificável

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 Atualizado 2026-01-08 📅 Criado 2025-11-05
41
EasyJailbreak/EasyJailbreak

Um framework Python fácil de usar para gerar prompts de jailbreak adversariais.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 Atualizado 2026-09-01 📅 Criado 2024-01-31
42
toby-bridges/api-relay-audit

Auditoria de segurança local para retransmissores de API de IA e proxies de LLM: detecta injeção de prompts, substituição de modelos, reescrita de chamadas de ferramentas, anomalias de SSE, vazamento de erros e riscos para carteiras Web3. Site: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Atualizado 2026-11-18 📅 Criado 2026-03-30
43
asamassekou10/ship-safe

O agente de segurança independente para software escrito por IA. Encontra problemas, investiga se são reais e mostra as evidências. Núcleo determinístico, sem necessidade de chave de API, saída em JSON e SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Atualizado 2026-10-17 📅 Criado 2026-02-02
44
OWASP/www-project-ai-testing-guide

repositório web da Fundação OWASP

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 Atualizado 2026-06-01 📅 Criado 2025-06-10
45
ThinkWatchProject/ThinkWatch

API de IA e gateway MCP autogerenciados para organizações: SSO e RBAC, identidade por usuário para chamadas de ferramentas MCP, mascaramento de informações pessoais (PII) e proteções para chamadas de ferramentas, limites de taxa, orçamentos, contabilização de custos e registros de auditoria.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-04-02
46
coipond/coi

Dê ao agente uma máquina. Só não a sua. Cada agente de programação de IA recebe sua própria máquina isolada com acesso root, Docker e systemd — a defesa ativa detecta e interrompe ameaças automaticamente.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-01-07
47
Cygnux-Labs/Tracekit

Rastreamento à prova de adulteração, controles de políticas e verificações cruzadas para agentes de IA: veja o que o agente fez e por quê.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-09-26
48
l0gicx/ai-model-bypass

Explorar prompts e técnicas de interpretação de papéis para contornar as restrições do modelo de IA.

l0gicx
⭐ 722 👤 l0gicx User 🕐 Atualizado 2025-10-04 📅 Criado 2025-05-21
49
AgentSafeLabs/safelabs-eval

Framework de red teaming e avaliação para agentes de IA, baseado em uma taxonomia ASI01–ASI10 inspirada na OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Atualizado 2026-11-06 📅 Criado 2026-05-25
50
arcjet/arcjet-js

Segurança em tempo de execução para aplicações e agentes de IA: detecção de injeção de prompt, autorização de chamadas de ferramentas, redação de dados sensíveis, proteção contra bots e limitação de taxa. Integre facilmente ao seu código JS/TS.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 Atualizado 2026-11-19 📅 Criado 2023-11-30

Perguntas Frequentes

1

Qual é o repositório de #llm-security mais popular no GitHub?

O projeto de código aberto de #llm-security mais bem classificado no GitHub é usestrix/strix, com 76,872 estrelas. Ferramenta de teste de penetração de IA de código aberto para encontrar e corrigir as vulnerabilidades do seu aplicativo.

2

Quais linguagens de programação são mais usadas nos repositórios de #llm-security?

Entre os projetos de #llm-security mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Go, Jupyter Notebook, TypeScript.

3

Como é calculada a classificação dos repositórios de #llm-security?

Acompanhamos 65 repositórios ativos de código aberto marcados com #llm-security (com mais de 500 estrelas), totalizando 311,462 estrelas e uma média de 4,791 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.