Git Stars Git Stars

#llm-security Repositórios

65
Total de Repositórios
311,462
Total de estrelas
4,791
Média de Estrelas/Repositório

65 repositórios no total

51
cckuailong/awesome-gpt-security

Uma lista selecionada de ferramentas de segurança incríveis, casos experimentais ou outras coisas interessantes com LLM ou GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Atualizado 2026-07-24 📅 Criado 2023-04-13
53
samvallad33/vestige

Sistema operacional determinístico, kernel de segurança e sistema nervoso causal para agentes de IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Atualizado 2026-11-20 📅 Criado 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: Um Benchmark de Robustez Aberto para Jailbreaking de Modelos de Linguagem [NeurIPS 2024 Datasets and Benchmarks Track]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 Atualizado 2025-04-04 📅 Criado 2023-11-13
55
secureagentics/Adrian

Ferramenta de segurança de tempo de execução para agentes de IA de código aberto - monitora e controla agentes de IA, detectando uso malicioso de ferramentas, injeção de prompt e desvio de política em tempo real, antes que o agente aja.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Atualizado 2026-10-21 📅 Criado 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

Emulação de adversários de código aberto para agentes de IA e servidores MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Atualizado 2026-11-03 📅 Criado 2026-04-06
57
PrismorSec/prismor

Plano de controle de execução auto-hospedado para agentes de IA. Monitore, aprove com intervenção humana (HITL) ou bloqueie chamadas maliciosas a ferramentas antes que sejam executadas, evitando vazamentos de segredos, injeção de prompt, ataques à cadeia de suprimentos e outros riscos, tudo em um painel local. Compatível com qualquer agente (Claude, Codex, LangChain etc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-20
58
General-Analysis/GA

Uma enciclopédia de técnicas de jailbreaking para tornar os modelos de IA mais seguros.

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 Atualizado 2025-05-26 📅 Criado 2025-01-18
59
chawins/llm-sp

Documentos e recursos relacionados à segurança e privacidade de LLMs 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 Atualizado 2025-06-08 📅 Criado 2023-11-15
60
haizelabs/llama3-jailbreak

Uma quebra de programa trivial do Llama 3. Desculpe, Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Atualizado 2025-01-26 📅 Criado 2024-04-20
61
jplhughes/bon-jailbreaking

Lançamento de código para Best-of-N Jailbreaking

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 Atualizado 2025-02-05 📅 Criado 2024-10-11
62
riseandignite/mcp-shield

Scanner de segurança para servidores MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Atualizado 2025-04-26 📅 Criado 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ CLI de auditoria de segurança para servidores do Model Context Protocol (MCP) — analisa configurações de agentes de IA em busca de envenenamento de ferramentas, rug pulls, segredos embutidos no código, injeção de comandos e riscos na cadeia de suprimentos. Feito em Python puro, pronto para SARIF e CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Atualizado 2026-10-24 📅 Criado 2026-09-26
64
liu00222/Open-Prompt-Injection

Este repositório fornece um benchmark para ataques de injeção de prompts e defesas em LLMs

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Atualizado 2026-09-27 📅 Criado 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

Este documento reúne projetos de código aberto, artigos acadêmicos, benchmarks de capacidades e soluções comerciais (internacionais e da China) nas áreas de testes de intrusão com IA, red teaming de LLMs, agentes ofensivos autônomos e descoberta de vulnerabilidades, com o objetivo de ajudar pesquisadores, engenheiros de segurança e tomadores de decisão empresariais a formar rapidamente uma visão holística.

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 Atualizado 2026-11-19 📅 Criado 2026-06-11