Git Stars Git Stars

#llm-security Repositorios

65
Total de Repositorios
311,462
Total de estrellas
4,791
Promedio de Estrellas/Repo

65 repositorios en total

51
cckuailong/awesome-gpt-security

Una lista curada de geniales herramientas de seguridad, casos experimentales u otras cosas interesantes con LLM o GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Actualizado 2026-07-24 📅 Creado 2023-04-13
53
samvallad33/vestige

Sistema operativo determinista, núcleo de seguridad y sistema nervioso causal para agentes de IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Actualizado 2026-11-20 📅 Creado 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: Un benchmark de robustez abierto para el jailbreaking de modelos de lenguaje [Track de Datasets y Benchmarks de NeurIPS 2024]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 Actualizado 2025-04-04 📅 Creado 2023-11-13
55
secureagentics/Adrian

Herramienta de seguridad de tiempo de ejecución para agentes de IA de código abierto: supervisa y controla a los agentes de IA, detectando el uso malintencionado de herramientas, la inyección de prompts y la desviación de políticas en tiempo real, antes de que el agente actúe.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Actualizado 2026-10-21 📅 Creado 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

Emulación de adversarios de código abierto para agentes de IA y servidores MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Actualizado 2026-11-03 📅 Creado 2026-04-06
57
PrismorSec/prismor

Plano de control en tiempo de ejecución autohospedado para agentes de IA. Supervisa, aprueba con intervención humana (HITL) o bloquea llamadas maliciosas a herramientas antes de que se ejecuten, para evitar filtraciones de secretos, inyección de prompts, ataques a la cadena de suministro y otros riesgos, desde un panel local. Compatible con cualquier agente (Claude, Codex, LangChain, etc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-20
58
General-Analysis/GA

Una enciclopedia de técnicas de jailbreaking para hacer que los modelos de IA sean más seguros.

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 Actualizado 2025-05-26 📅 Creado 2025-01-18
59
chawins/llm-sp

Documentos y recursos relacionados con la seguridad y la privacidad de los LLM 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 Actualizado 2025-06-08 📅 Creado 2023-11-15
60
haizelabs/llama3-jailbreak

Una trivial explotación programática de Llama 3. ¡Lo siento, Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Actualizado 2025-01-26 📅 Creado 2024-04-20
61
jplhughes/bon-jailbreaking

Lanzamiento de código para jailbreaking Best-of-N

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 Actualizado 2025-02-05 📅 Creado 2024-10-11
62
riseandignite/mcp-shield

Escáner de seguridad para servidores MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Actualizado 2025-04-26 📅 Creado 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ CLI de auditoría de seguridad para servidores del Protocolo de Contexto del Modelo (MCP): analiza las configuraciones de agentes de IA en busca de envenenamiento de herramientas, estafas de salida, secretos codificados, inyección de comandos y riesgos en la cadena de suministro. Solo Python, compatible con SARIF y CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Actualizado 2026-10-24 📅 Creado 2026-09-26
64
liu00222/Open-Prompt-Injection

Este repositorio proporciona un punto de referencia para los ataques y las defensas contra la inyección de prompts en los LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Actualizado 2026-09-27 📅 Creado 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

Este documento reúne proyectos de código abierto, artículos académicos, evaluaciones comparativas de capacidades y soluciones comerciales (internacionales y de China) en los ámbitos de las pruebas de penetración de IA, el red teaming de LLM, los agentes ofensivos autónomos y el descubrimiento de vulnerabilidades, con el objetivo de ayudar a investigadores, ingenieros de seguridad y responsables de la toma de decisiones empresariales a formarse rápidamente una visión integral.

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 Actualizado 2026-11-19 📅 Creado 2026-06-11