Git Stars Git Stars

#llm-security Repository

65
Totale Repository
311,462
Totale stelle
4,791
Media Stelle/Repo
51
cckuailong/awesome-gpt-security

Un elenco curato di fantastici strumenti di sicurezza, casi sperimentali o altre cose interessanti con LLM o GPT.

cckuailong
โญ 678 ๐Ÿ‘ค cckuailong User ๐Ÿ• Aggiornato 2026-07-24 ๐Ÿ“… Creato 2023-04-13
โญ 664 ๐Ÿ‘ค pashov User ๐Ÿ• Aggiornato 2026-11-13 ๐Ÿ“… Creato 2026-03-12
53
samvallad33/vestige

Sistema operativo deterministico, kernel di sicurezza e sistema nervoso causale per agenti di IA.

samvallad33
โญ 662 Rust ๐Ÿ‘ค samvallad33 User ๐Ÿ• Aggiornato 2026-11-20 ๐Ÿ“… Creato 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: Un benchmark di robustezza aperto per il jailbreaking dei modelli linguistici [Traccia Datasets and Benchmarks di NeurIPS 2024]

JailbreakBench
โญ 603 Python ๐Ÿ‘ค JailbreakBench Organization ๐Ÿ• Aggiornato 2025-04-04 ๐Ÿ“… Creato 2023-11-13
55
secureagentics/Adrian

Strumento di sicurezza open-source per agenti IA in runtime: monitora e controlla gli agenti IA, rilevando l'uso dannoso di strumenti, l'iniezione di prompt e la deriva delle policy in tempo reale, prima che l'agente agisca.

secureagentics
โญ 597 Python ๐Ÿ‘ค secureagentics Organization ๐Ÿ• Aggiornato 2026-10-21 ๐Ÿ“… Creato 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

Emulazione di avversari open source per agenti IA e server MCP.

KeyValueSoftwareSystems
โญ 588 TypeScript ๐Ÿ‘ค KeyValueSoftwareSystems Organization ๐Ÿ• Aggiornato 2026-11-03 ๐Ÿ“… Creato 2026-04-06
57
PrismorSec/prismor

Control plane self-hosted in fase di esecuzione per agenti IA. Monitora, approva con supervisione umana (HITL) o blocca le chiamate agli strumenti non autorizzate prima che vengano eseguite, prevenendo fughe di segreti, prompt injection, attacchi alla catena di fornitura e altro, da una dashboard locale. Compatibile con qualsiasi agente (Claude, Codex, LangChain, ecc.).

PrismorSec
โญ 585 Python ๐Ÿ‘ค PrismorSec Organization ๐Ÿ• Aggiornato 2026-11-21 ๐Ÿ“… Creato 2026-02-20
58
General-Analysis/GA

Un'enciclopedia di tecniche di jailbreaking per rendere piรน sicuri i modelli di intelligenza artificiale.

General-Analysis
โญ 583 Jupyter Notebook ๐Ÿ‘ค General-Analysis Organization ๐Ÿ• Aggiornato 2025-05-26 ๐Ÿ“… Creato 2025-01-18
59
chawins/llm-sp

Documenti e risorse relative alla sicurezza e alla privacy delle LLM ๐Ÿค–

chawins
โญ 579 Python ๐Ÿ‘ค chawins User ๐Ÿ• Aggiornato 2025-06-08 ๐Ÿ“… Creato 2023-11-15
60
haizelabs/llama3-jailbreak

Un banale jailbreak programmatico di Llama 3. Scusa Zuck!

haizelabs
โญ 569 Python ๐Ÿ‘ค haizelabs Organization ๐Ÿ• Aggiornato 2025-01-26 ๐Ÿ“… Creato 2024-04-20
61
jplhughes/bon-jailbreaking

Rilascio del codice per il jailbreaking Best-of-N

jplhughes
โญ 566 Python ๐Ÿ‘ค jplhughes User ๐Ÿ• Aggiornato 2025-02-05 ๐Ÿ“… Creato 2024-10-11
62
riseandignite/mcp-shield

Scanner di sicurezza per server MCP

riseandignite
โญ 556 TypeScript ๐Ÿ‘ค riseandignite User ๐Ÿ• Aggiornato 2025-04-26 ๐Ÿ“… Creato 2025-04-15
63
graygnatconsole/mcp-audit-tool

๐Ÿ›ก๏ธ CLI per audit di sicurezza dei server Model Context Protocol (MCP): analizza le configurazioni degli agenti IA per individuare avvelenamento degli strumenti, rug pull, segreti hardcoded, command injection e rischi della catena di fornitura. Scritto in puro Python, pronto per SARIF e CI.

graygnatconsole
โญ 543 Python ๐Ÿ‘ค graygnatconsole User ๐Ÿ• Aggiornato 2026-10-24 ๐Ÿ“… Creato 2026-09-26
64
liu00222/Open-Prompt-Injection

Questo repository fornisce un benchmark per gli attacchi di prompt injection e le difese negli LLM

liu00222
โญ 517 Python ๐Ÿ‘ค liu00222 User ๐Ÿ• Aggiornato 2026-09-27 ๐Ÿ“… Creato 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

Questo documento raccoglie progetti open source, articoli accademici, benchmark delle capacitร  e soluzioni commerciali (internazionali e cinesi) nei settori dei penetration test sullโ€™IA, del red teaming degli LLM, degli agenti offensivi autonomi e della scoperta delle vulnerabilitร , con lโ€™obiettivo di aiutare ricercatori, ingegneri della sicurezza e responsabili delle decisioni aziendali a formarsi rapidamente una visione dโ€™insieme completa.

Yeti-791
โญ 501 ๐Ÿ‘ค Yeti-791 User ๐Ÿ• Aggiornato 2026-11-19 ๐Ÿ“… Creato 2026-06-11