Git Stars Git Stars

#llm-security Repository

Scopri 65 repository GitHub open source attivi contrassegnati con #llm-security, che raccolgono un totale di 311,462 stelle (con una media di 4,791 stelle per progetto). Il progetto leader di questo argomento è usestrix/strix, con 76,872 stelle.

65
Totale Repository
311,462
Totale stelle
4,791
Media Stelle/Repo

65 repository in totale

1
usestrix/strix

Strumento di penetration testing AI open source per trovare e correggere le vulnerabilità della tua app.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2025-08-05
2
Lordog/dive-into-llms

Tutorial di programmazione della serie "Immergi nei LLM: impara i modelli linguistici di grandi dimensioni"

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 Aggiornato 2025-10-10 📅 Creato 2024-04-08
3
ifixai-ai/iFixAi

Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-27
4
NVIDIA/garak

lo scanner di vulnerabilità LLM

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-11-18 📅 Creato 2023-05-10
5
Tencent/AI-Infra-Guard

Una piattaforma full-stack di AI Red Teaming che protegge gli ecosistemi di IA tramite Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e la valutazione dei jailbreak degli LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails è una libreria open source che consente di applicare controlli programmabili di sicurezza e protezione alle applicazioni LLM e agentiche.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2023-04-18
7
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — server MCP e CLI open source di difesa Blue che protegge JS/TS, Electron ASAR, WASM, Python, binari nativi, SQLite, GGUF/Safetensors e Android DEX dagli agenti di reverse engineering basati sull’IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-25
8
awarexone/Agentic-Bug-Hunter

Toolkit basato sull’IA per la ricerca di vulnerabilità nei programmi di bug bounty, utilizzabile con o senza abbonamento.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 Aggiornato 2026-11-12 📅 Creato 2026-03-08
9
Giskard-AI/giskard-oss

🐢 Libreria open-source per la valutazione e il test di agenti LLM

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2022-03-06
10
0xeb/TheBigPromptLibrary

Una raccolta di prompt, prompt di sistema e istruzioni LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Aggiornato 2026-11-10 📅 Creato 2023-11-24
11
nolabs-ai/nono

Sicurezza runtime degli agenti: sandboxing degli agenti senza fiducia, senza configurazione e senza latenza

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-01-31
12
meta-llama/PurpleLlama

Set di strumenti per valutare e migliorare la sicurezza di LLM.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Scheda di trucchi per attacchi web

riramar
⭐ 4,438 👤 riramar User 🕐 Aggiornato 2026-09-04 📅 Creato 2020-01-11
14
llm-attacks/llm-attacks

Attacchi universali e trasferibili a modelli linguistici allineati

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 Aggiornato 2024-08-02 📅 Creato 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

Una raccolta di metodi scientifici, processi, algoritmi e sistemi per costruire storie e modelli.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 Aggiornato 2026-10-28 📅 Creato 2022-03-29
16
CyberStrikeus/CyberStrike

Framework open source di sicurezza offensiva basato sull’intelligenza artificiale per test di penetrazione automatizzati.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-02-14
17
verazuo/jailbreak_llms

Un set di dati è composto da 15.140 prompt di ChatGPT provenienti da Reddit, Discord, siti Web e set di dati open-source (inclusi 1.405 prompt di jailbreak).

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 Aggiornato 2024-12-24 📅 Creato 2023-08-01
18
protectai/llm-guard

Il toolkit di sicurezza per le interazioni LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Aggiornato 2025-12-15 📅 Creato 2023-07-27
19
Acmesec/PromptJailbreakManual

Manuale di jailbreak del prompt

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Aggiornato 2024-12-17 📅 Creato 2024-11-25
20
beelzebub-labs/beelzebub

Un framework runtime di inganno a basso codice sicuro, che sfrutta l'IA per la Virtualizzazione del Sistema.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2022-05-08
21
uber/ADR

ADR protegge gli agenti AI aziendali tramite osservabilità, benchmarking di sicurezza e rilevamento delle minacce. Implementato presso Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-19
22
greshake/llm-security

Nuovi modi per violare gli LLM integrati nelle app

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 Aggiornato 2025-07-17 📅 Creato 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT: notizie, articoli e incidenti quotidiani sulla sicurezza dell’IA, tutto in un unico posto — jailbreak, prompt injection, allineamento, valutazioni e governance. Sito web, riepilogo giornaliero, RSS e MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-01
24
msoedov/agentic_security

Scanner di Vulnerabilità Agentic LLM / Kit di Red Teaming AI 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 Aggiornato 2026-11-19 📅 Creato 2024-04-11
25
llmgenai/LLMInterviewQuestions

Questo repository contiene domande di intervista LLM (Large Language Model) poste in aziende leader come Google, Nvidia, Meta, Microsoft e aziende Fortune 500.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 Aggiornato 2025-02-12 📅 Creato 2024-12-26
26
cyberark/FuzzyAI

Uno strumento potente per il fuzzing automatizzato di LLM. È progettato per aiutare sviluppatori e ricercatori di sicurezza a identificare e mitigare potenziali jailbreak nelle API LLM.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 Aggiornato 2026-02-06 📅 Creato 2024-12-03
27
mark3labs/mcphost

Un'applicazione host CLI che consente ai modelli linguistici di grandi dimensioni (LLM) di interagire con strumenti esterni tramite il Model Context Protocol (MCP).

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 Aggiornato 2026-02-26 📅 Creato 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

OWASP Top 10 per app con modelli linguistici di grandi dimensioni (Parte del progetto di sicurezza GenAI)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 Aggiornato 2026-08-05 📅 Creato 2023-05-16
29
xalgorix/xalgorix

Agente open source per penetration test basato sull’IA, che verifica ogni risultato tramite exploit. Penetration test autonomi in 22 fasi per applicazioni web e API, con report PDF valutati secondo il CVSS. Ospitalo autonomamente, usa il tuo LLM oppure eseguilo interamente in locale con Ollama.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Aggiornato 2026-11-01 📅 Creato 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Aggiornato 2026-05-11 📅 Creato 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ Terminal di sicurezza e scanner di vulnerabilità gratuiti, open source e basati sull’IA (CVE, SBOM). Supporta SSH, SFTP, RDP, VNC e connessioni seriali, oltre a più di 12 agenti IA autonomi (DeepSeek, OpenAI) per automatizzare i flussi di lavoro di sicurezza, CTF e DevSecOps. Multipiattaforma e con interfaccia web.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 Aggiornato 2026-11-04 📅 Creato 2026-09-10
33
ASCIT31/Dark-Moon

Penetration test autonomi basati su IA e open source. 50 agenti specializzati per web, API, cloud, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo dei percorsi di attacco verificato con evidenze. Funziona su un LLM locale dietro un Privacy Gateway. Si integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2024-11-26
34
splx-ai/agentic-radar

Uno scanner di sicurezza per i tuoi flussi di lavoro agentivi LLM

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 Aggiornato 2026-11-13 📅 Creato 2025-02-12
35
Zyrexnn/Cybermes

Framework di agenti autonomi per la sicurezza offensiva, bug bounty e red teaming potenziato da Hermes Agent, competenze di ragionamento specializzate e orchestrazione di LLM multimodello.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 Aggiornato 2026-11-16 📅 Creato 2026-08-19
36
Pantheon-Security/medusa

Scanner di sicurezza basato sull'IA. NUOVO in v2026.7: rilevamento compromissione di Claude Code — esamina gli hook, le autorizzazioni e le competenze di .claude/ prima di clonare — più uno scanner di firme di attacco IA sempre attivo e regole native Rust e PHP. Inoltre: medusa scan --git per esaminare qualsiasi repository, medusa secrets scan per chiavi API trapelate. 40.000+ pattern, zero configurazione.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 Aggiornato 2026-08-10 📅 Creato 2025-11-15
37
pipelab-org/pipelock

Firewall per agenti IA open-source per la sicurezza MCP e l'egress degli agenti. Scansiona il traffico mediato HTTP, MCP, A2A e WebSocket per rilevare esfiltrazione, SSRF e prompt injection, ed emette ricevute d'azione firmate dal mediatore: prove di audit verificabili dall'esterno dell'agente.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-08
38
wang-rui/phishguard-scaffold

Rilevamento semantico congiunto e controllo della diffusione degli attacchi di phishing sui social media tramite modellazione basata su LLama

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 Aggiornato 2026-02-15 📅 Creato 2025-09-08
39
sherwinvishesh/SurrogateShield

Una protezione pensata innanzitutto per la privacy, per LLM e pipeline RAG. SurrogateShield rileva, oscura e ricostruisce al volo i dati sensibili di identificazione personale (PII), difendendosi al contempo dagli attacchi avversari.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 Aggiornato 2026-10-16 📅 Creato 2026-05-13
40
openpcc/openpcc

Un framework open-source per l'inferenza AI privata verificabile

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 Aggiornato 2026-01-08 📅 Creato 2025-11-05
41
EasyJailbreak/EasyJailbreak

Un framework Python facile da usare per generare prompt di jailbreak avversari.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 Aggiornato 2026-09-01 📅 Creato 2024-01-31
42
toby-bridges/api-relay-audit

Audit di sicurezza locale per relay API di IA e proxy LLM: rileva prompt injection, sostituzione dei modelli, riscrittura delle chiamate agli strumenti, anomalie SSE, divulgazione di errori e rischi per i wallet Web3. Sito web: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Aggiornato 2026-11-18 📅 Creato 2026-03-30
43
asamassekou10/ship-safe

L'agente di sicurezza indipendente per il software scritto dall'IA. Trova i problemi, verifica se sono reali e ti mostra le prove. Nucleo deterministico, nessuna chiave API necessaria, output JSON e SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Aggiornato 2026-10-17 📅 Creato 2026-02-02
44
OWASP/www-project-ai-testing-guide

repository web della Fondazione OWASP

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 Aggiornato 2026-06-01 📅 Creato 2025-06-10
45
ThinkWatchProject/ThinkWatch

API di IA e gateway MCP self-hosted per le organizzazioni: SSO e RBAC, identità per utente per le chiamate agli strumenti MCP, oscuramento delle informazioni personali (PII) e protezioni per le chiamate agli strumenti, limiti di frequenza, budget, contabilizzazione dei costi e registri di audit.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-04-02
46
coipond/coi

Dai all’agente una macchina. Ma non la tua. Ogni agente di programmazione basato sull’IA riceve una macchina isolata tutta sua con accesso root, Docker e systemd: la difesa attiva rileva e blocca automaticamente le minacce.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-01-07
47
Cygnux-Labs/Tracekit

Tracciamento a prova di manomissione, controlli delle policy e verifiche incrociate per gli agenti IA: scopri cosa ha fatto l’agente e perché.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-09-26
48
l0gicx/ai-model-bypass

Sfruttare prompt e tecniche di gioco di ruolo per aggirare le restrizioni del modello di IA.

l0gicx
⭐ 722 👤 l0gicx User 🕐 Aggiornato 2025-10-04 📅 Creato 2025-05-21
49
AgentSafeLabs/safelabs-eval

Framework di red teaming e valutazione per agenti IA, basato su una tassonomia ASI01–ASI10 ispirata a OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Aggiornato 2026-11-06 📅 Creato 2026-05-25
50
arcjet/arcjet-js

Sicurezza in runtime per app e agenti IA: rilevamento di prompt injection, autorizzazione delle chiamate agli strumenti, oscuramento di dati sensibili, protezione dai bot e limitazione della frequenza. Integralo direttamente nel tuo codice JS/TS.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2023-11-30

Domande frequenti

1

Qual è il repository #llm-security più popolare su GitHub?

Il progetto open source #llm-security più alto in classifica su GitHub è usestrix/strix, con 76,872 stelle. Strumento di penetration testing AI open source per trovare e correggere le vulnerabilità della tua app.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #llm-security?

Tra i progetti #llm-security più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Go, Jupyter Notebook, TypeScript.

3

Come viene calcolata la classifica dei repository #llm-security?

Monitoriamo 65 repository open source attivi contrassegnati con #llm-security (500+ stelle), per un totale di 311,462 stelle e una media di 4,791 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.