#llm-security Repository
Scopri 65 repository GitHub open source attivi contrassegnati con #llm-security, che raccolgono un totale di 311,462 stelle (con una media di 4,791 stelle per progetto). Il progetto leader di questo argomento è usestrix/strix, con 76,872 stelle.
65 repository in totale
Strumento di penetration testing AI open source per trovare e correggere le vulnerabilità della tua app.
Tutorial di programmazione della serie "Immergi nei LLM: impara i modelli linguistici di grandi dimensioni"
Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.
Una piattaforma full-stack di AI Red Teaming che protegge gli ecosistemi di IA tramite Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e la valutazione dei jailbreak degli LLM.
NeMo Guardrails è una libreria open source che consente di applicare controlli programmabili di sicurezza e protezione alle applicazioni LLM e agentiche.
🛡️ BLA (bla-agents / Blind LLM Agents) — server MCP e CLI open source di difesa Blue che protegge JS/TS, Electron ASAR, WASM, Python, binari nativi, SQLite, GGUF/Safetensors e Android DEX dagli agenti di reverse engineering basati sull’IA (REA).
Toolkit basato sull’IA per la ricerca di vulnerabilità nei programmi di bug bounty, utilizzabile con o senza abbonamento.
Sicurezza runtime degli agenti: sandboxing degli agenti senza fiducia, senza configurazione e senza latenza
Una raccolta di metodi scientifici, processi, algoritmi e sistemi per costruire storie e modelli.
Framework open source di sicurezza offensiva basato sull’intelligenza artificiale per test di penetrazione automatizzati.
Un set di dati è composto da 15.140 prompt di ChatGPT provenienti da Reddit, Discord, siti Web e set di dati open-source (inclusi 1.405 prompt di jailbreak).
Un framework runtime di inganno a basso codice sicuro, che sfrutta l'IA per la Virtualizzazione del Sistema.
ADR protegge gli agenti AI aziendali tramite osservabilità, benchmarking di sicurezza e rilevamento delle minacce. Implementato presso Uber.
AI Safety HOT: notizie, articoli e incidenti quotidiani sulla sicurezza dell’IA, tutto in un unico posto — jailbreak, prompt injection, allineamento, valutazioni e governance. Sito web, riepilogo giornaliero, RSS e MCP.
Questo repository contiene domande di intervista LLM (Large Language Model) poste in aziende leader come Google, Nvidia, Meta, Microsoft e aziende Fortune 500.
Uno strumento potente per il fuzzing automatizzato di LLM. È progettato per aiutare sviluppatori e ricercatori di sicurezza a identificare e mitigare potenziali jailbreak nelle API LLM.
Un'applicazione host CLI che consente ai modelli linguistici di grandi dimensioni (LLM) di interagire con strumenti esterni tramite il Model Context Protocol (MCP).
OWASP Top 10 per app con modelli linguistici di grandi dimensioni (Parte del progetto di sicurezza GenAI)
Agente open source per penetration test basato sull’IA, che verifica ogni risultato tramite exploit. Penetration test autonomi in 22 fasi per applicazioni web e API, con report PDF valutati secondo il CVSS. Ospitalo autonomamente, usa il tuo LLM oppure eseguilo interamente in locale con Ollama.
🛡️ Terminal di sicurezza e scanner di vulnerabilità gratuiti, open source e basati sull’IA (CVE, SBOM). Supporta SSH, SFTP, RDP, VNC e connessioni seriali, oltre a più di 12 agenti IA autonomi (DeepSeek, OpenAI) per automatizzare i flussi di lavoro di sicurezza, CTF e DevSecOps. Multipiattaforma e con interfaccia web.
Penetration test autonomi basati su IA e open source. 50 agenti specializzati per web, API, cloud, Active Directory, Kubernetes, CI/CD e IA/LLM (OWASP LLM Top 10), con un grafo dei percorsi di attacco verificato con evidenze. Funziona su un LLM locale dietro un Privacy Gateway. Si integra con GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana e Splunk.
Framework di agenti autonomi per la sicurezza offensiva, bug bounty e red teaming potenziato da Hermes Agent, competenze di ragionamento specializzate e orchestrazione di LLM multimodello.
Scanner di sicurezza basato sull'IA. NUOVO in v2026.7: rilevamento compromissione di Claude Code — esamina gli hook, le autorizzazioni e le competenze di .claude/ prima di clonare — più uno scanner di firme di attacco IA sempre attivo e regole native Rust e PHP. Inoltre: medusa scan --git per esaminare qualsiasi repository, medusa secrets scan per chiavi API trapelate. 40.000+ pattern, zero configurazione.
Firewall per agenti IA open-source per la sicurezza MCP e l'egress degli agenti. Scansiona il traffico mediato HTTP, MCP, A2A e WebSocket per rilevare esfiltrazione, SSRF e prompt injection, ed emette ricevute d'azione firmate dal mediatore: prove di audit verificabili dall'esterno dell'agente.
Rilevamento semantico congiunto e controllo della diffusione degli attacchi di phishing sui social media tramite modellazione basata su LLama
Una protezione pensata innanzitutto per la privacy, per LLM e pipeline RAG. SurrogateShield rileva, oscura e ricostruisce al volo i dati sensibili di identificazione personale (PII), difendendosi al contempo dagli attacchi avversari.
Un framework Python facile da usare per generare prompt di jailbreak avversari.
Audit di sicurezza locale per relay API di IA e proxy LLM: rileva prompt injection, sostituzione dei modelli, riscrittura delle chiamate agli strumenti, anomalie SSE, divulgazione di errori e rischi per i wallet Web3. Sito web: https://apirelayaudit.com
L'agente di sicurezza indipendente per il software scritto dall'IA. Trova i problemi, verifica se sono reali e ti mostra le prove. Nucleo deterministico, nessuna chiave API necessaria, output JSON e SARIF.
API di IA e gateway MCP self-hosted per le organizzazioni: SSO e RBAC, identità per utente per le chiamate agli strumenti MCP, oscuramento delle informazioni personali (PII) e protezioni per le chiamate agli strumenti, limiti di frequenza, budget, contabilizzazione dei costi e registri di audit.
Dai all’agente una macchina. Ma non la tua. Ogni agente di programmazione basato sull’IA riceve una macchina isolata tutta sua con accesso root, Docker e systemd: la difesa attiva rileva e blocca automaticamente le minacce.
Tracciamento a prova di manomissione, controlli delle policy e verifiche incrociate per gli agenti IA: scopri cosa ha fatto l’agente e perché.
Sfruttare prompt e tecniche di gioco di ruolo per aggirare le restrizioni del modello di IA.
Framework di red teaming e valutazione per agenti IA, basato su una tassonomia ASI01–ASI10 ispirata a OWASP
Sicurezza in runtime per app e agenti IA: rilevamento di prompt injection, autorizzazione delle chiamate agli strumenti, oscuramento di dati sensibili, protezione dai bot e limitazione della frequenza. Integralo direttamente nel tuo codice JS/TS.
Domande frequenti
Qual è il repository #llm-security più popolare su GitHub?
Il progetto open source #llm-security più alto in classifica su GitHub è usestrix/strix, con 76,872 stelle. Strumento di penetration testing AI open source per trovare e correggere le vulnerabilità della tua app.
Quali linguaggi di programmazione sono più utilizzati nei repository #llm-security?
Tra i progetti #llm-security più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Go, Jupyter Notebook, TypeScript.
Come viene calcolata la classifica dei repository #llm-security?
Monitoriamo 65 repository open source attivi contrassegnati con #llm-security (500+ stelle), per un totale di 311,462 stelle e una media di 4,791 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.