Git Stars Git Stars

#prompt-injection Repository

Scopri 45 repository GitHub open source attivi contrassegnati con #prompt-injection, che raccolgono un totale di 148,037 stelle (con una media di 3,289 stelle per progetto). Il progetto leader di questo argomento è ifixai-ai/iFixAi, con 46,592 stelle.

45
Totale Repository
148,037
Totale stelle
3,289
Media Stelle/Repo

44 repository in totale

1
ifixai-ai/iFixAi

Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-27
2
NVIDIA/SkillSpector

Scanner di sicurezza per le competenze degli agenti AI. Rileva vulnerabilità, pattern dannosi, rischi per la sicurezza, injection di prompt, esfiltrazione di dati e rischi della supply chain nelle competenze di Claude Code, Codex e MCP prima di installarle.

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · Versione di DeepSeek Harness mantenuta dalla community: compatibilità con l’ambiente host, diagnostica dello stato, gestione dei prompt, aggiornamenti e backup e ripristino locali. Basato su dsh-purge di Xiaoyang / YuJunZhiXue.

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 Aggiornato 2026-11-18 📅 Creato 2026-10-16
4
Tencent/AI-Infra-Guard

Una piattaforma full-stack di AI Red Teaming che protegge gli ecosistemi di IA tramite Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e la valutazione dei jailbreak degli LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2024-12-25
5
superagent-ai/superagent

Superagent protegge le tue applicazioni AI da prompt injection, fughe di dati e output dannosi. Integra la sicurezza direttamente nella tua app e dimostra la conformità ai tuoi clienti.

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 Aggiornato 2026-08-25 📅 Creato 2023-05-10
6
0xeb/TheBigPromptLibrary

Una raccolta di prompt, prompt di sistema e istruzioni LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Aggiornato 2026-11-10 📅 Creato 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

ChatGPT Jailbreaks, Fughe di prompt degli assistenti GPT, Iniezione di prompt GPT, Sicurezza dei prompt LLM, Super Prompt, Prompt Hack, Sicurezza dei prompt, Ingegneria dei prompt AI, Machine Learning avversario.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 Aggiornato 2026-05-05 📅 Creato 2024-03-15
8
protectai/llm-guard

Il toolkit di sicurezza per le interazioni LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Aggiornato 2025-12-15 📅 Creato 2023-07-27
9
Acmesec/PromptJailbreakManual

Manuale di jailbreak del prompt

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Aggiornato 2024-12-17 📅 Creato 2024-11-25
10
uber/ADR

ADR protegge gli agenti AI aziendali tramite osservabilità, benchmarking di sicurezza e rilevamento delle minacce. Implementato presso Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

Laboratori playground per il AI Red Teaming per eseguire formazione di AI Red Teaming, inclusa l'infrastruttura.

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 Aggiornato 2026-02-13 📅 Creato 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT: notizie, articoli e incidenti quotidiani sulla sicurezza dell’IA, tutto in un unico posto — jailbreak, prompt injection, allineamento, valutazioni e governance. Sito web, riepilogo giornaliero, RSS e MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Aggiornato 2026-11-21 📅 Creato 2026-10-01
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Aggiornato 2026-11-01 📅 Creato 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Aggiornato 2026-05-11 📅 Creato 2025-09-24
15
utkusen/promptmap

uno scanner di sicurezza per applicazioni LLM personalizzate

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 Aggiornato 2025-12-01 📅 Creato 2023-07-15
16
hashgraph-online/hol-guard

Antivirus e firewall open source per agenti IA: blocca in fase di esecuzione strumenti rischiosi, l’accesso ai segreti, le prompt injection, i pacchetti dannosi, i server MCP, i plugin e le competenze.

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-03-28
17
trailofbits/anamorpher

attacchi di ridimensionamento delle immagini per l'iniezione di prompt multimodali

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 Aggiornato 2026-05-19 📅 Creato 2025-08-20
18
ethz-spylab/agentdojo

Un ambiente dinamico per valutare attacchi e difese per agenti LLM.

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 Aggiornato 2026-06-02 📅 Creato 2024-02-29
19
pipelab-org/pipelock

Firewall per agenti IA open-source per la sicurezza MCP e l'egress degli agenti. Scansiona il traffico mediato HTTP, MCP, A2A e WebSocket per rilevare esfiltrazione, SSRF e prompt injection, ed emette ricevute d'azione firmate dal mediatore: prove di audit verificabili dall'esterno dell'agente.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-08
20
aimeoa/hanshuang-codex

Progetto sperimentale per aggirare le protezioni rivolto a GPT 6.0 e WorkBuddy V4.1 Flash

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 Aggiornato 2026-10-17 📅 Creato 2026-09-06
21
whylabs/langkit

🔍 LangKit: Un toolkit open-source per il monitoraggio di Large Language Models (LLM). 📚 Estrae segnali da prompt e risposte, garantendo sicurezza. 🛡️ Le funzionalità includono qualità del testo, metriche di rilevanza e analisi del sentiment. 📊 Uno strumento completo per l'osservabilità degli LLM. 👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 Aggiornato 2024-11-22 📅 Creato 2023-04-26
22
duriantaco/skylos

Scanner PR open source local-first che trova codice morto, bug di sicurezza, segreti, regressioni di qualità ed errori di codice AI prima del merge. Per i principianti fare riferimento a https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 Aggiornato 2026-11-21 📅 Creato 2025-04-28
23
tg12/gpt_jailbreak_status

Questo è un repository che mira a fornire aggiornamenti sullo stato del jailbreak del modello linguistico GPT di OpenAI.

tg12
⭐ 934 HTML 👤 tg12 User 🕐 Aggiornato 2026-05-16 📅 Creato 2023-03-01
24
toby-bridges/api-relay-audit

Audit di sicurezza locale per relay API di IA e proxy LLM: rileva prompt injection, sostituzione dei modelli, riscrittura delle chiamate agli strumenti, anomalie SSE, divulgazione di errori e rischi per i wallet Web3. Sito web: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Aggiornato 2026-11-18 📅 Creato 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — Interfaccia a riga di comando open-source per l'accesso illimitato a modelli AI con supporto multi-provider, capacità di ricerca su iniezione di prompt, endpoint API configurabili, compatibilità Termux/Linux/Windows e UI terminale Rich per ricerca sulla sicurezza e valutazione red-team

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 Aggiornato 2026-03-13 📅 Creato 2026-03-09
26
asamassekou10/ship-safe

L'agente di sicurezza indipendente per il software scritto dall'IA. Trova i problemi, verifica se sono reali e ti mostra le prove. Nucleo deterministico, nessuna chiave API necessaria, output JSON e SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Aggiornato 2026-10-17 📅 Creato 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — Gateway LLM open-source che accede a DeepSeek, Gemini e Kimi-K2 tramite API Pollinations con ingegneria inversa, senza chiavi API richieste, capacità integrate di iniezione di prompt per ricerche di sicurezza, supporto nativo Termux/Linux e interfaccia console ricca

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 Aggiornato 2026-03-13 📅 Creato 2026-03-09
28
slowmist/MCP-Security-Checklist

Una checklist di sicurezza completa per strumenti di IA basati su MCP. Costruita da SlowMist per proteggere gli ecosistemi dei plugin LLM.

slowmist
⭐ 829 👤 slowmist Organization 🕐 Aggiornato 2025-04-28 📅 Creato 2025-04-12
29
CallMeGuLab/dsh-purge-safe

Jailbreak ufficiale di dsh-purge DeepSeek Harness: il prompt predefinito è pensato per i modelli cinesi e si basa sull’originale Xiao Ma Jiang; versione completamente aperta, senza paywall, con le librerie complete di competenze e conoscenze incluse, disponibile gratuitamente. Jailbreak per ogni modello: cambia i prompt in base al modello. Si prega di lasciare una stella e aggiungerlo ai preferiti ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 Aggiornato 2026-11-20 📅 Creato 2026-11-07
30
AgentSafeLabs/safelabs-eval

Framework di red teaming e valutazione per agenti IA, basato su una tassonomia ASI01–ASI10 ispirata a OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Aggiornato 2026-11-06 📅 Creato 2026-05-25
31
tldrsec/prompt-injection-defenses

Ogni difesa pratica e proposta contro l'iniezione di prompt.

tldrsec
⭐ 696 👤 tldrsec User 🕐 Aggiornato 2025-02-22 📅 Creato 2024-04-01
32
lalipa2003-arch/JailbreakHub

Un hub/area di ricerca dedicato al jailbreak degli LLM e all’elusione dei loro filtri di sicurezza.

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 Aggiornato 2026-11-20 📅 Creato 2026-09-27
33
cckuailong/awesome-gpt-security

Un elenco curato di fantastici strumenti di sicurezza, casi sperimentali o altre cose interessanti con LLM o GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Aggiornato 2026-07-24 📅 Creato 2023-04-13
35
zacfrulloni/Prompt-Engineering-Holy-Grail

Configura OpenClaw: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 Aggiornato 2026-03-22 📅 Creato 2024-10-31
36
samvallad33/vestige

Sistema operativo deterministico, kernel di sicurezza e sistema nervoso causale per agenti di IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Aggiornato 2026-11-20 📅 Creato 2026-01-25
37
qybaihe/mu

mu (μ): la maggior parte delle decisioni di un agente di programmazione non riguarda il codice. mu affida 40 tipi di decisioni sì/no a un modello piccolo: meno token sprecati, meno approvazioni automatiche e meno esecuzioni che si interrompono a metà. Basato su pi.

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 Aggiornato 2026-11-19 📅 Creato 2026-09-22
38
secureagentics/Adrian

Strumento di sicurezza open-source per agenti IA in runtime: monitora e controlla gli agenti IA, rilevando l'uso dannoso di strumenti, l'iniezione di prompt e la deriva delle policy in tempo reale, prima che l'agente agisca.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Aggiornato 2026-10-21 📅 Creato 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

Emulazione di avversari open source per agenti IA e server MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Aggiornato 2026-11-03 📅 Creato 2026-04-06
40
PrismorSec/prismor

Control plane self-hosted in fase di esecuzione per agenti IA. Monitora, approva con supervisione umana (HITL) o blocca le chiamate agli strumenti non autorizzate prima che vengano eseguite, prevenendo fughe di segreti, prompt injection, attacchi alla catena di fornitura e altro, da una dashboard locale. Compatibile con qualsiasi agente (Claude, Codex, LangChain, ecc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2026-02-20
41
haizelabs/llama3-jailbreak

Un banale jailbreak programmatico di Llama 3. Scusa Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Aggiornato 2025-01-26 📅 Creato 2024-04-20
42
riseandignite/mcp-shield

Scanner di sicurezza per server MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Aggiornato 2025-04-26 📅 Creato 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ CLI per audit di sicurezza dei server Model Context Protocol (MCP): analizza le configurazioni degli agenti IA per individuare avvelenamento degli strumenti, rug pull, segreti hardcoded, command injection e rischi della catena di fornitura. Scritto in puro Python, pronto per SARIF e CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Aggiornato 2026-10-24 📅 Creato 2026-09-26
44
liu00222/Open-Prompt-Injection

Questo repository fornisce un benchmark per gli attacchi di prompt injection e le difese negli LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Aggiornato 2026-09-27 📅 Creato 2023-10-19

Domande frequenti

1

Qual è il repository #prompt-injection più popolare su GitHub?

Il progetto open source #prompt-injection più alto in classifica su GitHub è ifixai-ai/iFixAi, con 46,592 stelle. Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #prompt-injection?

Tra i progetti #prompt-injection più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TypeScript, HTML, JavaScript.

3

Come viene calcolata la classifica dei repository #prompt-injection?

Monitoriamo 45 repository open source attivi contrassegnati con #prompt-injection (500+ stelle), per un totale di 148,037 stelle e una media di 3,289 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.