#prompt-injection Repository
Scopri 45 repository GitHub open source attivi contrassegnati con #prompt-injection, che raccolgono un totale di 148,037 stelle (con una media di 3,289 stelle per progetto). Il progetto leader di questo argomento è ifixai-ai/iFixAi, con 46,592 stelle.
44 repository in totale
Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.
Scanner di sicurezza per le competenze degli agenti AI. Rileva vulnerabilità, pattern dannosi, rischi per la sicurezza, injection di prompt, esfiltrazione di dati e rischi della supply chain nelle competenze di Claude Code, Codex e MCP prima di installarle.
dsh-purge Community · Versione di DeepSeek Harness mantenuta dalla community: compatibilità con l’ambiente host, diagnostica dello stato, gestione dei prompt, aggiornamenti e backup e ripristino locali. Basato su dsh-purge di Xiaoyang / YuJunZhiXue.
Una piattaforma full-stack di AI Red Teaming che protegge gli ecosistemi di IA tramite Agent Scan, Skills Scan, MCP Scan, AI Infra Scan e la valutazione dei jailbreak degli LLM.
Superagent protegge le tue applicazioni AI da prompt injection, fughe di dati e output dannosi. Integra la sicurezza direttamente nella tua app e dimostra la conformità ai tuoi clienti.
ChatGPT Jailbreaks, Fughe di prompt degli assistenti GPT, Iniezione di prompt GPT, Sicurezza dei prompt LLM, Super Prompt, Prompt Hack, Sicurezza dei prompt, Ingegneria dei prompt AI, Machine Learning avversario.
ADR protegge gli agenti AI aziendali tramite osservabilità, benchmarking di sicurezza e rilevamento delle minacce. Implementato presso Uber.
Laboratori playground per il AI Red Teaming per eseguire formazione di AI Red Teaming, inclusa l'infrastruttura.
AI Safety HOT: notizie, articoli e incidenti quotidiani sulla sicurezza dell’IA, tutto in un unico posto — jailbreak, prompt injection, allineamento, valutazioni e governance. Sito web, riepilogo giornaliero, RSS e MCP.
Antivirus e firewall open source per agenti IA: blocca in fase di esecuzione strumenti rischiosi, l’accesso ai segreti, le prompt injection, i pacchetti dannosi, i server MCP, i plugin e le competenze.
attacchi di ridimensionamento delle immagini per l'iniezione di prompt multimodali
Firewall per agenti IA open-source per la sicurezza MCP e l'egress degli agenti. Scansiona il traffico mediato HTTP, MCP, A2A e WebSocket per rilevare esfiltrazione, SSRF e prompt injection, ed emette ricevute d'azione firmate dal mediatore: prove di audit verificabili dall'esterno dell'agente.
Progetto sperimentale per aggirare le protezioni rivolto a GPT 6.0 e WorkBuddy V4.1 Flash
🔍 LangKit: Un toolkit open-source per il monitoraggio di Large Language Models (LLM). 📚 Estrae segnali da prompt e risposte, garantendo sicurezza. 🛡️ Le funzionalità includono qualità del testo, metriche di rilevanza e analisi del sentiment. 📊 Uno strumento completo per l'osservabilità degli LLM. 👀
Scanner PR open source local-first che trova codice morto, bug di sicurezza, segreti, regressioni di qualità ed errori di codice AI prima del merge. Per i principianti fare riferimento a https://duriantaco.github.io/skylos/repo-map/
Questo è un repository che mira a fornire aggiornamenti sullo stato del jailbreak del modello linguistico GPT di OpenAI.
Audit di sicurezza locale per relay API di IA e proxy LLM: rileva prompt injection, sostituzione dei modelli, riscrittura delle chiamate agli strumenti, anomalie SSE, divulgazione di errori e rischi per i wallet Web3. Sito web: https://apirelayaudit.com
HacxGPT CLI — Interfaccia a riga di comando open-source per l'accesso illimitato a modelli AI con supporto multi-provider, capacità di ricerca su iniezione di prompt, endpoint API configurabili, compatibilità Termux/Linux/Windows e UI terminale Rich per ricerca sulla sicurezza e valutazione red-team
L'agente di sicurezza indipendente per il software scritto dall'IA. Trova i problemi, verifica se sono reali e ti mostra le prove. Nucleo deterministico, nessuna chiave API necessaria, output JSON e SARIF.
KawaiiGPT — Gateway LLM open-source che accede a DeepSeek, Gemini e Kimi-K2 tramite API Pollinations con ingegneria inversa, senza chiavi API richieste, capacità integrate di iniezione di prompt per ricerche di sicurezza, supporto nativo Termux/Linux e interfaccia console ricca
Una checklist di sicurezza completa per strumenti di IA basati su MCP. Costruita da SlowMist per proteggere gli ecosistemi dei plugin LLM.
Jailbreak ufficiale di dsh-purge DeepSeek Harness: il prompt predefinito è pensato per i modelli cinesi e si basa sull’originale Xiao Ma Jiang; versione completamente aperta, senza paywall, con le librerie complete di competenze e conoscenze incluse, disponibile gratuitamente. Jailbreak per ogni modello: cambia i prompt in base al modello. Si prega di lasciare una stella e aggiungerlo ai preferiti ⭐
Framework di red teaming e valutazione per agenti IA, basato su una tassonomia ASI01–ASI10 ispirata a OWASP
Un hub/area di ricerca dedicato al jailbreak degli LLM e all’elusione dei loro filtri di sicurezza.
Un elenco curato di fantastici strumenti di sicurezza, casi sperimentali o altre cose interessanti con LLM o GPT.
Sistema operativo deterministico, kernel di sicurezza e sistema nervoso causale per agenti di IA.
mu (μ): la maggior parte delle decisioni di un agente di programmazione non riguarda il codice. mu affida 40 tipi di decisioni sì/no a un modello piccolo: meno token sprecati, meno approvazioni automatiche e meno esecuzioni che si interrompono a metà. Basato su pi.
Strumento di sicurezza open-source per agenti IA in runtime: monitora e controlla gli agenti IA, rilevando l'uso dannoso di strumenti, l'iniezione di prompt e la deriva delle policy in tempo reale, prima che l'agente agisca.
Emulazione di avversari open source per agenti IA e server MCP.
Control plane self-hosted in fase di esecuzione per agenti IA. Monitora, approva con supervisione umana (HITL) o blocca le chiamate agli strumenti non autorizzate prima che vengano eseguite, prevenendo fughe di segreti, prompt injection, attacchi alla catena di fornitura e altro, da una dashboard locale. Compatibile con qualsiasi agente (Claude, Codex, LangChain, ecc.).
🛡️ CLI per audit di sicurezza dei server Model Context Protocol (MCP): analizza le configurazioni degli agenti IA per individuare avvelenamento degli strumenti, rug pull, segreti hardcoded, command injection e rischi della catena di fornitura. Scritto in puro Python, pronto per SARIF e CI.
Questo repository fornisce un benchmark per gli attacchi di prompt injection e le difese negli LLM
Domande frequenti
Qual è il repository #prompt-injection più popolare su GitHub?
Il progetto open source #prompt-injection più alto in classifica su GitHub è ifixai-ai/iFixAi, con 46,592 stelle. Audit indipendente degli agenti IA. Eseguito da umani o dall'agente stesso, per rispondere alla domanda più cruciale nell'economia degli agenti IA: l'agente sta facendo ciò che dovrebbe fare? Con iFixAi puoi avere questa risposta in meno di 120 secondi.
Quali linguaggi di programmazione sono più utilizzati nei repository #prompt-injection?
Tra i progetti #prompt-injection più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TypeScript, HTML, JavaScript.
Come viene calcolata la classifica dei repository #prompt-injection?
Monitoriamo 45 repository open source attivi contrassegnati con #prompt-injection (500+ stelle), per un totale di 148,037 stelle e una media di 3,289 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.