Git Stars Git Stars

#prompt-injection Dépôts

Découvrez 45 dépôts GitHub open source actifs associés à #prompt-injection, cumulant 148,037 étoiles au total (soit une moyenne de 3,289 étoiles par projet). Le projet en tête de ce thème est ifixai-ai/iFixAi, avec 46,592 étoiles.

45
Total des Dépôts
148,037
Nombre total d'étoiles
3,289
Moyenne d'Étoiles/Dépôt
1
ifixai-ai/iFixAi

Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-27
2
NVIDIA/SkillSpector

Scanner de sécurité pour les compétences des agents IA. Détectez les vulnérabilités, les modèles malveillants, les risques de sécurité, l'injection de prompts, l'exfiltration de données et les risques de la chaîne d'approvisionnement dans les compétences Claude Code, Codex et MCP avant de les installer.

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · Version de DeepSeek Harness maintenue par la communauté : compatibilité avec l’environnement hôte, diagnostic de l’état, gestion des prompts, mises à jour, ainsi que sauvegarde et restauration locales. Basé sur dsh-purge de Xiaoyang / YuJunZhiXue.

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 Mis à jour 2026-11-18 📅 Créé 2026-10-16
4
Tencent/AI-Infra-Guard

Une plateforme complète de Red Teaming de l’IA qui sécurise les écosystèmes d’IA grâce à Agent Scan, Skills Scan, MCP Scan, AI Infra Scan et à l’évaluation des jailbreaks des LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2024-12-25
5
superagent-ai/superagent

Superagent protège vos applications d'IA contre les injections de prompt, les fuites de données et les sorties nuisibles. Intégrez la sécurité directement dans votre application et prouvez la conformité à vos clients.

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 Mis à jour 2026-08-25 📅 Créé 2023-05-10
6
0xeb/TheBigPromptLibrary

Une collection d'invites, d'invites système et d'instructions LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Mis à jour 2026-11-10 📅 Créé 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

Jailbreaks ChatGPT, Fuites de prompts des assistants GPT, Injection de prompts GPT, Sécurité des prompts LLM, Super Prompts, Hack de prompts, Sécurité des prompts, Ingénierie de prompts IA, Apprentissage automatique contradictoire.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 Mis à jour 2026-05-05 📅 Créé 2024-03-15
8
protectai/llm-guard

La boîte à outils de sécurité pour les interactions LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Mis à jour 2025-12-15 📅 Créé 2023-07-27
9
Acmesec/PromptJailbreakManual

Manuel de jailbreak de prompt

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Mis à jour 2024-12-17 📅 Créé 2024-11-25
10
uber/ADR

ADR sécurise les agents IA d'entreprise grâce à l'observabilité, à l'évaluation comparative de la sécurité et à la détection des menaces. Déployé chez Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

Laboratoires de terrain de jeu AI Red Teaming pour exécuter des formations AI Red Teaming, y compris l'infrastructure.

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 Mis à jour 2026-02-13 📅 Créé 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT : actualités, articles et incidents quotidiens sur la sécurité de l’IA, réunis en un seul endroit — jailbreaks, injection de prompts, alignement, évaluations et gouvernance. Site web, récapitulatif quotidien, RSS et MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-01
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Mis à jour 2026-11-01 📅 Créé 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Mis à jour 2026-05-11 📅 Créé 2025-09-24
15
utkusen/promptmap

un scanner de sécurité pour les applications LLM personnalisées

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 Mis à jour 2025-12-01 📅 Créé 2023-07-15
16
hashgraph-online/hol-guard

Antivirus et pare-feu open source pour les agents d’IA : bloquez à l’exécution les outils risqués, l’accès aux secrets, les injections de prompts, les paquets malveillants, les serveurs MCP, les plugins et les compétences.

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-03-28
17
trailofbits/anamorpher

attaques de mise à l'échelle d'images pour l'injection de prompts multimodaux

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 Mis à jour 2026-05-19 📅 Créé 2025-08-20
18
ethz-spylab/agentdojo

Un environnement dynamique pour évaluer les attaques et les défenses pour les agents LLM.

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 Mis à jour 2026-06-02 📅 Créé 2024-02-29
19
pipelab-org/pipelock

Pare-feu d'agent IA open-source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médié pour détecter l'exfiltration, le SSRF et l'injection de prompts, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable depuis l'extérieur de l'agent.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-08
20
aimeoa/hanshuang-codex

Projet d’expérimentation de contournement des protections ciblant GPT 6.0 et WorkBuddy V4.1 Flash

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 Mis à jour 2026-10-17 📅 Créé 2026-09-06
21
whylabs/langkit

🔍 LangKit : Une boîte à outils open-source pour la surveillance des grands modèles linguistiques (LLM). 📚 Extrait des signaux des invites et des réponses, garantissant la sécurité. 🛡️ Les fonctionnalités incluent la qualité du texte, les métriques de pertinence et l'analyse des sentiments. 📊 Un outil complet pour l'observabilité des LLM. 👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 Mis à jour 2024-11-22 📅 Créé 2023-04-26
22
duriantaco/skylos

Scanner de PR open source et local-first qui détecte le code mort, les failles de sécurité, les secrets, les régressions de qualité et les erreurs de code IA avant la fusion. Pour les débutants, consultez https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 Mis à jour 2026-11-21 📅 Créé 2025-04-28
23
tg12/gpt_jailbreak_status

Ceci est un référentiel qui vise à fournir des mises à jour sur l'état du jailbreak du modèle de langage GPT d'OpenAI.

tg12
⭐ 934 HTML 👤 tg12 User 🕐 Mis à jour 2026-05-16 📅 Créé 2023-03-01
24
toby-bridges/api-relay-audit

Audit de sécurité local pour les relais d’API d’IA et les proxys LLM : détecte les injections de prompt, les substitutions de modèles, la réécriture des appels d’outils, les anomalies SSE, les fuites d’erreurs et les risques liés aux portefeuilles Web3. Site web : https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Mis à jour 2026-11-18 📅 Créé 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — Interface en ligne de commande open-source pour un accès illimité aux modèles IA avec support multi-fournisseurs, capacités de recherche sur l'injection de prompts, points de terminaison API configurables, compatibilité Termux/Linux/Windows et UI terminale Rich pour la recherche en sécurité et l'évaluation red-team

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 Mis à jour 2026-03-13 📅 Créé 2026-03-09
26
asamassekou10/ship-safe

L'agent de sécurité indépendant pour les logiciels écrits par l'IA. Trouve les problèmes, vérifie s'ils sont réels et vous montre les preuves. Cœur déterministe, sans clé API nécessaire, sortie JSON et SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Mis à jour 2026-10-17 📅 Créé 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — Passerelle LLM open-source accédant à DeepSeek, Gemini et Kimi-K2 via l'API Pollinations inversement ingénierie, sans clés API requises, capacités intégrées d'injection de prompts pour la recherche en sécurité, support natif Termux/Linux et interface console riche

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 Mis à jour 2026-03-13 📅 Créé 2026-03-09
28
slowmist/MCP-Security-Checklist

Une liste de contrôle de sécurité complète pour les outils d'IA basés sur MCP. Créée par SlowMist pour sécuriser les écosystèmes de plugins LLM.

slowmist
⭐ 829 👤 slowmist Organization 🕐 Mis à jour 2025-04-28 📅 Créé 2025-04-12
29
CallMeGuLab/dsh-purge-safe

Jailbreak officiel de dsh-purge DeepSeek Harness : le prompt par défaut est adapté aux modèles chinois et basé sur le Xiao Ma Jiang original ; version entièrement ouverte, sans paywall, avec les bases de compétences et de connaissances complètes incluses, disponible gratuitement. Jailbreak pour chaque modèle — changez de prompt selon le modèle. Merci de mettre une étoile et de l’ajouter aux favoris ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-11-07
30
AgentSafeLabs/safelabs-eval

Cadre de tests d’intrusion et d’évaluation pour les agents d’IA, fondé sur une taxonomie ASI01–ASI10 inspirée d’OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Mis à jour 2026-11-06 📅 Créé 2026-05-25
31
tldrsec/prompt-injection-defenses

Toutes les défenses pratiques et proposées contre l'injection de prompt.

tldrsec
⭐ 696 👤 tldrsec User 🕐 Mis à jour 2025-02-22 📅 Créé 2024-04-01
32
lalipa2003-arch/JailbreakHub

Un espace central/de recherche consacré au jailbreak des LLM et au contournement de leurs filtres de sécurité.

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-09-27
33
cckuailong/awesome-gpt-security

Une liste organisée d'outils de sécurité impressionnants, de cas expérimentaux ou d'autres choses intéressantes avec LLM ou GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Mis à jour 2026-07-24 📅 Créé 2023-04-13
35
zacfrulloni/Prompt-Engineering-Holy-Grail

Configurer OpenClaw: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 Mis à jour 2026-03-22 📅 Créé 2024-10-31
36
samvallad33/vestige

Système d’exploitation déterministe, noyau de sécurité et système nerveux causal pour agents d’IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-01-25
37
qybaihe/mu

mu (μ) : la plupart des décisions prises par un agent de programmation ne concernent pas le code. mu confie 40 types de décisions binaires à un petit modèle : moins de jetons gaspillés, moins d’approbations automatiques et moins d’exécutions interrompues en cours de route. Construit sur pi.

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 Mis à jour 2026-11-19 📅 Créé 2026-09-22
38
secureagentics/Adrian

Outil de sécurité open-source pour agents IA en temps réel - surveille et contrôle les agents IA, détectant l'utilisation malveillante d'outils, les injections de prompts et les dérives de politiques en temps réel, avant que l'agent n'agisse.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Mis à jour 2026-10-21 📅 Créé 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

Émulation d'adversaires open source pour les agents IA et les serveurs MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Mis à jour 2026-11-03 📅 Créé 2026-04-06
40
PrismorSec/prismor

Plan de contrôle d’exécution auto-hébergé pour les agents d’IA. Surveillez, approuvez avec intervention humaine (HITL) ou bloquez les appels d’outils malveillants avant leur exécution afin d’éviter les fuites de secrets, les injections de prompt, les attaques de la chaîne d’approvisionnement et autres risques, depuis un tableau de bord local. Compatible avec tous les agents (Claude, Codex, LangChain, etc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-20
41
haizelabs/llama3-jailbreak

Un jailbreak programmatique trivial de Llama 3. Désolé Zuck !

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Mis à jour 2025-01-26 📅 Créé 2024-04-20
42
riseandignite/mcp-shield

Analyseur de sécurité pour serveurs MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Mis à jour 2025-04-26 📅 Créé 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ Outil CLI d’audit de sécurité pour les serveurs du Model Context Protocol (MCP) — analyse les configurations des agents IA pour détecter l’empoisonnement d’outils, les retraits frauduleux, les secrets codés en dur, l’injection de commandes et les risques liés à la chaîne d’approvisionnement. En pur Python, compatible avec SARIF et l’intégration continue.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Mis à jour 2026-10-24 📅 Créé 2026-09-26
44
liu00222/Open-Prompt-Injection

Ce dépôt fournit une référence pour les attaques par injection de prompts et les défenses dans les LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Mis à jour 2026-09-27 📅 Créé 2023-10-19

Foire aux questions

1

Quel est le dépôt #prompt-injection le plus populaire sur GitHub ?

Le projet #prompt-injection open source le mieux classé sur GitHub est ifixai-ai/iFixAi, avec 46,592 étoiles. Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #prompt-injection ?

Parmi les projets #prompt-injection les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, TypeScript, HTML, JavaScript.

3

Comment le classement des dépôts #prompt-injection est-il calculé ?

Nous suivons 45 dépôts open source actifs associés à #prompt-injection (500+ étoiles), totalisant 148,037 étoiles, avec une moyenne de 3,289 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.