#prompt-injection Dépôts
Découvrez 45 dépôts GitHub open source actifs associés à #prompt-injection, cumulant 148,037 étoiles au total (soit une moyenne de 3,289 étoiles par projet). Le projet en tête de ce thème est ifixai-ai/iFixAi, avec 46,592 étoiles.
44 dépôts au total
Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.
Scanner de sécurité pour les compétences des agents IA. Détectez les vulnérabilités, les modèles malveillants, les risques de sécurité, l'injection de prompts, l'exfiltration de données et les risques de la chaîne d'approvisionnement dans les compétences Claude Code, Codex et MCP avant de les installer.
dsh-purge Community · Version de DeepSeek Harness maintenue par la communauté : compatibilité avec l’environnement hôte, diagnostic de l’état, gestion des prompts, mises à jour, ainsi que sauvegarde et restauration locales. Basé sur dsh-purge de Xiaoyang / YuJunZhiXue.
Une plateforme complète de Red Teaming de l’IA qui sécurise les écosystèmes d’IA grâce à Agent Scan, Skills Scan, MCP Scan, AI Infra Scan et à l’évaluation des jailbreaks des LLM.
Superagent protège vos applications d'IA contre les injections de prompt, les fuites de données et les sorties nuisibles. Intégrez la sécurité directement dans votre application et prouvez la conformité à vos clients.
Jailbreaks ChatGPT, Fuites de prompts des assistants GPT, Injection de prompts GPT, Sécurité des prompts LLM, Super Prompts, Hack de prompts, Sécurité des prompts, Ingénierie de prompts IA, Apprentissage automatique contradictoire.
ADR sécurise les agents IA d'entreprise grâce à l'observabilité, à l'évaluation comparative de la sécurité et à la détection des menaces. Déployé chez Uber.
Laboratoires de terrain de jeu AI Red Teaming pour exécuter des formations AI Red Teaming, y compris l'infrastructure.
AI Safety HOT : actualités, articles et incidents quotidiens sur la sécurité de l’IA, réunis en un seul endroit — jailbreaks, injection de prompts, alignement, évaluations et gouvernance. Site web, récapitulatif quotidien, RSS et MCP.
Antivirus et pare-feu open source pour les agents d’IA : bloquez à l’exécution les outils risqués, l’accès aux secrets, les injections de prompts, les paquets malveillants, les serveurs MCP, les plugins et les compétences.
attaques de mise à l'échelle d'images pour l'injection de prompts multimodaux
Un environnement dynamique pour évaluer les attaques et les défenses pour les agents LLM.
Pare-feu d'agent IA open-source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médié pour détecter l'exfiltration, le SSRF et l'injection de prompts, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable depuis l'extérieur de l'agent.
Projet d’expérimentation de contournement des protections ciblant GPT 6.0 et WorkBuddy V4.1 Flash
🔍 LangKit : Une boîte à outils open-source pour la surveillance des grands modèles linguistiques (LLM). 📚 Extrait des signaux des invites et des réponses, garantissant la sécurité. 🛡️ Les fonctionnalités incluent la qualité du texte, les métriques de pertinence et l'analyse des sentiments. 📊 Un outil complet pour l'observabilité des LLM. 👀
Scanner de PR open source et local-first qui détecte le code mort, les failles de sécurité, les secrets, les régressions de qualité et les erreurs de code IA avant la fusion. Pour les débutants, consultez https://duriantaco.github.io/skylos/repo-map/
Ceci est un référentiel qui vise à fournir des mises à jour sur l'état du jailbreak du modèle de langage GPT d'OpenAI.
Audit de sécurité local pour les relais d’API d’IA et les proxys LLM : détecte les injections de prompt, les substitutions de modèles, la réécriture des appels d’outils, les anomalies SSE, les fuites d’erreurs et les risques liés aux portefeuilles Web3. Site web : https://apirelayaudit.com
HacxGPT CLI — Interface en ligne de commande open-source pour un accès illimité aux modèles IA avec support multi-fournisseurs, capacités de recherche sur l'injection de prompts, points de terminaison API configurables, compatibilité Termux/Linux/Windows et UI terminale Rich pour la recherche en sécurité et l'évaluation red-team
L'agent de sécurité indépendant pour les logiciels écrits par l'IA. Trouve les problèmes, vérifie s'ils sont réels et vous montre les preuves. Cœur déterministe, sans clé API nécessaire, sortie JSON et SARIF.
KawaiiGPT — Passerelle LLM open-source accédant à DeepSeek, Gemini et Kimi-K2 via l'API Pollinations inversement ingénierie, sans clés API requises, capacités intégrées d'injection de prompts pour la recherche en sécurité, support natif Termux/Linux et interface console riche
Une liste de contrôle de sécurité complète pour les outils d'IA basés sur MCP. Créée par SlowMist pour sécuriser les écosystèmes de plugins LLM.
Jailbreak officiel de dsh-purge DeepSeek Harness : le prompt par défaut est adapté aux modèles chinois et basé sur le Xiao Ma Jiang original ; version entièrement ouverte, sans paywall, avec les bases de compétences et de connaissances complètes incluses, disponible gratuitement. Jailbreak pour chaque modèle — changez de prompt selon le modèle. Merci de mettre une étoile et de l’ajouter aux favoris ⭐
Cadre de tests d’intrusion et d’évaluation pour les agents d’IA, fondé sur une taxonomie ASI01–ASI10 inspirée d’OWASP
Toutes les défenses pratiques et proposées contre l'injection de prompt.
Un espace central/de recherche consacré au jailbreak des LLM et au contournement de leurs filtres de sécurité.
Une liste organisée d'outils de sécurité impressionnants, de cas expérimentaux ou d'autres choses intéressantes avec LLM ou GPT.
Système d’exploitation déterministe, noyau de sécurité et système nerveux causal pour agents d’IA.
mu (μ) : la plupart des décisions prises par un agent de programmation ne concernent pas le code. mu confie 40 types de décisions binaires à un petit modèle : moins de jetons gaspillés, moins d’approbations automatiques et moins d’exécutions interrompues en cours de route. Construit sur pi.
Outil de sécurité open-source pour agents IA en temps réel - surveille et contrôle les agents IA, détectant l'utilisation malveillante d'outils, les injections de prompts et les dérives de politiques en temps réel, avant que l'agent n'agisse.
Émulation d'adversaires open source pour les agents IA et les serveurs MCP.
Plan de contrôle d’exécution auto-hébergé pour les agents d’IA. Surveillez, approuvez avec intervention humaine (HITL) ou bloquez les appels d’outils malveillants avant leur exécution afin d’éviter les fuites de secrets, les injections de prompt, les attaques de la chaîne d’approvisionnement et autres risques, depuis un tableau de bord local. Compatible avec tous les agents (Claude, Codex, LangChain, etc.).
🛡️ Outil CLI d’audit de sécurité pour les serveurs du Model Context Protocol (MCP) — analyse les configurations des agents IA pour détecter l’empoisonnement d’outils, les retraits frauduleux, les secrets codés en dur, l’injection de commandes et les risques liés à la chaîne d’approvisionnement. En pur Python, compatible avec SARIF et l’intégration continue.
Ce dépôt fournit une référence pour les attaques par injection de prompts et les défenses dans les LLM
Foire aux questions
Quel est le dépôt #prompt-injection le plus populaire sur GitHub ?
Le projet #prompt-injection open source le mieux classé sur GitHub est ifixai-ai/iFixAi, avec 46,592 étoiles. Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.
Quels langages de programmation sont les plus utilisés dans les dépôts #prompt-injection ?
Parmi les projets #prompt-injection les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, TypeScript, HTML, JavaScript.
Comment le classement des dépôts #prompt-injection est-il calculé ?
Nous suivons 45 dépôts open source actifs associés à #prompt-injection (500+ étoiles), totalisant 148,037 étoiles, avec une moyenne de 3,289 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.