#ai-security Dépôts
90 dépôts au total
Antivirus et pare-feu open source pour les agents d’IA : bloquez à l’exécution les outils risqués, l’accès aux secrets, les injections de prompts, les paquets malveillants, les serveurs MCP, les plugins et les compétences.
attaques de mise à l'échelle d'images pour l'injection de prompts multimodaux
Ce projet vise à fournir un dépôt central pour de nombreux plugins utiles de Tsunami Security Scanner.
Scanner de sécurité axé sur l'IA. NOUVEAU dans v2026.7 : détection des compromissions de Claude Code — examinez les hooks, permissions et compétences .claude/ avant de cloner — plus un scanner de signatures d'attaques IA toujours actif et des règles natives Rust et PHP. Aussi : medusa scan --git pour examiner tout dépôt, medusa secrets scan pour les clés API divulguées. 40 000+ motifs, zéro configuration.
Pare-feu d'agent IA open-source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médié pour détecter l'exfiltration, le SSRF et l'injection de prompts, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable depuis l'extérieur de l'agent.
Une application bancaire délibérément vulnérable, conçue pour la pratique des tests de sécurité d'applications web, d'API, d'applications intégrées à l'IA et de révisions de code sécurisé. Elle présente des vulnérabilités courantes trouvées dans les applications du monde réel, ce qui en fait une plateforme idéale pour les professionnels de la sécurité, les développeurs et les passionnés désireux d'apprendre le pentesting et les pratiques de codage sécurisé.
Reconmap est une plateforme d'opérations de sécurité axée sur la collaboration pour les équipes d'infosec et les MSSP, permettant une gestion complète de l'engagement, de la reconnaissance à l'exécution et au reporting. Avec une automatisation des commandes intégrée, une analyse des sorties et des résumés assistés par l'IA, elle offre des évaluations de sécurité plus rapides, plus structurées et de haute qualité.
Un framework web Rust basé sur Axum, avec des noyaux applicatifs vérifiables avec Lean 4 et exécutables sur des serveurs, des appareils embarqués bare metal et des GPU, ainsi que des tests de sécurité intégrés.
Audit de sécurité local pour les relais d’API d’IA et les proxys LLM : détecte les injections de prompt, les substitutions de modèles, la réécriture des appels d’outils, les anomalies SSE, les fuites d’erreurs et les risques liés aux portefeuilles Web3. Site web : https://apirelayaudit.com
Dépôt officiel du Tencent Cloud Intelligent Penetration Hackathon. Présentation des meilleurs projets open source d'agents de pénétration autonomes basés sur LLM, incluant la collaboration multi-agents, la pénétration automatisée, la sécurité offensive pilotée par l'IA et les solutions intelligentes d'attaque-défense.
L'agent de sécurité indépendant pour les logiciels écrits par l'IA. Trouve les problèmes, vérifie s'ils sont réels et vous montre les preuves. Cœur déterministe, sans clé API nécessaire, sortie JSON et SARIF.
Première diffusion sur tout le réseau !!! Les questions d'entretien les plus complètes en cybersécurité avec réponses de référence (couvrant la protection du réseau, les équipes rouges, l'ingénierie inverse, la cryptographie, le binaire, l'IA, la blockchain)
Krawl est un serveur de tromperie web personnalisable, léger et natif du cloud, et un anti-crawler qui crée des applications web factices avec des vulnérabilités faciles à exploiter en utilisant des données d'appât réalistes générées aléatoirement et des modèles HTML générés par IA.
Une liste de contrôle de sécurité complète pour les outils d'IA basés sur MCP. Créée par SlowMist pour sécuriser les écosystèmes de plugins LLM.
Sécurité à l'exécution pour les applications et agents IA : détection d'injection de prompts, autorisation d'appels d'outils, masquage de données sensibles, protection contre les bots et limitation de débit. Intégrez-le simplement dans votre code JS/TS.
Cet outil est conçu pour aider les testeurs d'intrusion et les administrateurs réseau à identifier les menaces potentielles pour la sécurité, en particulier celles qui ciblent les applications web telles que l'injection SQL, le XSS et les WebShells. Sa conception modulaire permet aux utilisateurs de sélectionner et de personnaliser librement divers modules fonctionnels en fonction des besoins réels. Cet outil convient à l'analyse approfondie du trafic réseau par les équipes HW Red, aidant les professionnels tels que les chercheurs en sécurité, les testeurs d'intrusion et les administrateurs réseau à identifier les menaces potentielles pour la sécurité, en particulier celles visant les applications web (telles que l'injection SQL, le XSS, les WebShell, etc.)
Un cours et une référence architecturale fondés sur des sources, destinés aux ingénieurs qui conçoivent des systèmes devant résister au trafic réel, aux défaillances partielles, aux audits de sécurité et à l’évolution des exigences, couvrant la conception de systèmes d’entreprise, les systèmes distribués, les systèmes d’IA, la cybersécurité, la fiabilité, le cloud, le calcul haute performance, l’edge computing et les infrastructures critiques pour les missions.
Dépôt officiel de GPTFUZZER : Red Teaming de grands modèles linguistiques avec des invites de jailbreak générées automatiquement
Anti-modèles de sécurité de code IA distillés à partir de plus de 150 sources pour aider les LLM à générer du code plus sûr.
Outil de sécurité open-source pour agents IA en temps réel - surveille et contrôle les agents IA, détectant l'utilisation malveillante d'outils, les injections de prompts et les dérives de politiques en temps réel, avant que l'agent n'agisse.
MCP for Security : Une collection de serveurs Model Context Protocol pour des outils de sécurité populaires tels que SQLMap, FFUF, NMAP, Masscan et plus encore. Intégrez les tests de sécurité et les tests d'intrusion dans les flux de travail d'IA.
Émulation d'adversaires open source pour les agents IA et les serveurs MCP.
Plan de contrôle d’exécution auto-hébergé pour les agents d’IA. Surveillez, approuvez avec intervention humaine (HITL) ou bloquez les appels d’outils malveillants avant leur exécution afin d’éviter les fuites de secrets, les injections de prompt, les attaques de la chaîne d’approvisionnement et autres risques, depuis un tableau de bord local. Compatible avec tous les agents (Claude, Codex, LangChain, etc.).
Une feuille de route décrivant les compétences requises, les ressources d'apprentissage et les exemples d'outils pour devenir un ingénieur IA
SDK Python et TypeScript pour fournir des preuves vérifiables des actions des agents d’IA. Reçus signés, application des politiques et pistes d’audit. Compatible avec LangChain, CrewAI et MCP.
🛡️ Outil CLI d’audit de sécurité pour les serveurs du Model Context Protocol (MCP) — analyse les configurations des agents IA pour détecter l’empoisonnement d’outils, les retraits frauduleux, les secrets codés en dur, l’injection de commandes et les risques liés à la chaîne d’approvisionnement. En pur Python, compatible avec SARIF et l’intégration continue.
Plan de contrôle d'autorité pour le travail autonome. EMILIA Gate applique des mandats finis appartenant au client aux limites protégées de l'exécuteur ; le protocole ouvert garantit la vérifiabilité des preuves.
vArmor est un système cloud natif de renforcement de la sécurité des conteneurs qui s’appuie sur les technologies AppArmor/BPF/Seccomp et NetworkProxy pour appliquer un contrôle d’accès, des appels système aux protocoles applicatifs, afin de protéger les charges de travail, y compris les agents d’IA.
Outil d'énumération de sous-domaines alimenté par l'IA avec analyse LLM locale via Ollama - 100% privé, zéro coût d'API
Scanner de sécurité Docker propulsé par l’IA qui explique les vulnérabilités en termes simples. Un projet d’OWASP Lab.
AgentSkillsHub (agentskillshub.top) — répertoire évalué selon des critères de sécurité regroupant des compétences Claude, des serveurs MCP et des outils d’agents IA open source, mis à jour toutes les 8 heures
Ce document recense des projets open source, des articles universitaires, des évaluations comparatives des capacités et des solutions commerciales (internationales et chinoises) dans les domaines des tests d’intrusion appliqués à l’IA, du red teaming des LLM, des agents offensifs autonomes et de la découverte de vulnérabilités, afin d’aider les chercheurs, les ingénieurs en sécurité et les décideurs d’entreprise à se forger rapidement une vision d’ensemble.