#llm-security Dépôts
Découvrez 65 dépôts GitHub open source actifs associés à #llm-security, cumulant 311,462 étoiles au total (soit une moyenne de 4,791 étoiles par projet). Le projet en tête de ce thème est usestrix/strix, avec 76,872 étoiles.
65 dépôts au total
Outil de test d'intrusion IA open source pour trouver et corriger les vulnérabilités de votre application.
Tutoriel de programmation de la série "Plongez dans les LLM : Apprenez les grands modèles linguistiques"
Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.
Une plateforme complète de Red Teaming de l’IA qui sécurise les écosystèmes d’IA grâce à Agent Scan, Skills Scan, MCP Scan, AI Infra Scan et à l’évaluation des jailbreaks des LLM.
NeMo Guardrails est une bibliothèque open source permettant d’appliquer des contrôles programmables de sûreté et de sécurité aux applications LLM et agentiques.
🛡️ BLA (bla-agents / Blind LLM Agents) — serveur MCP et CLI de défense Blue open source qui protège JS/TS, Electron ASAR, WASM, Python, les binaires natifs, SQLite, GGUF/Safetensors et Android DEX contre les agents d’ingénierie inverse basés sur l’IA (REA).
Boîte à outils de recherche de vulnérabilités dans le cadre de bug bounty, propulsée par l’IA et utilisable avec ou sans abonnement.
Sécurité de l’environnement d’exécution des agents — sandboxing des agents sans confiance, sans configuration et sans latence
Attaques universelles et transférables sur des modèles linguistiques alignés
Une collection de méthodes scientifiques, de processus, d'algorithmes et de systèmes pour construire des histoires et des modèles.
Cadre de sécurité offensive open source propulsé par l’IA pour les tests d’intrusion automatisés.
Un ensemble de données se compose de 15 140 invites ChatGPT provenant de Reddit, Discord, de sites Web et de jeux de données open-source (y compris 1 405 invites de contournement).
Un framework runtime de tromperie à faible code sécurisé, exploitant l'IA pour la virtualisation système.
ADR sécurise les agents IA d'entreprise grâce à l'observabilité, à l'évaluation comparative de la sécurité et à la détection des menaces. Déployé chez Uber.
AI Safety HOT : actualités, articles et incidents quotidiens sur la sécurité de l’IA, réunis en un seul endroit — jailbreaks, injection de prompts, alignement, évaluations et gouvernance. Site web, récapitulatif quotidien, RSS et MCP.
Ce dépôt contient des questions d'entretien LLM (modèle linguistique large) posées dans des entreprises de premier plan comme Google, Nvidia, Meta, Microsoft et des entreprises du Fortune 500.
Un outil puissant pour le fuzzing automatisé des LLM. Il est conçu pour aider les développeurs et les chercheurs en sécurité à identifier et à atténuer les jailbreaks potentiels dans leurs API LLM.
Une application hôte CLI qui permet aux grands modèles linguistiques (LLM) d’interagir avec des outils externes via le Model Context Protocol (MCP).
OWASP Top 10 pour les applications de grands modèles linguistiques (Partie du projet de sécurité GenAI)
Agent open source de tests d’intrusion basé sur l’IA, qui vérifie chaque découverte par exploitation. Tests d’intrusion autonomes en 22 phases pour les applications web et les API, avec des rapports PDF notés selon le CVSS. Hébergez-le vous-même, utilisez votre propre LLM ou exécutez-le entièrement en local avec Ollama.
🛡️ Terminal de sécurité et scanner de vulnérabilités gratuits, open source et propulsés par l’IA (CVE, SBOM). Prise en charge de SSH, SFTP, RDP, VNC et des connexions série, ainsi que de plus de 12 agents IA autonomes (DeepSeek, OpenAI) pour automatiser les workflows de sécurité, le CTF et le DevSecOps. Multiplateforme avec interface web.
Tests d’intrusion autonomes par IA open source. 50 agents spécialisés couvrant le web, les API, le cloud, Active Directory, Kubernetes, CI/CD et l’IA/les LLM (OWASP LLM Top 10), avec un graphe des chemins d’attaque vérifié par des preuves. Fonctionne avec un LLM local derrière une passerelle de confidentialité. S’intègre à GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana et Splunk.
Framework d'agents autonomes pour la sécurité offensive, le bug bounty et le red teaming, propulsé par Hermes Agent, des compétences de raisonnement spécialisées et l'orchestration de LLM multi-modèles.
Scanner de sécurité axé sur l'IA. NOUVEAU dans v2026.7 : détection des compromissions de Claude Code — examinez les hooks, permissions et compétences .claude/ avant de cloner — plus un scanner de signatures d'attaques IA toujours actif et des règles natives Rust et PHP. Aussi : medusa scan --git pour examiner tout dépôt, medusa secrets scan pour les clés API divulguées. 40 000+ motifs, zéro configuration.
Pare-feu d'agent IA open-source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médié pour détecter l'exfiltration, le SSRF et l'injection de prompts, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable depuis l'extérieur de l'agent.
Détection sémantique conjointe et contrôle de la dissémination des attaques de phishing sur les réseaux sociaux par modélisation basée sur LLama
Une protection axée sur la confidentialité pour les LLM et les pipelines RAG. SurrogateShield détecte, masque et reconstitue à la volée les données sensibles à caractère personnel (PII), tout en se défendant contre les attaques adversariales.
Un framework Python facile à utiliser pour générer des invites de jailbreak adverses.
Audit de sécurité local pour les relais d’API d’IA et les proxys LLM : détecte les injections de prompt, les substitutions de modèles, la réécriture des appels d’outils, les anomalies SSE, les fuites d’erreurs et les risques liés aux portefeuilles Web3. Site web : https://apirelayaudit.com
L'agent de sécurité indépendant pour les logiciels écrits par l'IA. Trouve les problèmes, vérifie s'ils sont réels et vous montre les preuves. Cœur déterministe, sans clé API nécessaire, sortie JSON et SARIF.
API d’IA et passerelle MCP auto-hébergées pour les organisations : SSO et RBAC, identité par utilisateur pour les appels aux outils MCP, masquage des informations personnelles (PII) et garde-fous pour les appels d’outils, limites de débit, budgets, comptabilisation des coûts et journaux d’audit.
Donnez une machine à l’agent. Mais pas la vôtre. Chaque agent de codage IA dispose de sa propre machine isolée avec les privilèges root, Docker et systemd — la défense active détecte et bloque automatiquement les menaces.
Traçabilité infalsifiable, garde-fous de politique et vérifications croisées pour les agents d’IA : voyez ce que l’agent a fait et pourquoi.
Exploiter les invites et les techniques de jeu de rôle pour contourner les restrictions des modèles d'IA.
Cadre de tests d’intrusion et d’évaluation pour les agents d’IA, fondé sur une taxonomie ASI01–ASI10 inspirée d’OWASP
Sécurité à l'exécution pour les applications et agents IA : détection d'injection de prompts, autorisation d'appels d'outils, masquage de données sensibles, protection contre les bots et limitation de débit. Intégrez-le simplement dans votre code JS/TS.
Foire aux questions
Quel est le dépôt #llm-security le plus populaire sur GitHub ?
Le projet #llm-security open source le mieux classé sur GitHub est usestrix/strix, avec 76,872 étoiles. Outil de test d'intrusion IA open source pour trouver et corriger les vulnérabilités de votre application.
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-security ?
Parmi les projets #llm-security les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Go, Jupyter Notebook, TypeScript.
Comment le classement des dépôts #llm-security est-il calculé ?
Nous suivons 65 dépôts open source actifs associés à #llm-security (500+ étoiles), totalisant 311,462 étoiles, avec une moyenne de 4,791 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.