Git Stars Git Stars

#llm-security Dépôts

Découvrez 65 dépôts GitHub open source actifs associés à #llm-security, cumulant 311,462 étoiles au total (soit une moyenne de 4,791 étoiles par projet). Le projet en tête de ce thème est usestrix/strix, avec 76,872 étoiles.

65
Total des Dépôts
311,462
Nombre total d'étoiles
4,791
Moyenne d'Étoiles/Dépôt
1
usestrix/strix

Outil de test d'intrusion IA open source pour trouver et corriger les vulnérabilités de votre application.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2025-08-05
2
Lordog/dive-into-llms

Tutoriel de programmation de la série "Plongez dans les LLM : Apprenez les grands modèles linguistiques"

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 Mis à jour 2025-10-10 📅 Créé 2024-04-08
3
ifixai-ai/iFixAi

Audit indépendant des agents IA. Exécuté par un humain ou par l'agent lui-même, pour répondre à la question la plus cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, vous pouvez obtenir cette réponse en moins de 120 secondes.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-27
4
NVIDIA/garak

le scanner de vulnérabilités LLM

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2023-05-10
5
Tencent/AI-Infra-Guard

Une plateforme complète de Red Teaming de l’IA qui sécurise les écosystèmes d’IA grâce à Agent Scan, Skills Scan, MCP Scan, AI Infra Scan et à l’évaluation des jailbreaks des LLM.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails est une bibliothèque open source permettant d’appliquer des contrôles programmables de sûreté et de sécurité aux applications LLM et agentiques.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2023-04-18
7
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — serveur MCP et CLI de défense Blue open source qui protège JS/TS, Electron ASAR, WASM, Python, les binaires natifs, SQLite, GGUF/Safetensors et Android DEX contre les agents d’ingénierie inverse basés sur l’IA (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-25
8
awarexone/Agentic-Bug-Hunter

Boîte à outils de recherche de vulnérabilités dans le cadre de bug bounty, propulsée par l’IA et utilisable avec ou sans abonnement.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 Mis à jour 2026-11-12 📅 Créé 2026-03-08
9
Giskard-AI/giskard-oss

🐢 Bibliothèque open-source d'évaluation et de test pour les agents LLM

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2022-03-06
10
0xeb/TheBigPromptLibrary

Une collection d'invites, d'invites système et d'instructions LLM

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Mis à jour 2026-11-10 📅 Créé 2023-11-24
11
nolabs-ai/nono

Sécurité de l’environnement d’exécution des agents — sandboxing des agents sans confiance, sans configuration et sans latence

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-01-31
12
meta-llama/PurpleLlama

Ensemble d'outils pour évaluer et améliorer la sécurité des LLM.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Feuille de triche pour attaques web

riramar
⭐ 4,438 👤 riramar User 🕐 Mis à jour 2026-09-04 📅 Créé 2020-01-11
14
llm-attacks/llm-attacks

Attaques universelles et transférables sur des modèles linguistiques alignés

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 Mis à jour 2024-08-02 📅 Créé 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

Une collection de méthodes scientifiques, de processus, d'algorithmes et de systèmes pour construire des histoires et des modèles.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 Mis à jour 2026-10-28 📅 Créé 2022-03-29
16
CyberStrikeus/CyberStrike

Cadre de sécurité offensive open source propulsé par l’IA pour les tests d’intrusion automatisés.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-02-14
17
verazuo/jailbreak_llms

Un ensemble de données se compose de 15 140 invites ChatGPT provenant de Reddit, Discord, de sites Web et de jeux de données open-source (y compris 1 405 invites de contournement).

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 Mis à jour 2024-12-24 📅 Créé 2023-08-01
18
protectai/llm-guard

La boîte à outils de sécurité pour les interactions LLM

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Mis à jour 2025-12-15 📅 Créé 2023-07-27
19
Acmesec/PromptJailbreakManual

Manuel de jailbreak de prompt

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Mis à jour 2024-12-17 📅 Créé 2024-11-25
20
beelzebub-labs/beelzebub

Un framework runtime de tromperie à faible code sécurisé, exploitant l'IA pour la virtualisation système.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2022-05-08
21
uber/ADR

ADR sécurise les agents IA d'entreprise grâce à l'observabilité, à l'évaluation comparative de la sécurité et à la détection des menaces. Déployé chez Uber.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-19
22
greshake/llm-security

Nouvelles façons de casser les LLM intégrés aux applications

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 Mis à jour 2025-07-17 📅 Créé 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT : actualités, articles et incidents quotidiens sur la sécurité de l’IA, réunis en un seul endroit — jailbreaks, injection de prompts, alignement, évaluations et gouvernance. Site web, récapitulatif quotidien, RSS et MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-01
24
msoedov/agentic_security

Scanner de vulnérabilités LLM agentique / Kit de red teaming IA 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 Mis à jour 2026-11-19 📅 Créé 2024-04-11
25
llmgenai/LLMInterviewQuestions

Ce dépôt contient des questions d'entretien LLM (modèle linguistique large) posées dans des entreprises de premier plan comme Google, Nvidia, Meta, Microsoft et des entreprises du Fortune 500.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 Mis à jour 2025-02-12 📅 Créé 2024-12-26
26
cyberark/FuzzyAI

Un outil puissant pour le fuzzing automatisé des LLM. Il est conçu pour aider les développeurs et les chercheurs en sécurité à identifier et à atténuer les jailbreaks potentiels dans leurs API LLM.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 Mis à jour 2026-02-06 📅 Créé 2024-12-03
27
mark3labs/mcphost

Une application hôte CLI qui permet aux grands modèles linguistiques (LLM) d’interagir avec des outils externes via le Model Context Protocol (MCP).

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 Mis à jour 2026-02-26 📅 Créé 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

OWASP Top 10 pour les applications de grands modèles linguistiques (Partie du projet de sécurité GenAI)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 Mis à jour 2026-08-05 📅 Créé 2023-05-16
29
xalgorix/xalgorix

Agent open source de tests d’intrusion basé sur l’IA, qui vérifie chaque découverte par exploitation. Tests d’intrusion autonomes en 22 phases pour les applications web et les API, avec des rapports PDF notés selon le CVSS. Hébergez-le vous-même, utilisez votre propre LLM ou exécutez-le entièrement en local avec Ollama.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Mis à jour 2026-11-01 📅 Créé 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Mis à jour 2026-05-11 📅 Créé 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ Terminal de sécurité et scanner de vulnérabilités gratuits, open source et propulsés par l’IA (CVE, SBOM). Prise en charge de SSH, SFTP, RDP, VNC et des connexions série, ainsi que de plus de 12 agents IA autonomes (DeepSeek, OpenAI) pour automatiser les workflows de sécurité, le CTF et le DevSecOps. Multiplateforme avec interface web.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 Mis à jour 2026-11-04 📅 Créé 2026-09-10
33
ASCIT31/Dark-Moon

Tests d’intrusion autonomes par IA open source. 50 agents spécialisés couvrant le web, les API, le cloud, Active Directory, Kubernetes, CI/CD et l’IA/les LLM (OWASP LLM Top 10), avec un graphe des chemins d’attaque vérifié par des preuves. Fonctionne avec un LLM local derrière une passerelle de confidentialité. S’intègre à GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana et Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2024-11-26
34
splx-ai/agentic-radar

Un scanner de sécurité pour vos flux de travail d'agents LLM

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 Mis à jour 2026-11-13 📅 Créé 2025-02-12
35
Zyrexnn/Cybermes

Framework d'agents autonomes pour la sécurité offensive, le bug bounty et le red teaming, propulsé par Hermes Agent, des compétences de raisonnement spécialisées et l'orchestration de LLM multi-modèles.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 Mis à jour 2026-11-16 📅 Créé 2026-08-19
36
Pantheon-Security/medusa

Scanner de sécurité axé sur l'IA. NOUVEAU dans v2026.7 : détection des compromissions de Claude Code — examinez les hooks, permissions et compétences .claude/ avant de cloner — plus un scanner de signatures d'attaques IA toujours actif et des règles natives Rust et PHP. Aussi : medusa scan --git pour examiner tout dépôt, medusa secrets scan pour les clés API divulguées. 40 000+ motifs, zéro configuration.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 Mis à jour 2026-08-10 📅 Créé 2025-11-15
37
pipelab-org/pipelock

Pare-feu d'agent IA open-source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médié pour détecter l'exfiltration, le SSRF et l'injection de prompts, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable depuis l'extérieur de l'agent.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-08
38
wang-rui/phishguard-scaffold

Détection sémantique conjointe et contrôle de la dissémination des attaques de phishing sur les réseaux sociaux par modélisation basée sur LLama

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 Mis à jour 2026-02-15 📅 Créé 2025-09-08
39
sherwinvishesh/SurrogateShield

Une protection axée sur la confidentialité pour les LLM et les pipelines RAG. SurrogateShield détecte, masque et reconstitue à la volée les données sensibles à caractère personnel (PII), tout en se défendant contre les attaques adversariales.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 Mis à jour 2026-10-16 📅 Créé 2026-05-13
40
openpcc/openpcc

Un cadre open-source pour l'inférence IA privée vérifiable

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 Mis à jour 2026-01-08 📅 Créé 2025-11-05
41
EasyJailbreak/EasyJailbreak

Un framework Python facile à utiliser pour générer des invites de jailbreak adverses.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 Mis à jour 2026-09-01 📅 Créé 2024-01-31
42
toby-bridges/api-relay-audit

Audit de sécurité local pour les relais d’API d’IA et les proxys LLM : détecte les injections de prompt, les substitutions de modèles, la réécriture des appels d’outils, les anomalies SSE, les fuites d’erreurs et les risques liés aux portefeuilles Web3. Site web : https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Mis à jour 2026-11-18 📅 Créé 2026-03-30
43
asamassekou10/ship-safe

L'agent de sécurité indépendant pour les logiciels écrits par l'IA. Trouve les problèmes, vérifie s'ils sont réels et vous montre les preuves. Cœur déterministe, sans clé API nécessaire, sortie JSON et SARIF.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Mis à jour 2026-10-17 📅 Créé 2026-02-02
44
OWASP/www-project-ai-testing-guide

dépôt web de la Fondation OWASP

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 Mis à jour 2026-06-01 📅 Créé 2025-06-10
45
ThinkWatchProject/ThinkWatch

API d’IA et passerelle MCP auto-hébergées pour les organisations : SSO et RBAC, identité par utilisateur pour les appels aux outils MCP, masquage des informations personnelles (PII) et garde-fous pour les appels d’outils, limites de débit, budgets, comptabilisation des coûts et journaux d’audit.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-04-02
46
coipond/coi

Donnez une machine à l’agent. Mais pas la vôtre. Chaque agent de codage IA dispose de sa propre machine isolée avec les privilèges root, Docker et systemd — la défense active détecte et bloque automatiquement les menaces.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-01-07
47
Cygnux-Labs/Tracekit

Traçabilité infalsifiable, garde-fous de politique et vérifications croisées pour les agents d’IA : voyez ce que l’agent a fait et pourquoi.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-09-26
48
l0gicx/ai-model-bypass

Exploiter les invites et les techniques de jeu de rôle pour contourner les restrictions des modèles d'IA.

l0gicx
⭐ 722 👤 l0gicx User 🕐 Mis à jour 2025-10-04 📅 Créé 2025-05-21
49
AgentSafeLabs/safelabs-eval

Cadre de tests d’intrusion et d’évaluation pour les agents d’IA, fondé sur une taxonomie ASI01–ASI10 inspirée d’OWASP

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Mis à jour 2026-11-06 📅 Créé 2026-05-25
50
arcjet/arcjet-js

Sécurité à l'exécution pour les applications et agents IA : détection d'injection de prompts, autorisation d'appels d'outils, masquage de données sensibles, protection contre les bots et limitation de débit. Intégrez-le simplement dans votre code JS/TS.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2023-11-30

Foire aux questions

1

Quel est le dépôt #llm-security le plus populaire sur GitHub ?

Le projet #llm-security open source le mieux classé sur GitHub est usestrix/strix, avec 76,872 étoiles. Outil de test d'intrusion IA open source pour trouver et corriger les vulnérabilités de votre application.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #llm-security ?

Parmi les projets #llm-security les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Go, Jupyter Notebook, TypeScript.

3

Comment le classement des dépôts #llm-security est-il calculé ?

Nous suivons 65 dépôts open source actifs associés à #llm-security (500+ étoiles), totalisant 311,462 étoiles, avec une moyenne de 4,791 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.