Git Stars Git Stars

#llm-security Dépôts

65
Total des Dépôts
311,462
Nombre total d'étoiles
4,791
Moyenne d'Étoiles/Dépôt
51
cckuailong/awesome-gpt-security

Une liste organisée d'outils de sécurité impressionnants, de cas expérimentaux ou d'autres choses intéressantes avec LLM ou GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Mis à jour 2026-07-24 📅 Créé 2023-04-13
53
samvallad33/vestige

Système d’exploitation déterministe, noyau de sécurité et système nerveux causal pour agents d’IA.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench : Une référence de robustesse ouverte pour le contournement (jailbreaking) des modèles de langage [Piste Datasets and Benchmarks de NeurIPS 2024]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 Mis à jour 2025-04-04 📅 Créé 2023-11-13
55
secureagentics/Adrian

Outil de sécurité open-source pour agents IA en temps réel - surveille et contrôle les agents IA, détectant l'utilisation malveillante d'outils, les injections de prompts et les dérives de politiques en temps réel, avant que l'agent n'agisse.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Mis à jour 2026-10-21 📅 Créé 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

Émulation d'adversaires open source pour les agents IA et les serveurs MCP.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Mis à jour 2026-11-03 📅 Créé 2026-04-06
57
PrismorSec/prismor

Plan de contrôle d’exécution auto-hébergé pour les agents d’IA. Surveillez, approuvez avec intervention humaine (HITL) ou bloquez les appels d’outils malveillants avant leur exécution afin d’éviter les fuites de secrets, les injections de prompt, les attaques de la chaîne d’approvisionnement et autres risques, depuis un tableau de bord local. Compatible avec tous les agents (Claude, Codex, LangChain, etc.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-20
58
General-Analysis/GA

Une encyclopédie des techniques de jailbreaking pour rendre les modèles d'IA plus sûrs.

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 Mis à jour 2025-05-26 📅 Créé 2025-01-18
59
chawins/llm-sp

Documents et ressources liés à la sécurité et à la confidentialité des LLM 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 Mis à jour 2025-06-08 📅 Créé 2023-11-15
60
haizelabs/llama3-jailbreak

Un jailbreak programmatique trivial de Llama 3. Désolé Zuck !

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Mis à jour 2025-01-26 📅 Créé 2024-04-20
61
jplhughes/bon-jailbreaking

Publication du code pour le jailbreaking Best-of-N

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 Mis à jour 2025-02-05 📅 Créé 2024-10-11
62
riseandignite/mcp-shield

Analyseur de sécurité pour serveurs MCP

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Mis à jour 2025-04-26 📅 Créé 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ Outil CLI d’audit de sécurité pour les serveurs du Model Context Protocol (MCP) — analyse les configurations des agents IA pour détecter l’empoisonnement d’outils, les retraits frauduleux, les secrets codés en dur, l’injection de commandes et les risques liés à la chaîne d’approvisionnement. En pur Python, compatible avec SARIF et l’intégration continue.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Mis à jour 2026-10-24 📅 Créé 2026-09-26
64
liu00222/Open-Prompt-Injection

Ce dépôt fournit une référence pour les attaques par injection de prompts et les défenses dans les LLM

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Mis à jour 2026-09-27 📅 Créé 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

Ce document recense des projets open source, des articles universitaires, des évaluations comparatives des capacités et des solutions commerciales (internationales et chinoises) dans les domaines des tests d’intrusion appliqués à l’IA, du red teaming des LLM, des agents offensifs autonomes et de la découverte de vulnérabilités, afin d’aider les chercheurs, les ingénieurs en sécurité et les décideurs d’entreprise à se forger rapidement une vision d’ensemble.

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 Mis à jour 2026-11-19 📅 Créé 2026-06-11