#ai-red-teaming Dépôts
Découvrez 8 dépôts GitHub open source actifs associés à #ai-red-teaming, cumulant 19,286 étoiles au total (soit une moyenne de 2,410 étoiles par projet). Le projet en tête de ce thème est Tencent/AI-Infra-Guard, avec 7,604 étoiles.
9 dépôts au total
Une plateforme complète de Red Teaming de l’IA qui sécurise les écosystèmes d’IA grâce à Agent Scan, Skills Scan, MCP Scan, AI Infra Scan et à l’évaluation des jailbreaks des LLM.
Boîte à outils open source de Microsoft pour le red teaming de l’IA. Testez des systèmes d’IA générative à l’aide d’analyses automatisées, d’attaques adaptatives à plusieurs tours et d’une interface web.
Laboratoires de terrain de jeu AI Red Teaming pour exécuter des formations AI Red Teaming, y compris l'infrastructure.
Tests d’intrusion autonomes par IA open source. 50 agents spécialisés couvrant le web, les API, le cloud, Active Directory, Kubernetes, CI/CD et l’IA/les LLM (OWASP LLM Top 10), avec un graphe des chemins d’attaque vérifié par des preuves. Fonctionne avec un LLM local derrière une passerelle de confidentialité. S’intègre à GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana et Splunk.
Un guide complet sur les tests adversariaux et l'évaluation de la sécurité des systèmes d'IA, aidant les organisations à identifier les vulnérabilités avant que les attaquants ne les exploitent.
Émulation d'adversaires open source pour les agents IA et les serveurs MCP.
Une encyclopédie des techniques de jailbreaking pour rendre les modèles d'IA plus sûrs.
Ce document recense des projets open source, des articles universitaires, des évaluations comparatives des capacités et des solutions commerciales (internationales et chinoises) dans les domaines des tests d’intrusion appliqués à l’IA, du red teaming des LLM, des agents offensifs autonomes et de la découverte de vulnérabilités, afin d’aider les chercheurs, les ingénieurs en sécurité et les décideurs d’entreprise à se forger rapidement une vision d’ensemble.
Foire aux questions
Quel est le dépôt #ai-red-teaming le plus populaire sur GitHub ?
Le projet #ai-red-teaming open source le mieux classé sur GitHub est Tencent/AI-Infra-Guard, avec 7,604 étoiles. Une plateforme complète de Red Teaming de l’IA qui sécurise les écosystèmes d’IA grâce à Agent Scan, Skills Scan, MCP Scan, AI Infra Scan et à l’évaluation des jailbreaks des LLM.
Quels langages de programmation sont les plus utilisés dans les dépôts #ai-red-teaming ?
Parmi les projets #ai-red-teaming les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, TypeScript, Jupyter Notebook.
Comment le classement des dépôts #ai-red-teaming est-il calculé ?
Nous suivons 8 dépôts open source actifs associés à #ai-red-teaming (500+ étoiles), totalisant 19,286 étoiles, avec une moyenne de 2,410 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.