#ai-red-teaming Repositories
Entdecke 8 aktive Open-Source-GitHub-Repositories, die mit #ai-red-teaming getaggt sind und insgesamt 19,286 Sterne gesammelt haben (durchschnittlich 2,410 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist Tencent/AI-Infra-Guard mit 7,604 Sternen.
Insgesamt 9 Repositories
Eine Full-Stack-Plattform für KI-Red-Teaming, die KI-Ökosysteme durch Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und die Bewertung von LLM-Jailbreaks schützt.
Open-Source-Toolkit von Microsoft für KI-Red-Teaming. Testen Sie generative KI-Systeme mit automatisierten Scans, adaptiven Angriffen über mehrere Runden und einer Weboberfläche.
KI-Red-Teaming-Playground-Labs zum Ausführen von KI-Red-Teaming-Schulungen einschließlich Infrastruktur.
Open-Source- und autonome KI-Penetrationstests. 50 spezialisierte Agenten für Web, APIs, Cloud, Active Directory, Kubernetes, CI/CD und KI/LLM (OWASP LLM Top 10) – mit einem evidenzgeprüften Angriffspfad-Graphen. Läuft mit einem lokalen LLM hinter einem Privacy Gateway. Integriert sich in GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana und Splunk.
Ein umfassender Leitfaden zu adversariellen Tests und Sicherheitsbewertungen von KI-Systemen, der Organisationen hilft, Schwachstellen zu identifizieren, bevor Angreifer sie ausnutzen.
Eine Enzyklopädie von Jailbreaking-Techniken, um KI-Modelle sicherer zu machen.
Dieses Dokument stellt Open-Source-Projekte, wissenschaftliche Arbeiten, Leistungsbenchmarks und kommerzielle Lösungen (international und aus China) in den Bereichen Penetrationstests für KI, LLM-Red-Teaming, autonome offensive Agenten und Schwachstellenentdeckung zusammen. Ziel ist es, Forschenden, Sicherheitsingenieuren und Entscheidungsträgern in Unternehmen zu helfen, sich schnell einen ganzheitlichen Überblick zu verschaffen.
Häufig gestellte Fragen
Welches ist das beliebteste #ai-red-teaming-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#ai-red-teaming-Projekt auf GitHub ist Tencent/AI-Infra-Guard mit 7,604 Sternen. Eine Full-Stack-Plattform für KI-Red-Teaming, die KI-Ökosysteme durch Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und die Bewertung von LLM-Jailbreaks schützt.
Welche Programmiersprachen werden in #ai-red-teaming-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #ai-red-teaming-Projekten auf GitHub sind Python, TypeScript, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #ai-red-teaming-Repositories berechnet?
Wir verfolgen 8 aktive Open-Source-Repositories, die mit #ai-red-teaming getaggt sind (500+ Sterne), mit insgesamt 19,286 Sternen und durchschnittlich 2,410 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.