Git Stars Git Stars

#llm-security Repositories

Entdecke 65 aktive Open-Source-GitHub-Repositories, die mit #llm-security getaggt sind und insgesamt 311,462 Sterne gesammelt haben (durchschnittlich 4,791 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist usestrix/strix mit 76,872 Sternen.

65
Gesamtzahl der Repositories
311,462
Gesamtanzahl der Sterne
4,791
Durchschnittliche Sterne/Repo

Insgesamt 65 Repositories

1
usestrix/strix

Open-Source-KI-Penetrationstest-Tool zum Auffinden und Beheben von Schwachstellen Ihrer App.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2025-08-05
2
Lordog/dive-into-llms

Programmierpraxis-Tutorialserie „Dive into LLMs: Große Sprachmodelle von Grund auf aufbauen“

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 Aktualisiert 2025-10-10 📅 Erstellt 2024-04-08
3
ifixai-ai/iFixAi

Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-04-27
4
NVIDIA/garak

der LLM-Schwachstellenscanner

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2023-05-10
5
Tencent/AI-Infra-Guard

Eine Full-Stack-Plattform für KI-Red-Teaming, die KI-Ökosysteme durch Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und die Bewertung von LLM-Jailbreaks schützt.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails ist eine Open-Source-Bibliothek, mit der sich programmierbare Sicherheits- und Schutzkontrollen auf LLM- und agentische Anwendungen anwenden lassen.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2023-04-18
7
qybaihe/bla

🛡️ BLA (bla-agents / Blind LLM Agents) — Open-Source-Blue-Defense-MCP-Server und CLI zum Schutz von JS/TS, Electron ASAR, WASM, Python, nativen Binärdateien, SQLite, GGUF/Safetensors und Android DEX vor KI-gestützten Reverse-Engineering-Agenten (REA).

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-25
8
awarexone/Agentic-Bug-Hunter

KI-gestütztes Toolkit zur Suche nach Schwachstellen im Rahmen von Bug-Bounty-Programmen, das mit oder ohne Abonnement funktioniert.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 Aktualisiert 2026-11-12 📅 Erstellt 2026-03-08
9
Giskard-AI/giskard-oss

🐢 Open-Source-Evaluierungs- und Testbibliothek für LLM-Agenten

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2022-03-06
10
0xeb/TheBigPromptLibrary

Eine Sammlung von Prompts, System-Prompts und LLM-Anweisungen

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Aktualisiert 2026-11-10 📅 Erstellt 2023-11-24
11
nolabs-ai/nono

Agent-Runtime-Sicherheit – Agent-Sandboxing ohne Vertrauen, ohne Einrichtung und ohne Latenz

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-01-31
12
meta-llama/PurpleLlama

Sammlung von Tools zur Bewertung und Verbesserung der LLM-Sicherheit.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Web-Attack-Cheat-Sheet

riramar
⭐ 4,438 👤 riramar User 🕐 Aktualisiert 2026-09-04 📅 Erstellt 2020-01-11
14
llm-attacks/llm-attacks

Universelle und übertragbare Angriffe auf ausgerichtete Sprachmodelle

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 Aktualisiert 2024-08-02 📅 Erstellt 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

Eine Sammlung wissenschaftlicher Methoden, Prozesse, Algorithmen und Systeme zum Erstellen von Geschichten und Modellen.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 Aktualisiert 2026-10-28 📅 Erstellt 2022-03-29
16
CyberStrikeus/CyberStrike

Open-Source-Framework für offensive Sicherheit, unterstützt durch KI, zur automatisierten Durchführung von Penetrationstests.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-02-14
17
verazuo/jailbreak_llms

Ein Datensatz besteht aus 15.140 ChatGPT-Prompts von Reddit, Discord, Websites und Open-Source-Datensätzen (einschließlich 1.405 Jailbreak-Prompts).

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 Aktualisiert 2024-12-24 📅 Erstellt 2023-08-01
18
protectai/llm-guard

Das Sicherheitswerkzeug für LLM-Interaktionen

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Aktualisiert 2025-12-15 📅 Erstellt 2023-07-27
19
Acmesec/PromptJailbreakManual

Prompt-Jailbreak-Handbuch

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Aktualisiert 2024-12-17 📅 Erstellt 2024-11-25
20
beelzebub-labs/beelzebub

Ein sicheres Low-Code-Täuschungs-Runtime-Framework, das KI für Systemvirtualisierung nutzt.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2022-05-08
21
uber/ADR

ADR sichert Unternehmens-KI-Agenten durch Beobachtbarkeit, Sicherheits-Benchmarking und Bedrohungserkennung. Bei Uber eingesetzt.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-04-19
22
greshake/llm-security

Neue Wege, um App-integrierte LLMs zu brechen

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 Aktualisiert 2025-07-17 📅 Erstellt 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT: tägliche Nachrichten, Fachartikel und Vorfälle zur KI-Sicherheit an einem Ort — Jailbreaks, Prompt-Injection, Alignment, Evaluationen und Governance. Website, tägliche Zusammenfassung, RSS und MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-01
24
msoedov/agentic_security

Agentic LLM Vulnerability Scanner / KI-Red-Teaming-Kit 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2024-04-11
25
llmgenai/LLMInterviewQuestions

Dieses Repository enthält LLM- (Large Language Model) Interviewfragen, die bei Top-Unternehmen wie Google, Nvidia, Meta, Microsoft und Fortune-500-Unternehmen gestellt werden.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 Aktualisiert 2025-02-12 📅 Erstellt 2024-12-26
26
cyberark/FuzzyAI

Ein leistungsstarkes Werkzeug für automatisiertes LLM-Fuzzing. Es wurde entwickelt, um Entwicklern und Sicherheitsexperten bei der Identifizierung und Abmilderung potenzieller Jailbreaks in ihren LLM-APIs zu helfen.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 Aktualisiert 2026-02-06 📅 Erstellt 2024-12-03
27
mark3labs/mcphost

Eine CLI-Hostanwendung, die es großen Sprachmodellen (LLMs) ermöglicht, über das Model Context Protocol (MCP) mit externen Tools zu interagieren.

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 Aktualisiert 2026-02-26 📅 Erstellt 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

OWASP Top 10 für Large Language Model Apps (Teil des GenAI Security Project)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 Aktualisiert 2026-08-05 📅 Erstellt 2023-05-16
29
xalgorix/xalgorix

Open-Source-KI-Agent für Penetrationstests, der jeden Fund durch Ausnutzung verifiziert. Autonome Penetrationstests in 22 Phasen für Webanwendungen und APIs mit PDF-Berichten inklusive CVSS-Bewertung. Selbst hosten, ein eigenes LLM verwenden oder mit Ollama vollständig lokal ausführen.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Aktualisiert 2026-11-01 📅 Erstellt 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Aktualisiert 2026-05-11 📅 Erstellt 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ Kostenloses, quelloffenes, KI-gestütztes Sicherheitsterminal und Schwachstellenscanner (CVE, SBOM). Unterstützt SSH, SFTP, RDP, VNC, serielle Verbindungen und mehr als 12 autonome KI-Agenten (DeepSeek, OpenAI) für automatisierte Sicherheits-Workflows, CTF und DevSecOps. Plattformübergreifend und mit Weboberfläche.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 Aktualisiert 2026-11-04 📅 Erstellt 2026-09-10
33
ASCIT31/Dark-Moon

Open-Source- und autonome KI-Penetrationstests. 50 spezialisierte Agenten für Web, APIs, Cloud, Active Directory, Kubernetes, CI/CD und KI/LLM (OWASP LLM Top 10) – mit einem evidenzgeprüften Angriffspfad-Graphen. Läuft mit einem lokalen LLM hinter einem Privacy Gateway. Integriert sich in GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana und Splunk.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-11-26
34
splx-ai/agentic-radar

Ein Sicherheits-Scanner für Ihre LLM-Agenten-Workflows

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 Aktualisiert 2026-11-13 📅 Erstellt 2025-02-12
35
Zyrexnn/Cybermes

Autonomes Agenten-Framework für offensive Sicherheit, Bug Bounty und Red Teaming, unterstützt durch Hermes Agent, spezialisierte logische Fähigkeiten und Multi-Modell-LLM-Orchestrierung.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2026-08-19
36
Pantheon-Security/medusa

KI-gestützter Sicherheitsscanner. NEU in v2026.7: Claude-Code-Kompromittierungserkennung – prüfen Sie .claude/-Hooks, Berechtigungen und Fähigkeiten vor dem Klonen – plus einen ständig aktiven KI-Angriffssignatur-Scanner und native Rust- und PHP-Regeln. Auch: medusa scan --git zur Überprüfung jedes Repos, medusa secrets scan für durchgesickerte API-Schlüssel. 40.000+ Muster, keine Einrichtung.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 Aktualisiert 2026-08-10 📅 Erstellt 2025-11-15
37
pipelab-org/pipelock

Open-Source-KI-Agenten-Firewall für MCP-Sicherheit und Agenten-Egress. Scannt vermittelten HTTP-, MCP-, A2A- und WebSocket-Verkehr auf Exfiltration, SSRF und Prompt-Injection und stellt vom Mediator signierte Aktionsbelege aus: verifizierbare Audit-Nachweise von außerhalb des Agenten.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-08
38
wang-rui/phishguard-scaffold

Gemeinsame semantische Erkennung und Verbreitungssteuerung von Phishing-Angriffen in sozialen Medien durch LLama-basierte Modellierung

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 Aktualisiert 2026-02-15 📅 Erstellt 2025-09-08
39
sherwinvishesh/SurrogateShield

Ein Datenschutz-orientierter Schutzmechanismus für LLMs und RAG-Pipelines. SurrogateShield erkennt, schwärzt und rekonstruiert sensible personenbezogene Daten (PII) in Echtzeit und schützt zugleich vor adversariellen Angriffen.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 Aktualisiert 2026-10-16 📅 Erstellt 2026-05-13
40
openpcc/openpcc

Ein Open-Source-Framework für verifizierbare private KI-Inferenz

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 Aktualisiert 2026-01-08 📅 Erstellt 2025-11-05
41
EasyJailbreak/EasyJailbreak

Ein einfach zu bedienendes Python-Framework zur Generierung von nachträglichen Jailbreak-Aufforderungen.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 Aktualisiert 2026-09-01 📅 Erstellt 2024-01-31
42
toby-bridges/api-relay-audit

Lokales Sicherheitsaudit für KI-API-Relays und LLM-Proxys: Erkennt Prompt-Injection, Modellaustausch, Umschreiben von Tool-Aufrufen, SSE-Anomalien, Fehlerlecks und Risiken für Web3-Wallets. Website: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2026-03-30
43
asamassekou10/ship-safe

Der unabhängige Sicherheitsagent für KI-geschriebene Software. Findet Probleme, untersucht, ob sie real sind, und zeigt Ihnen die Beweise. Deterministischer Kern, kein API-Schlüssel erforderlich, JSON- und SARIF-Ausgabe.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Aktualisiert 2026-10-17 📅 Erstellt 2026-02-02
44
OWASP/www-project-ai-testing-guide

OWASP Foundation Web-Repository

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 Aktualisiert 2026-06-01 📅 Erstellt 2025-06-10
45
ThinkWatchProject/ThinkWatch

Self-hosted KI-API und MCP-Gateway für Organisationen: SSO und RBAC, benutzerbezogene Identität für MCP-Tool-Aufrufe, Schwärzung personenbezogener Daten (PII) und Schutzmechanismen für Tool-Aufrufe, Ratenbegrenzungen, Budgets, Kostenabrechnung und Audit-Protokolle.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-04-02
46
coipond/coi

Gib dem Agenten eine Maschine. Aber nicht deine. Jeder KI-Coding-Agent erhält eine eigene isolierte Maschine mit Root-Rechten, Docker und systemd – die aktive Abwehr erkennt und stoppt Bedrohungen automatisch.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-01-07
47
Cygnux-Labs/Tracekit

Manipulationssichere Nachverfolgung, Richtlinienprüfungen und Gegenkontrollen für KI-Agenten: Sehen Sie, was der Agent getan hat und warum.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-09-26
48
l0gicx/ai-model-bypass

Ausnutzung von Prompts und Rollenspieltechniken zur Umgehung von KI-Modellbeschränkungen.

l0gicx
⭐ 722 👤 l0gicx User 🕐 Aktualisiert 2025-10-04 📅 Erstellt 2025-05-21
49
AgentSafeLabs/safelabs-eval

Red-Team- und Evaluierungsframework für KI-Agenten, basierend auf einer von OWASP inspirierten ASI01–ASI10-Taxonomie

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Aktualisiert 2026-11-06 📅 Erstellt 2026-05-25
50
arcjet/arcjet-js

Laufzeitsicherheit für KI-Anwendungen und -Agenten: Erkennung von Prompt-Injection, Autorisierung von Tool-Aufrufen, Schwärzung sensibler Daten, Bot-Schutz und Ratenbegrenzung. Einfach in Ihren JS/TS-Code integrierbar.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2023-11-30

Häufig gestellte Fragen

1

Welches ist das beliebteste #llm-security-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llm-security-Projekt auf GitHub ist usestrix/strix mit 76,872 Sternen. Open-Source-KI-Penetrationstest-Tool zum Auffinden und Beheben von Schwachstellen Ihrer App.

2

Welche Programmiersprachen werden in #llm-security-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llm-security-Projekten auf GitHub sind Python, Go, Jupyter Notebook, TypeScript die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llm-security-Repositories berechnet?

Wir verfolgen 65 aktive Open-Source-Repositories, die mit #llm-security getaggt sind (500+ Sterne), mit insgesamt 311,462 Sternen und durchschnittlich 4,791 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.