#llm-security Repositories
Entdecke 65 aktive Open-Source-GitHub-Repositories, die mit #llm-security getaggt sind und insgesamt 311,462 Sterne gesammelt haben (durchschnittlich 4,791 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist usestrix/strix mit 76,872 Sternen.
Insgesamt 65 Repositories
Open-Source-KI-Penetrationstest-Tool zum Auffinden und Beheben von Schwachstellen Ihrer App.
Programmierpraxis-Tutorialserie „Dive into LLMs: Große Sprachmodelle von Grund auf aufbauen“
Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.
Eine Full-Stack-Plattform für KI-Red-Teaming, die KI-Ökosysteme durch Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und die Bewertung von LLM-Jailbreaks schützt.
NeMo Guardrails ist eine Open-Source-Bibliothek, mit der sich programmierbare Sicherheits- und Schutzkontrollen auf LLM- und agentische Anwendungen anwenden lassen.
🛡️ BLA (bla-agents / Blind LLM Agents) — Open-Source-Blue-Defense-MCP-Server und CLI zum Schutz von JS/TS, Electron ASAR, WASM, Python, nativen Binärdateien, SQLite, GGUF/Safetensors und Android DEX vor KI-gestützten Reverse-Engineering-Agenten (REA).
KI-gestütztes Toolkit zur Suche nach Schwachstellen im Rahmen von Bug-Bounty-Programmen, das mit oder ohne Abonnement funktioniert.
Agent-Runtime-Sicherheit – Agent-Sandboxing ohne Vertrauen, ohne Einrichtung und ohne Latenz
Eine Sammlung wissenschaftlicher Methoden, Prozesse, Algorithmen und Systeme zum Erstellen von Geschichten und Modellen.
Open-Source-Framework für offensive Sicherheit, unterstützt durch KI, zur automatisierten Durchführung von Penetrationstests.
Ein Datensatz besteht aus 15.140 ChatGPT-Prompts von Reddit, Discord, Websites und Open-Source-Datensätzen (einschließlich 1.405 Jailbreak-Prompts).
Ein sicheres Low-Code-Täuschungs-Runtime-Framework, das KI für Systemvirtualisierung nutzt.
ADR sichert Unternehmens-KI-Agenten durch Beobachtbarkeit, Sicherheits-Benchmarking und Bedrohungserkennung. Bei Uber eingesetzt.
AI Safety HOT: tägliche Nachrichten, Fachartikel und Vorfälle zur KI-Sicherheit an einem Ort — Jailbreaks, Prompt-Injection, Alignment, Evaluationen und Governance. Website, tägliche Zusammenfassung, RSS und MCP.
Dieses Repository enthält LLM- (Large Language Model) Interviewfragen, die bei Top-Unternehmen wie Google, Nvidia, Meta, Microsoft und Fortune-500-Unternehmen gestellt werden.
Ein leistungsstarkes Werkzeug für automatisiertes LLM-Fuzzing. Es wurde entwickelt, um Entwicklern und Sicherheitsexperten bei der Identifizierung und Abmilderung potenzieller Jailbreaks in ihren LLM-APIs zu helfen.
Eine CLI-Hostanwendung, die es großen Sprachmodellen (LLMs) ermöglicht, über das Model Context Protocol (MCP) mit externen Tools zu interagieren.
OWASP Top 10 für Large Language Model Apps (Teil des GenAI Security Project)
Open-Source-KI-Agent für Penetrationstests, der jeden Fund durch Ausnutzung verifiziert. Autonome Penetrationstests in 22 Phasen für Webanwendungen und APIs mit PDF-Berichten inklusive CVSS-Bewertung. Selbst hosten, ein eigenes LLM verwenden oder mit Ollama vollständig lokal ausführen.
🛡️ Kostenloses, quelloffenes, KI-gestütztes Sicherheitsterminal und Schwachstellenscanner (CVE, SBOM). Unterstützt SSH, SFTP, RDP, VNC, serielle Verbindungen und mehr als 12 autonome KI-Agenten (DeepSeek, OpenAI) für automatisierte Sicherheits-Workflows, CTF und DevSecOps. Plattformübergreifend und mit Weboberfläche.
Open-Source- und autonome KI-Penetrationstests. 50 spezialisierte Agenten für Web, APIs, Cloud, Active Directory, Kubernetes, CI/CD und KI/LLM (OWASP LLM Top 10) – mit einem evidenzgeprüften Angriffspfad-Graphen. Läuft mit einem lokalen LLM hinter einem Privacy Gateway. Integriert sich in GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana und Splunk.
Autonomes Agenten-Framework für offensive Sicherheit, Bug Bounty und Red Teaming, unterstützt durch Hermes Agent, spezialisierte logische Fähigkeiten und Multi-Modell-LLM-Orchestrierung.
KI-gestützter Sicherheitsscanner. NEU in v2026.7: Claude-Code-Kompromittierungserkennung – prüfen Sie .claude/-Hooks, Berechtigungen und Fähigkeiten vor dem Klonen – plus einen ständig aktiven KI-Angriffssignatur-Scanner und native Rust- und PHP-Regeln. Auch: medusa scan --git zur Überprüfung jedes Repos, medusa secrets scan für durchgesickerte API-Schlüssel. 40.000+ Muster, keine Einrichtung.
Open-Source-KI-Agenten-Firewall für MCP-Sicherheit und Agenten-Egress. Scannt vermittelten HTTP-, MCP-, A2A- und WebSocket-Verkehr auf Exfiltration, SSRF und Prompt-Injection und stellt vom Mediator signierte Aktionsbelege aus: verifizierbare Audit-Nachweise von außerhalb des Agenten.
Gemeinsame semantische Erkennung und Verbreitungssteuerung von Phishing-Angriffen in sozialen Medien durch LLama-basierte Modellierung
Ein Datenschutz-orientierter Schutzmechanismus für LLMs und RAG-Pipelines. SurrogateShield erkennt, schwärzt und rekonstruiert sensible personenbezogene Daten (PII) in Echtzeit und schützt zugleich vor adversariellen Angriffen.
Ein einfach zu bedienendes Python-Framework zur Generierung von nachträglichen Jailbreak-Aufforderungen.
Lokales Sicherheitsaudit für KI-API-Relays und LLM-Proxys: Erkennt Prompt-Injection, Modellaustausch, Umschreiben von Tool-Aufrufen, SSE-Anomalien, Fehlerlecks und Risiken für Web3-Wallets. Website: https://apirelayaudit.com
Der unabhängige Sicherheitsagent für KI-geschriebene Software. Findet Probleme, untersucht, ob sie real sind, und zeigt Ihnen die Beweise. Deterministischer Kern, kein API-Schlüssel erforderlich, JSON- und SARIF-Ausgabe.
Self-hosted KI-API und MCP-Gateway für Organisationen: SSO und RBAC, benutzerbezogene Identität für MCP-Tool-Aufrufe, Schwärzung personenbezogener Daten (PII) und Schutzmechanismen für Tool-Aufrufe, Ratenbegrenzungen, Budgets, Kostenabrechnung und Audit-Protokolle.
Gib dem Agenten eine Maschine. Aber nicht deine. Jeder KI-Coding-Agent erhält eine eigene isolierte Maschine mit Root-Rechten, Docker und systemd – die aktive Abwehr erkennt und stoppt Bedrohungen automatisch.
Manipulationssichere Nachverfolgung, Richtlinienprüfungen und Gegenkontrollen für KI-Agenten: Sehen Sie, was der Agent getan hat und warum.
Ausnutzung von Prompts und Rollenspieltechniken zur Umgehung von KI-Modellbeschränkungen.
Red-Team- und Evaluierungsframework für KI-Agenten, basierend auf einer von OWASP inspirierten ASI01–ASI10-Taxonomie
Laufzeitsicherheit für KI-Anwendungen und -Agenten: Erkennung von Prompt-Injection, Autorisierung von Tool-Aufrufen, Schwärzung sensibler Daten, Bot-Schutz und Ratenbegrenzung. Einfach in Ihren JS/TS-Code integrierbar.
Häufig gestellte Fragen
Welches ist das beliebteste #llm-security-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-security-Projekt auf GitHub ist usestrix/strix mit 76,872 Sternen. Open-Source-KI-Penetrationstest-Tool zum Auffinden und Beheben von Schwachstellen Ihrer App.
Welche Programmiersprachen werden in #llm-security-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-security-Projekten auf GitHub sind Python, Go, Jupyter Notebook, TypeScript die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-security-Repositories berechnet?
Wir verfolgen 65 aktive Open-Source-Repositories, die mit #llm-security getaggt sind (500+ Sterne), mit insgesamt 311,462 Sternen und durchschnittlich 4,791 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.