Git Stars Git Stars

#llm-security Repositories

65
Gesamtzahl der Repositories
311,462
Gesamtanzahl der Sterne
4,791
Durchschnittliche Sterne/Repo

Insgesamt 65 Repositories

51
cckuailong/awesome-gpt-security

Eine kuratierte Liste von großartigen Sicherheitstools, experimentellen Fällen oder anderen interessanten Dingen mit LLM oder GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Aktualisiert 2026-07-24 📅 Erstellt 2023-04-13
53
samvallad33/vestige

Deterministisches Betriebssystem, Sicherheitskernel und kausales Nervensystem für KI-Agenten.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: Ein offener Robustheits-Benchmark für das Jailbreaking von Sprachmodellen [NeurIPS 2024 Datasets and Benchmarks Track]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 Aktualisiert 2025-04-04 📅 Erstellt 2023-11-13
55
secureagentics/Adrian

Open-Source-Laufzeit-Sicherheitstool für KI-Agenten – überwacht und steuert KI-Agenten und erkennt böswillige Tool-Nutzung, Prompt-Injection und Richtlinienabweichungen in Echtzeit, bevor der Agent handelt.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Aktualisiert 2026-10-21 📅 Erstellt 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

Open-Source-Gegner-Emulation für KI-Agenten und MCP-Server.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Aktualisiert 2026-11-03 📅 Erstellt 2026-04-06
57
PrismorSec/prismor

Self-hosted Control Plane zur Laufzeit für KI-Agenten. Überwachen, mit menschlicher Freigabe (HITL) genehmigen oder bösartige Tool-Aufrufe blockieren, bevor sie ausgeführt werden – zum Schutz vor dem Abfluss von Geheimnissen, Prompt-Injection, Angriffen auf die Lieferkette und weiteren Risiken. Alles über ein lokales Dashboard. Agentenunabhängig (Claude, Codex, LangChain usw.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-20
58
General-Analysis/GA

Eine Enzyklopädie von Jailbreaking-Techniken, um KI-Modelle sicherer zu machen.

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 Aktualisiert 2025-05-26 📅 Erstellt 2025-01-18
59
chawins/llm-sp

Papiere und Ressourcen zur Sicherheit und zum Datenschutz von LLMs 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 Aktualisiert 2025-06-08 📅 Erstellt 2023-11-15
60
haizelabs/llama3-jailbreak

Ein trivialer programmatischer Llama 3 Jailbreak. Entschuldigung Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Aktualisiert 2025-01-26 📅 Erstellt 2024-04-20
61
jplhughes/bon-jailbreaking

Code-Veröffentlichung für Best-of-N Jailbreaking

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 Aktualisiert 2025-02-05 📅 Erstellt 2024-10-11
62
riseandignite/mcp-shield

Sicherheits-Scanner für MCP-Server

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Aktualisiert 2025-04-26 📅 Erstellt 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ CLI für Sicherheitsaudits von Model-Context-Protocol-Servern (MCP) — durchsucht KI-Agent-Konfigurationen nach Tool-Poisoning, Rug Pulls, fest codierten Geheimnissen, Command Injection und Risiken in der Lieferkette. Reines Python, bereit für SARIF und CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Aktualisiert 2026-10-24 📅 Erstellt 2026-09-26
64
liu00222/Open-Prompt-Injection

Dieses Repository bietet einen Benchmark für Prompt-Injection-Angriffe und -Abwehrmaßnahmen bei LLMs

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Aktualisiert 2026-09-27 📅 Erstellt 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

Dieses Dokument stellt Open-Source-Projekte, wissenschaftliche Arbeiten, Leistungsbenchmarks und kommerzielle Lösungen (international und aus China) in den Bereichen Penetrationstests für KI, LLM-Red-Teaming, autonome offensive Agenten und Schwachstellenentdeckung zusammen. Ziel ist es, Forschenden, Sicherheitsingenieuren und Entscheidungsträgern in Unternehmen zu helfen, sich schnell einen ganzheitlichen Überblick zu verschaffen.

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-06-11