Git Stars Git Stars

#prompt-injection Repositories

Entdecke 45 aktive Open-Source-GitHub-Repositories, die mit #prompt-injection getaggt sind und insgesamt 148,037 Sterne gesammelt haben (durchschnittlich 3,289 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ifixai-ai/iFixAi mit 46,592 Sternen.

45
Gesamtzahl der Repositories
148,037
Gesamtanzahl der Sterne
3,289
Durchschnittliche Sterne/Repo

Insgesamt 44 Repositories

1
ifixai-ai/iFixAi

Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-04-27
2
NVIDIA/SkillSpector

Sicherheitsscanner für KI-Agenten-Fähigkeiten. Erkennen Sie Schwachstellen, bösartige Muster, Sicherheitsrisiken, Prompt-Injection, Datenexfiltration und Lieferkettenrisiken in Claude Code-, Codex- und MCP-Fähigkeiten, bevor Sie sie installieren.

NVIDIA
⭐ 27,129 Python 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-03-21
3
kingcharleslzy-ai/dsh-purge

dsh-purge Community · Community-gepflegte Version von DeepSeek Harness: Host-Kompatibilität, Statusdiagnose, Prompt-Verwaltung, Updates sowie lokale Sicherung und Wiederherstellung. Basiert auf dsh-purge von Xiaoyang / YuJunZhiXue.

kingcharleslzy-ai
⭐ 11,192 JavaScript 👤 kingcharleslzy-ai User 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2026-10-16
4
Tencent/AI-Infra-Guard

Eine Full-Stack-Plattform für KI-Red-Teaming, die KI-Ökosysteme durch Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und die Bewertung von LLM-Jailbreaks schützt.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-12-25
5
superagent-ai/superagent

Superagent schützt Ihre KI-Anwendungen vor Prompt-Injections, Datenlecks und schädlichen Ausgaben. Betten Sie die Sicherheit direkt in Ihre App ein und beweisen Sie Ihren Kunden die Einhaltung der Vorschriften.

superagent-ai
⭐ 6,885 TypeScript 👤 superagent-ai Organization 🕐 Aktualisiert 2026-08-25 📅 Erstellt 2023-05-10
6
0xeb/TheBigPromptLibrary

Eine Sammlung von Prompts, System-Prompts und LLM-Anweisungen

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 Aktualisiert 2026-11-10 📅 Erstellt 2023-11-24
7
CyberAlbSecOP/Awesome_GPT_Super_Prompting

ChatGPT Jailbreaks, GPT Assistenten Prompt Leaks, GPTs Prompt Injection, LLM Prompt Sicherheit, Super Prompts, Prompt Hack, Prompt Sicherheit, KI Prompt Engineering, Adversarial Machine Learning.

CyberAlbSecOP
⭐ 4,210 HTML 👤 CyberAlbSecOP User 🕐 Aktualisiert 2026-05-05 📅 Erstellt 2024-03-15
8
protectai/llm-guard

Das Sicherheitswerkzeug für LLM-Interaktionen

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Aktualisiert 2025-12-15 📅 Erstellt 2023-07-27
9
Acmesec/PromptJailbreakManual

Prompt-Jailbreak-Handbuch

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 Aktualisiert 2024-12-17 📅 Erstellt 2024-11-25
10
uber/ADR

ADR sichert Unternehmens-KI-Agenten durch Beobachtbarkeit, Sicherheits-Benchmarking und Bedrohungserkennung. Bei Uber eingesetzt.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-04-19
11
microsoft/AI-Red-Teaming-Playground-Labs

KI-Red-Teaming-Playground-Labs zum Ausführen von KI-Red-Teaming-Schulungen einschließlich Infrastruktur.

microsoft
⭐ 2,134 TypeScript 👤 microsoft Organization 🕐 Aktualisiert 2026-02-13 📅 Erstellt 2025-05-07
12
wuyoscar/AISafetyHot

AI Safety HOT: tägliche Nachrichten, Fachartikel und Vorfälle zur KI-Sicherheit an einem Ort — Jailbreaks, Prompt-Injection, Alignment, Evaluationen und Governance. Website, tägliche Zusammenfassung, RSS und MCP.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-01
⭐ 1,376 Python 👤 harishsg993010 User 🕐 Aktualisiert 2026-11-01 📅 Erstellt 2025-04-16
⭐ 1,357 Java 👤 JoySafety Organization 🕐 Aktualisiert 2026-05-11 📅 Erstellt 2025-09-24
15
utkusen/promptmap

ein Sicherheits-Scanner für benutzerdefinierte LLM-Anwendungen

utkusen
⭐ 1,295 Python 👤 utkusen User 🕐 Aktualisiert 2025-12-01 📅 Erstellt 2023-07-15
16
hashgraph-online/hol-guard

Open-Source-Antivirus und Firewall für KI-Agenten: Blockiert zur Laufzeit riskante Tools, den Zugriff auf Geheimnisse, Prompt-Injection, schädliche Pakete, MCP-Server, Plugins und Skills.

hashgraph-online
⭐ 1,117 Rust 👤 hashgraph-online Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-28
17
trailofbits/anamorpher

Bildskalierungsangriffe für multimodale Eingabeaufforderungsinjektion

trailofbits
⭐ 1,079 Python 👤 trailofbits Organization 🕐 Aktualisiert 2026-05-19 📅 Erstellt 2025-08-20
18
ethz-spylab/agentdojo

Eine dynamische Umgebung zur Bewertung von Angriffen und Verteidigungen für LLM-Agenten.

ethz-spylab
⭐ 1,062 Python 👤 ethz-spylab Organization 🕐 Aktualisiert 2026-06-02 📅 Erstellt 2024-02-29
19
pipelab-org/pipelock

Open-Source-KI-Agenten-Firewall für MCP-Sicherheit und Agenten-Egress. Scannt vermittelten HTTP-, MCP-, A2A- und WebSocket-Verkehr auf Exfiltration, SSRF und Prompt-Injection und stellt vom Mediator signierte Aktionsbelege aus: verifizierbare Audit-Nachweise von außerhalb des Agenten.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-08
20
aimeoa/hanshuang-codex

Experimentierprojekt zum Umgehen von Schutzmechanismen für GPT 6.0 und WorkBuddy V4.1 Flash

aimeoa
⭐ 1,000 Lua 👤 aimeoa User 🕐 Aktualisiert 2026-10-17 📅 Erstellt 2026-09-06
21
whylabs/langkit

🔍 LangKit: Ein quelloffenes Toolkit zur Überwachung von Large Language Models (LLMs). 📚 Extrahiert Signale aus Prompts & Antworten und gewährleistet Sicherheit. 🛡️ Zu den Funktionen gehören Textqualität, Relevanzmetriken und Stimmungsanalyse. 📊 Ein umfassendes Tool für die LLM-Beobachtbarkeit. 👀

whylabs
⭐ 971 Jupyter Notebook 👤 whylabs Organization 🕐 Aktualisiert 2024-11-22 📅 Erstellt 2023-04-26
22
duriantaco/skylos

Open-Source-PR-Scanner mit lokalem Fokus, der toten Code, Sicherheitsfehler, Geheimnisse, Qualitätsregressionen und KI-Codefehler vor dem Merge findet. Für Neulinge siehe https://duriantaco.github.io/skylos/repo-map/

duriantaco
⭐ 951 Python 👤 duriantaco User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-04-28
23
tg12/gpt_jailbreak_status

Dies ist ein Repository, das darauf abzielt, Updates zum Status des Jailbreaks des OpenAI GPT-Sprachmodells bereitzustellen.

tg12
⭐ 934 HTML 👤 tg12 User 🕐 Aktualisiert 2026-05-16 📅 Erstellt 2023-03-01
24
toby-bridges/api-relay-audit

Lokales Sicherheitsaudit für KI-API-Relays und LLM-Proxys: Erkennt Prompt-Injection, Modellaustausch, Umschreiben von Tool-Aufrufen, SSE-Anomalien, Fehlerlecks und Risiken für Web3-Wallets. Website: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2026-03-30
25
lucija8320nhung4/HacxGPT

HacxGPT CLI — Open-Source-Befehlszeilenoberfläche für uneingeschränkten Zugriff auf KI-Modelle mit Multi-Provider-Unterstützung, Prompt-Injection-Forschungsfähigkeiten, konfigurierbaren API-Endpunkten, Termux/Linux/Windows-Kompatibilität und Rich Terminal-UI für Sicherheitsforschung und Red-Team-Bewertung

lucija8320nhung4
⭐ 924 Python 👤 lucija8320nhung4 User 🕐 Aktualisiert 2026-03-13 📅 Erstellt 2026-03-09
26
asamassekou10/ship-safe

Der unabhängige Sicherheitsagent für KI-geschriebene Software. Findet Probleme, untersucht, ob sie real sind, und zeigt Ihnen die Beweise. Deterministischer Kern, kein API-Schlüssel erforderlich, JSON- und SARIF-Ausgabe.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 Aktualisiert 2026-10-17 📅 Erstellt 2026-02-02
27
MarCmcbri1982/KawaiiGPT

KawaiiGPT — Open-Source LLM-Gateway mit Zugriff auf DeepSeek, Gemini und Kimi-K2 über rückwärts-entwickelte Pollinations-API ohne erforderliche API-Schlüssel, integrierte Prompt-Injection-Funktionen für Sicherheitsforschung, native Termux/Linux-Unterstützung und reiche Konsole-Oberfläche

MarCmcbri1982
⭐ 849 Python 👤 MarCmcbri1982 User 🕐 Aktualisiert 2026-03-13 📅 Erstellt 2026-03-09
28
slowmist/MCP-Security-Checklist

Eine umfassende Sicherheitscheckliste für MCP-basierte KI-Tools. Entwickelt von SlowMist zum Schutz von LLM-Plugin-Ökosystemen.

slowmist
⭐ 829 👤 slowmist Organization 🕐 Aktualisiert 2025-04-28 📅 Erstellt 2025-04-12
29
CallMeGuLab/dsh-purge-safe

Offizieller dsh-purge-DeepSeek-Harness-Jailbreak: Der Standard-Prompt ist auf chinesische Modelle zugeschnitten und basiert auf dem ursprünglichen Xiao Ma Jiang; vollständig offene Version ohne Bezahlschranke, einschließlich der kompletten Skill- und Wissensdatenbanken, kostenlos verfügbar. Jailbreak für jedes Modell – Prompts je nach Modell austauschen. Bitte mit einem Stern markieren und zu den Favoriten hinzufügen ⭐

CallMeGuLab
⭐ 729 JavaScript 👤 CallMeGuLab User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-11-07
30
AgentSafeLabs/safelabs-eval

Red-Team- und Evaluierungsframework für KI-Agenten, basierend auf einer von OWASP inspirierten ASI01–ASI10-Taxonomie

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 Aktualisiert 2026-11-06 📅 Erstellt 2026-05-25
31
tldrsec/prompt-injection-defenses

Jede praktische und vorgeschlagene Verteidigung gegen Prompt-Injection.

tldrsec
⭐ 696 👤 tldrsec User 🕐 Aktualisiert 2025-02-22 📅 Erstellt 2024-04-01
32
lalipa2003-arch/JailbreakHub

Ein Hub/Forschungsbereich zum Jailbreaken von LLMs und zum Durchbrechen ihrer Sicherheitsfilter.

lalipa2003-arch
⭐ 687 Roff 👤 lalipa2003-arch User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-09-27
33
cckuailong/awesome-gpt-security

Eine kuratierte Liste von großartigen Sicherheitstools, experimentellen Fällen oder anderen interessanten Dingen mit LLM oder GPT.

cckuailong
⭐ 678 👤 cckuailong User 🕐 Aktualisiert 2026-07-24 📅 Erstellt 2023-04-13
⭐ 677 👤 MemorySquidBlade User 🕐 Aktualisiert 2026-09-14 📅 Erstellt 2026-08-29
35
zacfrulloni/Prompt-Engineering-Holy-Grail

OpenClaw einrichten: https://remoteopenclaw.com/

zacfrulloni
⭐ 676 HTML 👤 zacfrulloni User 🕐 Aktualisiert 2026-03-22 📅 Erstellt 2024-10-31
36
samvallad33/vestige

Deterministisches Betriebssystem, Sicherheitskernel und kausales Nervensystem für KI-Agenten.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-01-25
37
qybaihe/mu

mu (μ): Bei den meisten Entscheidungen eines Programmieragenten geht es nicht um Code. mu überträgt 40 Arten von Ja-Nein-Entscheidungen an ein kleines Modell: weniger verschwendete Tokens, weniger automatische Genehmigungen und weniger Durchläufe, die auf halbem Weg abbrechen. Auf pi aufgebaut.

qybaihe
⭐ 615 TypeScript 👤 qybaihe User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-09-22
38
secureagentics/Adrian

Open-Source-Laufzeit-Sicherheitstool für KI-Agenten – überwacht und steuert KI-Agenten und erkennt böswillige Tool-Nutzung, Prompt-Injection und Richtlinienabweichungen in Echtzeit, bevor der Agent handelt.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 Aktualisiert 2026-10-21 📅 Erstellt 2026-05-11
39
KeyValueSoftwareSystems/agent-opfor

Open-Source-Gegner-Emulation für KI-Agenten und MCP-Server.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 Aktualisiert 2026-11-03 📅 Erstellt 2026-04-06
40
PrismorSec/prismor

Self-hosted Control Plane zur Laufzeit für KI-Agenten. Überwachen, mit menschlicher Freigabe (HITL) genehmigen oder bösartige Tool-Aufrufe blockieren, bevor sie ausgeführt werden – zum Schutz vor dem Abfluss von Geheimnissen, Prompt-Injection, Angriffen auf die Lieferkette und weiteren Risiken. Alles über ein lokales Dashboard. Agentenunabhängig (Claude, Codex, LangChain usw.).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-20
41
haizelabs/llama3-jailbreak

Ein trivialer programmatischer Llama 3 Jailbreak. Entschuldigung Zuck!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 Aktualisiert 2025-01-26 📅 Erstellt 2024-04-20
42
riseandignite/mcp-shield

Sicherheits-Scanner für MCP-Server

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 Aktualisiert 2025-04-26 📅 Erstellt 2025-04-15
43
graygnatconsole/mcp-audit-tool

🛡️ CLI für Sicherheitsaudits von Model-Context-Protocol-Servern (MCP) — durchsucht KI-Agent-Konfigurationen nach Tool-Poisoning, Rug Pulls, fest codierten Geheimnissen, Command Injection und Risiken in der Lieferkette. Reines Python, bereit für SARIF und CI.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 Aktualisiert 2026-10-24 📅 Erstellt 2026-09-26
44
liu00222/Open-Prompt-Injection

Dieses Repository bietet einen Benchmark für Prompt-Injection-Angriffe und -Abwehrmaßnahmen bei LLMs

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 Aktualisiert 2026-09-27 📅 Erstellt 2023-10-19

Häufig gestellte Fragen

1

Welches ist das beliebteste #prompt-injection-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#prompt-injection-Projekt auf GitHub ist ifixai-ai/iFixAi mit 46,592 Sternen. Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.

2

Welche Programmiersprachen werden in #prompt-injection-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #prompt-injection-Projekten auf GitHub sind Python, TypeScript, HTML, JavaScript die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #prompt-injection-Repositories berechnet?

Wir verfolgen 45 aktive Open-Source-Repositories, die mit #prompt-injection getaggt sind (500+ Sterne), mit insgesamt 148,037 Sternen und durchschnittlich 3,289 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.