#prompt-injection Repositories
Entdecke 45 aktive Open-Source-GitHub-Repositories, die mit #prompt-injection getaggt sind und insgesamt 148,037 Sterne gesammelt haben (durchschnittlich 3,289 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ifixai-ai/iFixAi mit 46,592 Sternen.
Insgesamt 44 Repositories
Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.
Sicherheitsscanner für KI-Agenten-Fähigkeiten. Erkennen Sie Schwachstellen, bösartige Muster, Sicherheitsrisiken, Prompt-Injection, Datenexfiltration und Lieferkettenrisiken in Claude Code-, Codex- und MCP-Fähigkeiten, bevor Sie sie installieren.
dsh-purge Community · Community-gepflegte Version von DeepSeek Harness: Host-Kompatibilität, Statusdiagnose, Prompt-Verwaltung, Updates sowie lokale Sicherung und Wiederherstellung. Basiert auf dsh-purge von Xiaoyang / YuJunZhiXue.
Eine Full-Stack-Plattform für KI-Red-Teaming, die KI-Ökosysteme durch Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und die Bewertung von LLM-Jailbreaks schützt.
Superagent schützt Ihre KI-Anwendungen vor Prompt-Injections, Datenlecks und schädlichen Ausgaben. Betten Sie die Sicherheit direkt in Ihre App ein und beweisen Sie Ihren Kunden die Einhaltung der Vorschriften.
ChatGPT Jailbreaks, GPT Assistenten Prompt Leaks, GPTs Prompt Injection, LLM Prompt Sicherheit, Super Prompts, Prompt Hack, Prompt Sicherheit, KI Prompt Engineering, Adversarial Machine Learning.
ADR sichert Unternehmens-KI-Agenten durch Beobachtbarkeit, Sicherheits-Benchmarking und Bedrohungserkennung. Bei Uber eingesetzt.
KI-Red-Teaming-Playground-Labs zum Ausführen von KI-Red-Teaming-Schulungen einschließlich Infrastruktur.
AI Safety HOT: tägliche Nachrichten, Fachartikel und Vorfälle zur KI-Sicherheit an einem Ort — Jailbreaks, Prompt-Injection, Alignment, Evaluationen und Governance. Website, tägliche Zusammenfassung, RSS und MCP.
Open-Source-Antivirus und Firewall für KI-Agenten: Blockiert zur Laufzeit riskante Tools, den Zugriff auf Geheimnisse, Prompt-Injection, schädliche Pakete, MCP-Server, Plugins und Skills.
Eine dynamische Umgebung zur Bewertung von Angriffen und Verteidigungen für LLM-Agenten.
Open-Source-KI-Agenten-Firewall für MCP-Sicherheit und Agenten-Egress. Scannt vermittelten HTTP-, MCP-, A2A- und WebSocket-Verkehr auf Exfiltration, SSRF und Prompt-Injection und stellt vom Mediator signierte Aktionsbelege aus: verifizierbare Audit-Nachweise von außerhalb des Agenten.
Experimentierprojekt zum Umgehen von Schutzmechanismen für GPT 6.0 und WorkBuddy V4.1 Flash
🔍 LangKit: Ein quelloffenes Toolkit zur Überwachung von Large Language Models (LLMs). 📚 Extrahiert Signale aus Prompts & Antworten und gewährleistet Sicherheit. 🛡️ Zu den Funktionen gehören Textqualität, Relevanzmetriken und Stimmungsanalyse. 📊 Ein umfassendes Tool für die LLM-Beobachtbarkeit. 👀
Open-Source-PR-Scanner mit lokalem Fokus, der toten Code, Sicherheitsfehler, Geheimnisse, Qualitätsregressionen und KI-Codefehler vor dem Merge findet. Für Neulinge siehe https://duriantaco.github.io/skylos/repo-map/
Dies ist ein Repository, das darauf abzielt, Updates zum Status des Jailbreaks des OpenAI GPT-Sprachmodells bereitzustellen.
Lokales Sicherheitsaudit für KI-API-Relays und LLM-Proxys: Erkennt Prompt-Injection, Modellaustausch, Umschreiben von Tool-Aufrufen, SSE-Anomalien, Fehlerlecks und Risiken für Web3-Wallets. Website: https://apirelayaudit.com
HacxGPT CLI — Open-Source-Befehlszeilenoberfläche für uneingeschränkten Zugriff auf KI-Modelle mit Multi-Provider-Unterstützung, Prompt-Injection-Forschungsfähigkeiten, konfigurierbaren API-Endpunkten, Termux/Linux/Windows-Kompatibilität und Rich Terminal-UI für Sicherheitsforschung und Red-Team-Bewertung
Der unabhängige Sicherheitsagent für KI-geschriebene Software. Findet Probleme, untersucht, ob sie real sind, und zeigt Ihnen die Beweise. Deterministischer Kern, kein API-Schlüssel erforderlich, JSON- und SARIF-Ausgabe.
KawaiiGPT — Open-Source LLM-Gateway mit Zugriff auf DeepSeek, Gemini und Kimi-K2 über rückwärts-entwickelte Pollinations-API ohne erforderliche API-Schlüssel, integrierte Prompt-Injection-Funktionen für Sicherheitsforschung, native Termux/Linux-Unterstützung und reiche Konsole-Oberfläche
Eine umfassende Sicherheitscheckliste für MCP-basierte KI-Tools. Entwickelt von SlowMist zum Schutz von LLM-Plugin-Ökosystemen.
Offizieller dsh-purge-DeepSeek-Harness-Jailbreak: Der Standard-Prompt ist auf chinesische Modelle zugeschnitten und basiert auf dem ursprünglichen Xiao Ma Jiang; vollständig offene Version ohne Bezahlschranke, einschließlich der kompletten Skill- und Wissensdatenbanken, kostenlos verfügbar. Jailbreak für jedes Modell – Prompts je nach Modell austauschen. Bitte mit einem Stern markieren und zu den Favoriten hinzufügen ⭐
Red-Team- und Evaluierungsframework für KI-Agenten, basierend auf einer von OWASP inspirierten ASI01–ASI10-Taxonomie
Jede praktische und vorgeschlagene Verteidigung gegen Prompt-Injection.
Ein Hub/Forschungsbereich zum Jailbreaken von LLMs und zum Durchbrechen ihrer Sicherheitsfilter.
Eine kuratierte Liste von großartigen Sicherheitstools, experimentellen Fällen oder anderen interessanten Dingen mit LLM oder GPT.
Deterministisches Betriebssystem, Sicherheitskernel und kausales Nervensystem für KI-Agenten.
mu (μ): Bei den meisten Entscheidungen eines Programmieragenten geht es nicht um Code. mu überträgt 40 Arten von Ja-Nein-Entscheidungen an ein kleines Modell: weniger verschwendete Tokens, weniger automatische Genehmigungen und weniger Durchläufe, die auf halbem Weg abbrechen. Auf pi aufgebaut.
Open-Source-Laufzeit-Sicherheitstool für KI-Agenten – überwacht und steuert KI-Agenten und erkennt böswillige Tool-Nutzung, Prompt-Injection und Richtlinienabweichungen in Echtzeit, bevor der Agent handelt.
Self-hosted Control Plane zur Laufzeit für KI-Agenten. Überwachen, mit menschlicher Freigabe (HITL) genehmigen oder bösartige Tool-Aufrufe blockieren, bevor sie ausgeführt werden – zum Schutz vor dem Abfluss von Geheimnissen, Prompt-Injection, Angriffen auf die Lieferkette und weiteren Risiken. Alles über ein lokales Dashboard. Agentenunabhängig (Claude, Codex, LangChain usw.).
Ein trivialer programmatischer Llama 3 Jailbreak. Entschuldigung Zuck!
🛡️ CLI für Sicherheitsaudits von Model-Context-Protocol-Servern (MCP) — durchsucht KI-Agent-Konfigurationen nach Tool-Poisoning, Rug Pulls, fest codierten Geheimnissen, Command Injection und Risiken in der Lieferkette. Reines Python, bereit für SARIF und CI.
Dieses Repository bietet einen Benchmark für Prompt-Injection-Angriffe und -Abwehrmaßnahmen bei LLMs
Häufig gestellte Fragen
Welches ist das beliebteste #prompt-injection-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#prompt-injection-Projekt auf GitHub ist ifixai-ai/iFixAi mit 46,592 Sternen. Unabhängige Prüfung von KI-Agenten. Durchgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Ökonomie zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.
Welche Programmiersprachen werden in #prompt-injection-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #prompt-injection-Projekten auf GitHub sind Python, TypeScript, HTML, JavaScript die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #prompt-injection-Repositories berechnet?
Wir verfolgen 45 aktive Open-Source-Repositories, die mit #prompt-injection getaggt sind (500+ Sterne), mit insgesamt 148,037 Sternen und durchschnittlich 3,289 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.