#prompt-injection リポジトリ
#prompt-injectionのタグが付いた、GitHub上の45件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は148,037個で、プロジェクトあたりの平均は3,289個です。このトピックをリードしているのは、46,592個のスターを獲得しているifixai-ai/iFixAiです。
リポジトリ合計44件
AIエージェントの独立監査。人間またはエージェント自身が実行し、AIエージェント経済における最も重要な問いに答えます。そのエージェントは本来の役割を果たしているか?iFixAiを使えば、120秒以内にその答えを得ることができます。
AIエージェントスキル向けセキュリティスキャナー。Claude Code、Codex、MCPスキルをインストールする前に、脆弱性、悪意のあるパターン、セキュリティリスク、プロンプトインジェクション、データ流出、サプライチェーンリスクを検出します。
dsh-purge Community · DeepSeek Harnessのコミュニティ保守版:ホスト環境との互換性、状態診断、プロンプト管理、アップデート、ローカルバックアップとロールバックに対応。小杨 / YuJunZhiXueによるdsh-purgeをベースにしています。
Agent Scan、Skills Scan、MCP Scan、AI Infra Scan、LLMの脱獄評価を通じてAIエコシステムを保護する、フルスタックのAIレッドチーム・プラットフォーム。
Superagentは、AIアプリケーションをプロンプトインジェクション、データ漏洩、有害な出力から保護します。安全対策をアプリに直接組み込み、お客様にコンプライアンスを証明しましょう。
ChatGPT Jailbreaks、GPTアシスタントプロンプト漏洩、GPTsプロンプトインジェクション、LLMプロンプトセキュリティ、スーパープロンプト、プロンプトハック、プロンプトセキュリティ、AIプロンプトエンジニアリング、敵対的機械学習。
AI Red Teaming トレーニング実施のためのAI Red Teamingプレイグラウンドラボ(インフラストラクチャを含む)。
AI Safety HOT:AI安全に関するニュース、論文、インシデントを毎日まとめてチェック。ジェイルブレイク、プロンプトインジェクション、アライメント、評価、ガバナンスを網羅。ウェブサイト、日刊ダイジェスト、RSS、MCPに対応。
AIエージェント向けのオープンソースのウイルス対策ソフトとファイアウォール:実行時に、リスクの高いツール、秘密情報へのアクセス、プロンプトインジェクション、悪意のあるパッケージ、MCPサーバー、プラグイン、スキルをブロックします。
MCPセキュリティおよびエージェントの出口制御のためのオープンソースAIエージェントファイアウォール。仲介されたHTTP、MCP、A2A、およびWebSocketトラフィックをスキャンして、データ流出、SSRF、プロンプトインジェクションを検出し、仲介者によって署名されたアクションレシートを発行します。これは、エージェントの外部から検証可能な監査証拠となります。
🔍 LangKit: 大規模言語モデル(LLM)を監視するためのオープンソースツールキットです。📚 プロンプトと応答からシグナルを抽出し、安全性とセキュリティを確保します。🛡️ 機能には、テキスト品質、関連性メトリクス、感情分析が含まれます。📊 LLMのオブザーバビリティのための包括的なツールです。👀
オープンソースのローカルファーストPRスキャナーで、マージ前にデッドコード、セキュリティバグ、シークレット、品質回帰、AIコードのミスを検出します。初めての方は https://duriantaco.github.io/skylos/repo-map/ を参照してください。
AI APIリレーおよびLLMプロキシ向けのローカルセキュリティ監査。プロンプトインジェクション、モデルのすり替え、ツール呼び出しの書き換え、SSEの異常、エラー情報の漏えい、Web3ウォレットのリスクを検出します。ウェブサイト:https://apirelayaudit.com
HacxGPT CLI — 制限のないAIモデルアクセスのためのオープンソースコマンドラインインターフェース。多プロバイダサポート、プロンプトインジェクション研究機能、設定可能なAPIエンドポイント、Termux/Linux/Windows互換性、およびセキュリティ研究とレッドチーム評価のためのリッチターミナルUI
AIが書いたソフトウェアのための独立系セキュリティエージェント。問題を発見し、それが本物かどうかを調査し、証拠を提示します。決定論的なコア、APIキー不要、JSONおよびSARIF出力に対応。
KawaiiGPT — DeepSeek、Gemini、Kimi-K2にアクセスするオープンソースLLMゲートウェイ、リバースエンジニアリングされたPollinations API経由でAPIキー不要、セキュリティ研究のための組み込みプロンプトインジェクション機能、Termux/Linuxネイティブサポート、リッチコンソールインターフェース
MCPベースのAIツール向けの包括的なセキュリティチェックリスト。SlowMistによって構築され、LLMプラグインエコシステムを保護します。
公式 dsh-purge DeepSeek Harness 脱獄版:デフォルトのプロンプトは中国系モデル向けで、元の Xiao Ma Jiang をベースにした完全オープン版です。ペイウォールはなく、スキルライブラリと知識ベースをすべて収録し、無料公開しています。すべてのモデル向けの脱獄 — モデルごとにプロンプトを切り替えます。スター登録・お気に入り登録をお願いします ⭐
LLMまたはGPTを使用した、Awesomeなセキュリティツール、実験的なケース、その他の興味深いもののキュレーションされたリスト。
mu(μ):コーディングエージェントが下す判断の大半は、コードに関するものではありません。muは40種類の二択判断を小型モデルに任せます。無駄なトークンを減らし、自動承認を減らし、途中で止まる実行を減らします。piを基盤に構築。
オープンソースのAIエージェント向けランタイムセキュリティツール。AIエージェントを監視・制御し、悪意のあるツール使用、プロンプトインジェクション、ポリシーの逸脱をエージェントが実行する前にリアルタイムで検知します。
AIエージェント向けのセルフホスト型ランタイム制御プレーン。ローカルダッシュボードから、ツール呼び出しの実行前に監視、人間による承認(HITL)、または不正な呼び出しのブロックが可能です。秘密情報の漏えい、プロンプトインジェクション、サプライチェーン攻撃などを防ぎます。エージェントを問わず利用可能(Claude、Codex、LangChain など)。
🛡️ Model Context Protocol(MCP)サーバー向けのセキュリティ監査CLI。AIエージェントの設定をスキャンし、ツールポイズニング、ラグプル、ハードコードされたシークレット、コマンドインジェクション、サプライチェーンのリスクを検出します。純粋なPython製で、SARIFとCIに対応。
よくある質問
GitHubで最も人気のある#prompt-injectionリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#prompt-injectionプロジェクトは、46,592個のスターを獲得しているifixai-ai/iFixAiです。AIエージェントの独立監査。人間またはエージェント自身が実行し、AIエージェント経済における最も重要な問いに答えます。そのエージェントは本来の役割を果たしているか?iFixAiを使えば、120秒以内にその答えを得ることができます。
#prompt-injectionリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#prompt-injectionプロジェクトでは、Python, TypeScript, HTML, JavaScriptが最も一般的なプログラミング言語です。
#prompt-injectionリポジトリのランキングはどのように算出されていますか?
#prompt-injectionのタグが付いた45件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は148,037個で、リポジトリあたりの平均は3,289個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。