#llm-security リポジトリ
#llm-securityのタグが付いた、GitHub上の65件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は311,462個で、プロジェクトあたりの平均は4,791個です。このトピックをリードしているのは、76,872個のスターを獲得しているusestrix/strixです。
リポジトリ合計65件
AIエージェントの独立監査。人間またはエージェント自身が実行し、AIエージェント経済における最も重要な問いに答えます。そのエージェントは本来の役割を果たしているか?iFixAiを使えば、120秒以内にその答えを得ることができます。
Agent Scan、Skills Scan、MCP Scan、AI Infra Scan、LLMの脱獄評価を通じてAIエコシステムを保護する、フルスタックのAIレッドチーム・プラットフォーム。
NeMo Guardrailsは、LLMやエージェント型アプリケーションにプログラム可能な安全性・セキュリティ制御を適用するためのオープンソースライブラリです。
🛡️ BLA(bla-agents / Blind LLM Agents)— JS/TS、Electron ASAR、WASM、Python、ネイティブバイナリ、SQLite、GGUF/Safetensors、Android DEXをAIリバースエンジニアリングエージェント(REA)から保護する、オープンソースのBlue Defense MCPサーバーおよびCLI。
データセットは、Reddit、Discord、ウェブサイト、オープンソースデータセット(1,405の脱獄プロンプトを含む)からの15,140のChatGPTプロンプトで構成されています。
AI Safety HOT:AI安全に関するニュース、論文、インシデントを毎日まとめてチェック。ジェイルブレイク、プロンプトインジェクション、アライメント、評価、ガバナンスを網羅。ウェブサイト、日刊ダイジェスト、RSS、MCPに対応。
このリポジトリには、Google、Nvidia、Meta、Microsoft、Fortune 500企業などのトップ企業で出題されるLLM(大規模言語モデル)の面接問題が含まれています。
自動化されたLLMファジングのための強力なツールです。開発者やセキュリティ研究者がLLM APIの潜在的なジェイルブレークを特定し、軽減するのを支援するように設計されています。
Model Context Protocol (MCP) を介して、大規模言語モデル (LLM) が外部ツールと対話できるようにする CLI ホストアプリケーション。
大規模言語モデルアプリのOWASP Top 10(GenAIセキュリティプロジェクトの一部)
すべての検出結果をエクスプロイトで検証する、オープンソースのAIペネトレーションテストエージェント。WebアプリとAPIを対象に、CVSSスコア付きPDFレポートを生成する自律型22フェーズのペネトレーションテストを実行します。セルフホスト、自分のLLMの利用、またはOllamaによる完全ローカル実行に対応しています。
🛡️ 無料のオープンソースAI搭載セキュリティターミナル兼脆弱性スキャナー(CVE、SBOM)。SSH、SFTP、RDP、VNC、シリアル接続に対応し、12種類以上の自律型AIエージェント(DeepSeek、OpenAI)で、セキュリティワークフロー、CTF、DevSecOpsを自動化します。クロスプラットフォーム対応、Web UI搭載。
オープンソースの自律型AIペネトレーションテスト。Web、API、クラウド、Active Directory、Kubernetes、CI/CD、AI/LLM(OWASP LLM Top 10)を対象とする50の専門エージェントを搭載し、証拠検証済みの攻撃経路グラフを提供します。プライバシーゲートウェイの背後にあるローカルLLM上で動作します。GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana、Splunkと統合できます。
Hermes Agent、専門的な推論スキル、マルチモデルLLMオーケストレーションによって駆動される、自律型オフェンシブセキュリティ、バグバウンティ、レッドチーム向けエージェントフレームワーク。
AIファーストのセキュリティスキャナー。v2026.7の新機能:Claude Codeの侵害検出 — クローン前に.claude/フック、権限、スキルを精査 — さらに常時稼働のAI攻撃シグネチャスキャナーとネイティブのRustおよびPHPルール。また:medusa scan --gitで任意のリポジトリを精査、medusa secrets scanで漏洩したAPIキーをスキャン。40,000以上のパターン、セットアップ不要。
MCPセキュリティおよびエージェントの出口制御のためのオープンソースAIエージェントファイアウォール。仲介されたHTTP、MCP、A2A、およびWebSocketトラフィックをスキャンして、データ流出、SSRF、プロンプトインジェクションを検出し、仲介者によって署名されたアクションレシートを発行します。これは、エージェントの外部から検証可能な監査証拠となります。
プライバシーを最優先する、LLMおよびRAGパイプライン向けのガードレール。SurrogateShieldは、敵対的攻撃から保護しながら、機密性の高い個人識別情報(PII)をリアルタイムで検出、マスキング、復元します。
AI APIリレーおよびLLMプロキシ向けのローカルセキュリティ監査。プロンプトインジェクション、モデルのすり替え、ツール呼び出しの書き換え、SSEの異常、エラー情報の漏えい、Web3ウォレットのリスクを検出します。ウェブサイト:https://apirelayaudit.com
AIが書いたソフトウェアのための独立系セキュリティエージェント。問題を発見し、それが本物かどうかを調査し、証拠を提示します。決定論的なコア、APIキー不要、JSONおよびSARIF出力に対応。
組織向けのセルフホスト型AI APIおよびMCPゲートウェイ:SSOとRBAC、MCPツール呼び出しにおけるユーザー単位のID、個人情報(PII)のマスキングとツール呼び出しガード、レート制限、予算管理、コスト計上、監査ログ。
エージェントにマシンを与えよう。ただし、あなたのマシンではありません。各 AI コーディングエージェントには、root、Docker、systemd を備えた専用の隔離マシンが割り当てられ、アクティブ防御が脅威を自動的に検知して阻止します。
AIアプリおよびエージェント向けのランタイムセキュリティ:プロンプトインジェクション検知、ツール呼び出しの認可、機密データの編集(マスキング)、ボット保護、レート制限を提供。JS/TSコードに組み込むだけで利用可能です。
よくある質問
GitHubで最も人気のある#llm-securityリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#llm-securityプロジェクトは、76,872個のスターを獲得しているusestrix/strixです。アプリの脆弱性を発見して修正するためのオープンソースAIペネトレーションテストツール。
#llm-securityリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#llm-securityプロジェクトでは、Python, Go, Jupyter Notebook, TypeScriptが最も一般的なプログラミング言語です。
#llm-securityリポジトリのランキングはどのように算出されていますか?
#llm-securityのタグが付いた65件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は311,462個で、リポジトリあたりの平均は4,791個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。