Git Stars Git Stars

#llm-security リポジトリ

#llm-securityのタグが付いた、GitHub上の65件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は311,462個で、プロジェクトあたりの平均は4,791個です。このトピックをリードしているのは、76,872個のスターを獲得しているusestrix/strixです。

65
リポジトリ総数
311,462
合計スター数
4,791
リポジトリあたりの平均スター数

リポジトリ合計65件

1
usestrix/strix

アプリの脆弱性を発見して修正するためのオープンソースAIペネトレーションテストツール。

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 更新日時 2026-11-19 📅 作成日 2025-08-05
2
Lordog/dive-into-llms

「LLMの世界へ飛び込もう:大規模言語モデルを実践する」プログラミング演習チュートリアルシリーズ

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 更新日時 2025-10-10 📅 作成日 2024-04-08
3
ifixai-ai/iFixAi

AIエージェントの独立監査。人間またはエージェント自身が実行し、AIエージェント経済における最も重要な問いに答えます。そのエージェントは本来の役割を果たしているか?iFixAiを使えば、120秒以内にその答えを得ることができます。

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-04-27
4
NVIDIA/garak

LLM脆弱性スキャナー

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 更新日時 2026-11-18 📅 作成日 2023-05-10
5
Tencent/AI-Infra-Guard

Agent Scan、Skills Scan、MCP Scan、AI Infra Scan、LLMの脱獄評価を通じてAIエコシステムを保護する、フルスタックのAIレッドチーム・プラットフォーム。

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 更新日時 2026-11-20 📅 作成日 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrailsは、LLMやエージェント型アプリケーションにプログラム可能な安全性・セキュリティ制御を適用するためのオープンソースライブラリです。

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 更新日時 2026-11-19 📅 作成日 2023-04-18
7
qybaihe/bla

🛡️ BLA(bla-agents / Blind LLM Agents)— JS/TS、Electron ASAR、WASM、Python、ネイティブバイナリ、SQLite、GGUF/Safetensors、Android DEXをAIリバースエンジニアリングエージェント(REA)から保護する、オープンソースのBlue Defense MCPサーバーおよびCLI。

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-25
8
awarexone/Agentic-Bug-Hunter

サブスクリプションの有無にかかわらず利用できる、AI搭載のバグバウンティ・ハンティングツールキット。

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 更新日時 2026-11-12 📅 作成日 2026-03-08
9
Giskard-AI/giskard-oss

🐢 LLMエージェントのためのオープンソース評価・テストライブラリ

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 更新日時 2026-11-20 📅 作成日 2022-03-06
10
0xeb/TheBigPromptLibrary

プロンプト、システムプロンプト、LLMインストラクションのコレクション

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 更新日時 2026-11-10 📅 作成日 2023-11-24
11
nolabs-ai/nono

エージェントのランタイムセキュリティ — ゼロトラスト、設定不要、レイテンシゼロのエージェントサンドボックス化

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-01-31
12
meta-llama/PurpleLlama

LLMセキュリティを評価および改善するためのツールのセット。

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 更新日時 2026-11-20 📅 作成日 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

Web攻撃チートシート

riramar
⭐ 4,438 👤 riramar User 🕐 更新日時 2026-09-04 📅 作成日 2020-01-11
14
llm-attacks/llm-attacks

アラインメントされた言語モデルに対する汎用的かつ転移可能な攻撃

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 更新日時 2024-08-02 📅 作成日 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

ストーリーとモデルを構築するための科学的方法、プロセス、アルゴリズム、およびシステムのコレクション。

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 更新日時 2026-10-28 📅 作成日 2022-03-29
16
CyberStrikeus/CyberStrike

自動ペネトレーションテストのための、AIを活用したオープンソースのオフェンシブセキュリティ・ハーネス。

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-02-14
17
verazuo/jailbreak_llms

データセットは、Reddit、Discord、ウェブサイト、オープンソースデータセット(1,405の脱獄プロンプトを含む)からの15,140のChatGPTプロンプトで構成されています。

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 更新日時 2024-12-24 📅 作成日 2023-08-01
18
protectai/llm-guard

LLMインタラクションのためのセキュリティツールキット

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 更新日時 2025-12-15 📅 作成日 2023-07-27
19
Acmesec/PromptJailbreakManual

プロンプト脱獄マニュアル

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 更新日時 2024-12-17 📅 作成日 2024-11-25
20
beelzebub-labs/beelzebub

セキュアなローコード偽装ランタイムフレームワーク。システム仮想化のためのAIを活用。

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 更新日時 2026-11-20 📅 作成日 2022-05-08
21
uber/ADR

ADRは、可観測性、セキュリティベンチマーク、脅威検出を通じて、エンタープライズAIエージェントを保護します。Uberで導入されています。

uber
⭐ 2,143 Python 👤 uber Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-04-19
22
greshake/llm-security

アプリ統合LLMを破壊する新しい方法

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 更新日時 2025-07-17 📅 作成日 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT:AI安全に関するニュース、論文、インシデントを毎日まとめてチェック。ジェイルブレイク、プロンプトインジェクション、アライメント、評価、ガバナンスを網羅。ウェブサイト、日刊ダイジェスト、RSS、MCPに対応。

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-01
24
msoedov/agentic_security

Agentic LLM 脆弱性スキャナー / AI レッドチーミングキット 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 更新日時 2026-11-19 📅 作成日 2024-04-11
25
llmgenai/LLMInterviewQuestions

このリポジトリには、Google、Nvidia、Meta、Microsoft、Fortune 500企業などのトップ企業で出題されるLLM(大規模言語モデル)の面接問題が含まれています。

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 更新日時 2025-02-12 📅 作成日 2024-12-26
26
cyberark/FuzzyAI

自動化されたLLMファジングのための強力なツールです。開発者やセキュリティ研究者がLLM APIの潜在的なジェイルブレークを特定し、軽減するのを支援するように設計されています。

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 更新日時 2026-02-06 📅 作成日 2024-12-03
27
mark3labs/mcphost

Model Context Protocol (MCP) を介して、大規模言語モデル (LLM) が外部ツールと対話できるようにする CLI ホストアプリケーション。

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 更新日時 2026-02-26 📅 作成日 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

大規模言語モデルアプリのOWASP Top 10(GenAIセキュリティプロジェクトの一部)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 更新日時 2026-08-05 📅 作成日 2023-05-16
29
xalgorix/xalgorix

すべての検出結果をエクスプロイトで検証する、オープンソースのAIペネトレーションテストエージェント。WebアプリとAPIを対象に、CVSSスコア付きPDFレポートを生成する自律型22フェーズのペネトレーションテストを実行します。セルフホスト、自分のLLMの利用、またはOllamaによる完全ローカル実行に対応しています。

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 更新日時 2026-11-01 📅 作成日 2025-04-16
31
JoySafety/JoySafety

ジョイセーフティ

JoySafety
⭐ 1,357 Java 👤 JoySafety Organization 🕐 更新日時 2026-05-11 📅 作成日 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ 無料のオープンソースAI搭載セキュリティターミナル兼脆弱性スキャナー(CVE、SBOM)。SSH、SFTP、RDP、VNC、シリアル接続に対応し、12種類以上の自律型AIエージェント(DeepSeek、OpenAI)で、セキュリティワークフロー、CTF、DevSecOpsを自動化します。クロスプラットフォーム対応、Web UI搭載。

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 更新日時 2026-11-04 📅 作成日 2026-09-10
33
ASCIT31/Dark-Moon

オープンソースの自律型AIペネトレーションテスト。Web、API、クラウド、Active Directory、Kubernetes、CI/CD、AI/LLM(OWASP LLM Top 10)を対象とする50の専門エージェントを搭載し、証拠検証済みの攻撃経路グラフを提供します。プライバシーゲートウェイの背後にあるローカルLLM上で動作します。GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana、Splunkと統合できます。

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 更新日時 2026-11-21 📅 作成日 2024-11-26
34
splx-ai/agentic-radar

LLM エージェントワークフローのためのセキュリティスキャナー

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 更新日時 2026-11-13 📅 作成日 2025-02-12
35
Zyrexnn/Cybermes

Hermes Agent、専門的な推論スキル、マルチモデルLLMオーケストレーションによって駆動される、自律型オフェンシブセキュリティ、バグバウンティ、レッドチーム向けエージェントフレームワーク。

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 更新日時 2026-11-16 📅 作成日 2026-08-19
36
Pantheon-Security/medusa

AIファーストのセキュリティスキャナー。v2026.7の新機能:Claude Codeの侵害検出 — クローン前に.claude/フック、権限、スキルを精査 — さらに常時稼働のAI攻撃シグネチャスキャナーとネイティブのRustおよびPHPルール。また:medusa scan --gitで任意のリポジトリを精査、medusa secrets scanで漏洩したAPIキーをスキャン。40,000以上のパターン、セットアップ不要。

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 更新日時 2026-08-10 📅 作成日 2025-11-15
37
pipelab-org/pipelock

MCPセキュリティおよびエージェントの出口制御のためのオープンソースAIエージェントファイアウォール。仲介されたHTTP、MCP、A2A、およびWebSocketトラフィックをスキャンして、データ流出、SSRF、プロンプトインジェクションを検出し、仲介者によって署名されたアクションレシートを発行します。これは、エージェントの外部から検証可能な監査証拠となります。

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-02-08
38
wang-rui/phishguard-scaffold

LLamaベースのモデリングによるソーシャルメディア上のフィッシング攻撃の共同セマンティック検出と拡散制御

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 更新日時 2026-02-15 📅 作成日 2025-09-08
39
sherwinvishesh/SurrogateShield

プライバシーを最優先する、LLMおよびRAGパイプライン向けのガードレール。SurrogateShieldは、敵対的攻撃から保護しながら、機密性の高い個人識別情報(PII)をリアルタイムで検出、マスキング、復元します。

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 更新日時 2026-10-16 📅 作成日 2026-05-13
40
openpcc/openpcc

検証可能な非公開AI推論のためのオープンソースフレームワーク

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 更新日時 2026-01-08 📅 作成日 2025-11-05
41
EasyJailbreak/EasyJailbreak

敵対的な脱獄プロンプトを生成するための使いやすいPythonフレームワーク。

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 更新日時 2026-09-01 📅 作成日 2024-01-31
42
toby-bridges/api-relay-audit

AI APIリレーおよびLLMプロキシ向けのローカルセキュリティ監査。プロンプトインジェクション、モデルのすり替え、ツール呼び出しの書き換え、SSEの異常、エラー情報の漏えい、Web3ウォレットのリスクを検出します。ウェブサイト:https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 更新日時 2026-11-18 📅 作成日 2026-03-30
43
asamassekou10/ship-safe

AIが書いたソフトウェアのための独立系セキュリティエージェント。問題を発見し、それが本物かどうかを調査し、証拠を提示します。決定論的なコア、APIキー不要、JSONおよびSARIF出力に対応。

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 更新日時 2026-10-17 📅 作成日 2026-02-02
44
OWASP/www-project-ai-testing-guide

OWASP財団ウェブリポジトリ

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 更新日時 2026-06-01 📅 作成日 2025-06-10
45
ThinkWatchProject/ThinkWatch

組織向けのセルフホスト型AI APIおよびMCPゲートウェイ:SSOとRBAC、MCPツール呼び出しにおけるユーザー単位のID、個人情報(PII)のマスキングとツール呼び出しガード、レート制限、予算管理、コスト計上、監査ログ。

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-04-02
46
coipond/coi

エージェントにマシンを与えよう。ただし、あなたのマシンではありません。各 AI コーディングエージェントには、root、Docker、systemd を備えた専用の隔離マシンが割り当てられ、アクティブ防御が脅威を自動的に検知して阻止します。

coipond
⭐ 790 Go 👤 coipond Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-01-07
47
Cygnux-Labs/Tracekit

AIエージェントの改ざん検知可能なトレース、ポリシーゲート、相互チェック:エージェントが何をしたのか、そしてその理由を確認できます。

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-09-26
48
l0gicx/ai-model-bypass

AIモデルの制限を回避するための、プロンプトの悪用やロールプレイの技術を利用する。

l0gicx
⭐ 722 👤 l0gicx User 🕐 更新日時 2025-10-04 📅 作成日 2025-05-21
49
AgentSafeLabs/safelabs-eval

OWASPに着想を得たASI01~ASI10の分類体系に基づく、AIエージェントのレッドチームテストおよび評価フレームワーク

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 更新日時 2026-11-06 📅 作成日 2026-05-25
50
arcjet/arcjet-js

AIアプリおよびエージェント向けのランタイムセキュリティ:プロンプトインジェクション検知、ツール呼び出しの認可、機密データの編集(マスキング)、ボット保護、レート制限を提供。JS/TSコードに組み込むだけで利用可能です。

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 更新日時 2026-11-19 📅 作成日 2023-11-30

よくある質問

1

GitHubで最も人気のある#llm-securityリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#llm-securityプロジェクトは、76,872個のスターを獲得しているusestrix/strixです。アプリの脆弱性を発見して修正するためのオープンソースAIペネトレーションテストツール。

2

#llm-securityリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#llm-securityプロジェクトでは、Python, Go, Jupyter Notebook, TypeScriptが最も一般的なプログラミング言語です。

3

#llm-securityリポジトリのランキングはどのように算出されていますか?

#llm-securityのタグが付いた65件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は311,462個で、リポジトリあたりの平均は4,791個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。