Git Stars Git Stars

#llm-security リポジトリ

65
リポジトリ総数
311,462
合計スター数
4,791
リポジトリあたりの平均スター数

リポジトリ合計65件

51
cckuailong/awesome-gpt-security

LLMまたはGPTを使用した、Awesomeなセキュリティツール、実験的なケース、その他の興味深いもののキュレーションされたリスト。

cckuailong
⭐ 678 👤 cckuailong User 🕐 更新日時 2026-07-24 📅 作成日 2023-04-13
⭐ 664 👤 pashov User 🕐 更新日時 2026-11-13 📅 作成日 2026-03-12
53
samvallad33/vestige

AIエージェントのための決定論的オペレーティングシステム、安全カーネル、因果神経系。

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 更新日時 2026-11-20 📅 作成日 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: 言語モデルのジェイルブレイクのためのオープンな堅牢性ベンチマーク [NeurIPS 2024 データセット&ベンチマークトラック]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 更新日時 2025-04-04 📅 作成日 2023-11-13
55
secureagentics/Adrian

オープンソースのAIエージェント向けランタイムセキュリティツール。AIエージェントを監視・制御し、悪意のあるツール使用、プロンプトインジェクション、ポリシーの逸脱をエージェントが実行する前にリアルタイムで検知します。

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 更新日時 2026-10-21 📅 作成日 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

AIエージェントおよびMCPサーバー向けのオープンソース型攻撃者エミュレーション。

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 更新日時 2026-11-03 📅 作成日 2026-04-06
57
PrismorSec/prismor

AIエージェント向けのセルフホスト型ランタイム制御プレーン。ローカルダッシュボードから、ツール呼び出しの実行前に監視、人間による承認(HITL)、または不正な呼び出しのブロックが可能です。秘密情報の漏えい、プロンプトインジェクション、サプライチェーン攻撃などを防ぎます。エージェントを問わず利用可能(Claude、Codex、LangChain など)。

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-02-20
58
General-Analysis/GA

AIモデルをより安全にするためのジェイルブレイク技術の百科事典。

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 更新日時 2025-05-26 📅 作成日 2025-01-18
59
chawins/llm-sp

LLMのセキュリティとプライバシーに関する論文とリソース 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 更新日時 2025-06-08 📅 作成日 2023-11-15
60
haizelabs/llama3-jailbreak

些細なプログラムによる Llama 3 の脱獄です。Zuck、ごめん!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 更新日時 2025-01-26 📅 作成日 2024-04-20
61
jplhughes/bon-jailbreaking

Best-of-Nジェイルブレイクのためのコードリリース

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 更新日時 2025-02-05 📅 作成日 2024-10-11
62
riseandignite/mcp-shield

MCPサーバー用セキュリティスキャナー

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 更新日時 2025-04-26 📅 作成日 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ Model Context Protocol(MCP)サーバー向けのセキュリティ監査CLI。AIエージェントの設定をスキャンし、ツールポイズニング、ラグプル、ハードコードされたシークレット、コマンドインジェクション、サプライチェーンのリスクを検出します。純粋なPython製で、SARIFとCIに対応。

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 更新日時 2026-10-24 📅 作成日 2026-09-26
64
liu00222/Open-Prompt-Injection

このリポジトリは、LLMにおけるプロンプトインジェクション攻撃と防御のベンチマークを提供します

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 更新日時 2026-09-27 📅 作成日 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

本書では、AIペネトレーションテスト、LLMレッドチーミング、自律型攻撃エージェント、脆弱性発見の分野におけるオープンソースプロジェクト、学術論文、能力ベンチマーク、商用ソリューション(国際および中国)を整理・紹介します。研究者、セキュリティエンジニア、企業の意思決定者が、これらの分野の全体像を迅速に把握できるようにすることを目的としています。

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 更新日時 2026-11-19 📅 作成日 2026-06-11