Git Stars Git Stars

#llm-security 저장소

65
총 리포지토리
311,462
총 별점
4,791
리포지토리당 평균 스타 수

저장소 총 65개

51
cckuailong/awesome-gpt-security

LLM 또는 GPT를 활용한 훌륭한 보안 도구, 실험적 사례 또는 기타 흥미로운 것들에 대한 엄선된 목록입니다.

cckuailong
⭐ 678 👤 cckuailong User 🕐 업데이트됨 2026-07-24 📅 생성됨 2023-04-13
⭐ 664 👤 pashov User 🕐 업데이트됨 2026-11-13 📅 생성됨 2026-03-12
53
samvallad33/vestige

AI 에이전트를 위한 결정론적 운영체제, 안전 커널 및 인과 신경계.

samvallad33
⭐ 662 Rust 👤 samvallad33 User 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-01-25
54
JailbreakBench/jailbreakbench

JailbreakBench: 언어 모델 탈옥을 위한 개방형 견고성 벤치마크 [NeurIPS 2024 데이터셋 및 벤치마크 트랙]

JailbreakBench
⭐ 603 Python 👤 JailbreakBench Organization 🕐 업데이트됨 2025-04-04 📅 생성됨 2023-11-13
55
secureagentics/Adrian

오픈소스 런타임 AI 에이전트 보안 도구 - AI 에이전트를 모니터링하고 제어하며, 에이전트가 동작하기 전에 악의적인 도구 사용, 프롬프트 인젝션, 정책 이탈을 실시간으로 탐지합니다.

secureagentics
⭐ 597 Python 👤 secureagentics Organization 🕐 업데이트됨 2026-10-21 📅 생성됨 2026-05-11
56
KeyValueSoftwareSystems/agent-opfor

AI 에이전트 및 MCP 서버를 위한 오픈 소스 공격자 에뮬레이션.

KeyValueSoftwareSystems
⭐ 588 TypeScript 👤 KeyValueSoftwareSystems Organization 🕐 업데이트됨 2026-11-03 📅 생성됨 2026-04-06
57
PrismorSec/prismor

AI 에이전트를 위한 자체 호스팅 런타임 컨트롤 플레인입니다. 로컬 대시보드에서 도구 호출을 실행 전에 모니터링하고, 사람의 승인(HITL)을 거치거나 악의적인 호출을 차단할 수 있습니다. 이를 통해 비밀 정보 유출, 프롬프트 인젝션, 공급망 공격 등의 위험을 방지합니다. 에이전트 종류와 무관하게 사용 가능(Claude, Codex, LangChain 등).

PrismorSec
⭐ 585 Python 👤 PrismorSec Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-02-20
58
General-Analysis/GA

AI 모델을 더 안전하게 만들기 위한 탈옥 기술 백과사전.

General-Analysis
⭐ 583 Jupyter Notebook 👤 General-Analysis Organization 🕐 업데이트됨 2025-05-26 📅 생성됨 2025-01-18
59
chawins/llm-sp

LLM의 보안 및 개인 정보 보호 관련 논문 및 자료 🤖

chawins
⭐ 579 Python 👤 chawins User 🕐 업데이트됨 2025-06-08 📅 생성됨 2023-11-15
60
haizelabs/llama3-jailbreak

사소한 프로그래밍 Llama 3 탈옥입니다. Zuck, 미안해!

haizelabs
⭐ 569 Python 👤 haizelabs Organization 🕐 업데이트됨 2025-01-26 📅 생성됨 2024-04-20
61
jplhughes/bon-jailbreaking

Best-of-N 탈옥 코드 릴리스

jplhughes
⭐ 566 Python 👤 jplhughes User 🕐 업데이트됨 2025-02-05 📅 생성됨 2024-10-11
62
riseandignite/mcp-shield

MCP 서버용 보안 스캐너

riseandignite
⭐ 556 TypeScript 👤 riseandignite User 🕐 업데이트됨 2025-04-26 📅 생성됨 2025-04-15
63
graygnatconsole/mcp-audit-tool

🛡️ Model Context Protocol(MCP) 서버용 보안 감사 CLI — AI 에이전트 설정을 스캔하여 도구 포이즈닝, 러그풀, 하드코딩된 비밀 정보, 명령어 삽입 및 공급망 위험을 탐지합니다. 순수 Python으로 작성되었으며 SARIF 및 CI를 지원합니다.

graygnatconsole
⭐ 543 Python 👤 graygnatconsole User 🕐 업데이트됨 2026-10-24 📅 생성됨 2026-09-26
64
liu00222/Open-Prompt-Injection

이 저장소는 LLM의 프롬프트 인젝션 공격 및 방어를 위한 벤치마크를 제공합니다

liu00222
⭐ 517 Python 👤 liu00222 User 🕐 업데이트됨 2026-09-27 📅 생성됨 2023-10-19
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

이 문서는 AI 침투 테스트, LLM 레드팀, 자율 공격 에이전트 및 취약점 발견 분야의 오픈 소스 프로젝트, 학술 논문, 역량 벤치마크와 상용 솔루션(국제 및 중국)을 정리하여 소개합니다. 연구자, 보안 엔지니어, 기업 의사결정권자가 전체적인 관점을 신속하게 형성할 수 있도록 돕는 것이 목적입니다.

Yeti-791
⭐ 501 👤 Yeti-791 User 🕐 업데이트됨 2026-11-19 📅 생성됨 2026-06-11