#llm-security 저장소
65
총 리포지토리
311,462
총 별점
4,791
리포지토리당 평균 스타 수
저장소 총 65개
⭐ 678
👤 cckuailong User
🕐 업데이트됨 2026-07-24
📅 생성됨 2023-04-13
⭐ 664
👤 pashov User
🕐 업데이트됨 2026-11-13
📅 생성됨 2026-03-12
54
JailbreakBench/jailbreakbench
JailbreakBench: 언어 모델 탈옥을 위한 개방형 견고성 벤치마크 [NeurIPS 2024 데이터셋 및 벤치마크 트랙]
55
secureagentics/Adrian
오픈소스 런타임 AI 에이전트 보안 도구 - AI 에이전트를 모니터링하고 제어하며, 에이전트가 동작하기 전에 악의적인 도구 사용, 프롬프트 인젝션, 정책 이탈을 실시간으로 탐지합니다.
57
PrismorSec/prismor
AI 에이전트를 위한 자체 호스팅 런타임 컨트롤 플레인입니다. 로컬 대시보드에서 도구 호출을 실행 전에 모니터링하고, 사람의 승인(HITL)을 거치거나 악의적인 호출을 차단할 수 있습니다. 이를 통해 비밀 정보 유출, 프롬프트 인젝션, 공급망 공격 등의 위험을 방지합니다. 에이전트 종류와 무관하게 사용 가능(Claude, Codex, LangChain 등).
63
graygnatconsole/mcp-audit-tool
🛡️ Model Context Protocol(MCP) 서버용 보안 감사 CLI — AI 에이전트 설정을 스캔하여 도구 포이즈닝, 러그풀, 하드코딩된 비밀 정보, 명령어 삽입 및 공급망 위험을 탐지합니다. 순수 Python으로 작성되었으며 SARIF 및 CI를 지원합니다.
65
Yeti-791/Awesome-Offensive-AI-Agentic-Landscape
이 문서는 AI 침투 테스트, LLM 레드팀, 자율 공격 에이전트 및 취약점 발견 분야의 오픈 소스 프로젝트, 학술 논문, 역량 벤치마크와 상용 솔루션(국제 및 중국)을 정리하여 소개합니다. 연구자, 보안 엔지니어, 기업 의사결정권자가 전체적인 관점을 신속하게 형성할 수 있도록 돕는 것이 목적입니다.
⭐ 501
👤 Yeti-791 User
🕐 업데이트됨 2026-11-19
📅 생성됨 2026-06-11