Git Stars Git Stars

#llm-security 저장소

#llm-security 태그가 지정된 GitHub의 활성 오픈 소스 저장소 65개를 확인해 보세요. 총 311,462개의 스타를 획득했으며 프로젝트당 평균 4,791개입니다. 이 주제를 이끄는 저장소는 76,872개의 스타를 받은 usestrix/strix입니다.

65
총 리포지토리
311,462
총 별점
4,791
리포지토리당 평균 스타 수

저장소 총 65개

1
usestrix/strix

앱의 취약점을 찾아 수정하는 오픈소스 AI 침투 테스트 도구입니다.

usestrix
⭐ 76,872 Python 👤 usestrix Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2025-08-05
2
Lordog/dive-into-llms

"LLM에 뛰어들기: 대규모 언어 모델 구축" 프로그래밍 실습 튜토리얼 시리즈

Lordog
⭐ 55,949 Jupyter Notebook 👤 Lordog User 🕐 업데이트됨 2025-10-10 📅 생성됨 2024-04-08
3
ifixai-ai/iFixAi

AI 에이전트 독립 감사. 사람이나 에이전트 스스로가 실행하여 AI 에이전트 경제에서 가장 중요한 질문에 답합니다. 에이전트가 해야 할 일을 제대로 수행하고 있는가? iFixAi를 사용하면 120초 이내에 이 질문에 대한 답을 얻을 수 있습니다.

ifixai-ai
⭐ 46,592 Python 👤 ifixai-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-04-27
4
NVIDIA/garak

LLM 취약점 스캐너

NVIDIA
⭐ 10,122 Python 👤 NVIDIA Organization 🕐 업데이트됨 2026-11-18 📅 생성됨 2023-05-10
5
Tencent/AI-Infra-Guard

Agent Scan, Skills Scan, MCP Scan, AI Infra Scan 및 LLM 탈옥 평가를 통해 AI 생태계를 보호하는 풀스택 AI 레드팀 플랫폼입니다.

Tencent
⭐ 7,604 Python 👤 Tencent Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2024-12-25
6
NVIDIA-NeMo/Guardrails

NeMo Guardrails는 LLM 및 에이전트형 애플리케이션에 프로그래밍 가능한 안전 및 보안 제어를 적용하기 위한 오픈 소스 라이브러리입니다.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2023-04-18
7
qybaihe/bla

🛡️ BLA(bla-agents / Blind LLM Agents) — JS/TS, Electron ASAR, WASM, Python, 네이티브 바이너리, SQLite, GGUF/Safetensors 및 Android DEX를 AI 리버스 엔지니어링 에이전트(REA)로부터 보호하는 오픈 소스 Blue Defense MCP 서버 및 CLI.

qybaihe
⭐ 6,366 TypeScript 👤 qybaihe User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-10-25
8
awarexone/Agentic-Bug-Hunter

구독 여부와 관계없이 사용할 수 있는 AI 기반 버그 바운티 헌팅 툴킷.

awarexone
⭐ 6,015 Python 👤 awarexone Organization 🕐 업데이트됨 2026-11-12 📅 생성됨 2026-03-08
9
Giskard-AI/giskard-oss

🐢 LLM 에이전트를 위한 오픈 소스 평가 및 테스트 라이브러리

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2022-03-06
10
0xeb/TheBigPromptLibrary

프롬프트, 시스템 프롬프트 및 LLM 지침 모음

0xeb
⭐ 5,545 HTML 👤 0xeb User 🕐 업데이트됨 2026-11-10 📅 생성됨 2023-11-24
11
nolabs-ai/nono

에이전트 런타임 보안 — 제로 트러스트, 설정 불필요, 지연 시간 제로의 에이전트 샌드박싱

nolabs-ai
⭐ 5,060 Rust 👤 nolabs-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-01-31
12
meta-llama/PurpleLlama

LLM 보안을 평가하고 개선하기 위한 도구 세트.

meta-llama
⭐ 4,487 Python 👤 meta-llama Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-12-06
13
riramar/Web-Attack-Cheat-Sheet

웹 공격 치트 시트

riramar
⭐ 4,438 👤 riramar User 🕐 업데이트됨 2026-09-04 📅 생성됨 2020-01-11
14
llm-attacks/llm-attacks

얼라인먼트된 언어 모델에 대한 범용 및 전이 가능한 공격

llm-attacks
⭐ 4,422 Python 👤 llm-attacks Organization 🕐 업데이트됨 2024-08-02 📅 생성됨 2023-07-27
15
hemansnation/AI-Engineer-Headquarters

스토리 및 모델 구축을 위한 과학적 방법, 프로세스, 알고리즘 및 시스템 모음.

hemansnation
⭐ 3,782 Jupyter Notebook 👤 hemansnation User 🕐 업데이트됨 2026-10-28 📅 생성됨 2022-03-29
16
CyberStrikeus/CyberStrike

자동화된 침투 테스트를 위한 오픈 소스 AI 기반 공격 보안 하네스.

CyberStrikeus
⭐ 3,672 TypeScript 👤 CyberStrikeus Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-02-14
17
verazuo/jailbreak_llms

데이터셋은 Reddit, Discord, 웹사이트 및 오픈 소스 데이터셋(1,405개의 탈옥 프롬프트 포함)에서 수집된 15,140개의 ChatGPT 프롬프트로 구성됩니다.

verazuo
⭐ 3,494 Jupyter Notebook 👤 verazuo User 🕐 업데이트됨 2024-12-24 📅 생성됨 2023-08-01
18
protectai/llm-guard

LLM 상호 작용을 위한 보안 툴킷

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 업데이트됨 2025-12-15 📅 생성됨 2023-07-27
19
Acmesec/PromptJailbreakManual

프롬프트 탈옥 매뉴얼

Acmesec
⭐ 3,049 👤 Acmesec Organization 🕐 업데이트됨 2024-12-17 📅 생성됨 2024-11-25
20
beelzebub-labs/beelzebub

보안 저코드 속임수 런타임 프레임워크, 시스템 가상화를 위한 AI 활용.

beelzebub-labs
⭐ 2,254 Go 👤 beelzebub-labs Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2022-05-08
21
uber/ADR

ADR는 관찰 가능성, 보안 벤치마킹, 위협 탐지를 통해 엔터프라이즈 AI 에이전트를 보호합니다. Uber에 배포되었습니다.

uber
⭐ 2,143 Python 👤 uber Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-04-19
22
greshake/llm-security

앱 통합 LLM을 분해하는 새로운 방법

greshake
⭐ 2,116 Jupyter Notebook 👤 greshake User 🕐 업데이트됨 2025-07-17 📅 생성됨 2023-02-19
23
wuyoscar/AISafetyHot

AI Safety HOT: AI 안전 뉴스, 논문, 사고를 매일 한곳에서 확인하세요 — 탈옥, 프롬프트 인젝션, 정렬, 평가, 거버넌스. 웹사이트, 일일 요약, RSS 및 MCP 제공.

wuyoscar
⭐ 2,079 TeX 👤 wuyoscar User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-10-01
24
msoedov/agentic_security

Agentic LLM 취약점 스캐너 / AI 레드팀 키트 🧪

msoedov
⭐ 2,048 Python 👤 msoedov User 🕐 업데이트됨 2026-11-19 📅 생성됨 2024-04-11
25
llmgenai/LLMInterviewQuestions

이 리포지토리에는 Google, Nvidia, Meta, Microsoft 및 Fortune 500대 기업과 같은 최고 기업에서 묻는 LLM(대규모 언어 모델) 인터뷰 질문이 포함되어 있습니다.

llmgenai
⭐ 1,781 👤 llmgenai User 🕐 업데이트됨 2025-02-12 📅 생성됨 2024-12-26
26
cyberark/FuzzyAI

자동화된 LLM 퍼징을 위한 강력한 도구입니다. 개발자와 보안 연구원이 LLM API의 잠재적인 탈옥을 식별하고 완화하는 데 도움을 주도록 설계되었습니다.

cyberark
⭐ 1,611 Jupyter Notebook 👤 cyberark Organization 🕐 업데이트됨 2026-02-06 📅 생성됨 2024-12-03
27
mark3labs/mcphost

Model Context Protocol(MCP)을 통해 외부 도구와 상호 작용할 수 있는 대규모 언어 모델(LLM)을 지원하는 CLI 호스트 애플리케이션입니다.

mark3labs
⭐ 1,598 Go 👤 mark3labs Organization 🕐 업데이트됨 2026-02-26 📅 생성됨 2024-12-08
28
OWASP/www-project-top-10-for-large-language-model-applications

대규모 언어 모델 앱을 위한 OWASP Top 10 (GenAI 보안 프로젝트의 일부)

OWASP
⭐ 1,504 Python 👤 OWASP Organization 🕐 업데이트됨 2026-08-05 📅 생성됨 2023-05-16
29
xalgorix/xalgorix

모든 발견 사항을 익스플로잇으로 검증하는 오픈 소스 AI 침투 테스트 에이전트입니다. 웹 앱과 API를 대상으로 22단계 자율 침투 테스트를 수행하고 CVSS 점수가 포함된 PDF 보고서를 제공합니다. 직접 호스팅하거나, 자체 LLM을 사용하거나, Ollama로 완전히 로컬에서 실행할 수 있습니다.

xalgorix
⭐ 1,380 Go 👤 xalgorix Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-03-13
⭐ 1,376 Python 👤 harishsg993010 User 🕐 업데이트됨 2026-11-01 📅 생성됨 2025-04-16
31
JoySafety/JoySafety

조이세이프티

JoySafety
⭐ 1,357 Java 👤 JoySafety Organization 🕐 업데이트됨 2026-05-11 📅 생성됨 2025-09-24
32
ZeroDayEvil/ai-security-tool

🛡️ 무료 오픈 소스 AI 기반 보안 터미널 및 취약점 스캐너(CVE, SBOM). SSH, SFTP, RDP, VNC, 시리얼 연결을 지원하며, 12개 이상의 자율 AI 에이전트(DeepSeek, OpenAI)를 통해 보안 워크플로, CTF 및 DevSecOps를 자동화합니다. 크로스 플랫폼을 지원하며 웹 UI를 제공합니다.

ZeroDayEvil
⭐ 1,325 HTML 👤 ZeroDayEvil User 🕐 업데이트됨 2026-11-04 📅 생성됨 2026-09-10
33
ASCIT31/Dark-Moon

오픈 소스 자율형 AI 침투 테스트. 웹, API, 클라우드, Active Directory, Kubernetes, CI/CD 및 AI/LLM(OWASP LLM Top 10)을 아우르는 50개의 전문 에이전트와 증거 검증형 공격 경로 그래프를 제공합니다. Privacy Gateway 뒤의 로컬 LLM에서 실행됩니다. GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana 및 Splunk와 통합됩니다.

ASCIT31
⭐ 1,279 Python 👤 ASCIT31 Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2024-11-26
34
splx-ai/agentic-radar

LLM 에이전트 워크플로우를 위한 보안 스캐너

splx-ai
⭐ 1,072 Python 👤 splx-ai Organization 🕐 업데이트됨 2026-11-13 📅 생성됨 2025-02-12
35
Zyrexnn/Cybermes

Hermes Agent, 전문화된 추론 능력, 다중 모델 LLM 오케스트레이션을 기반으로 하는 자율 공격 보안, 버그 바운티 및 레드 티밍 에이전트 프레임워크.

Zyrexnn
⭐ 1,054 Python 👤 Zyrexnn User 🕐 업데이트됨 2026-11-16 📅 생성됨 2026-08-19
36
Pantheon-Security/medusa

AI 우선 보안 스캐너. v2026.7의 새로운 기능: Claude 코드 손상 탐지 — 클론하기 전에 .claude/ 훅, 권한 및 스킬을 검증 — 항상 켜져 있는 AI 공격 시그니처 스캐너와 네이티브 Rust 및 PHP 규칙. 또한: medusa scan --git으로 모든 리포지토리 검증, medusa secrets scan으로 유출된 API 키 스캔. 40,000개 이상의 패턴, 설정 불필요.

Pantheon-Security
⭐ 1,023 Python 👤 Pantheon-Security Organization 🕐 업데이트됨 2026-08-10 📅 생성됨 2025-11-15
37
pipelab-org/pipelock

MCP 보안 및 에이전트 이그레스(egress)를 위한 오픈소스 AI 에이전트 방화벽. 중개된 HTTP, MCP, A2A 및 WebSocket 트래픽을 스캔하여 데이터 유출, SSRF 및 프롬프트 인젝션을 탐지하며, 중개자가 서명한 작업 영수증을 발행합니다. 이는 에이전트 외부에서 검증 가능한 감사 증거를 제공합니다.

pipelab-org
⭐ 1,013 Go 👤 pipelab-org Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-02-08
38
wang-rui/phishguard-scaffold

LLama 기반 모델링을 통한 소셜 미디어 피싱 공격의 공동 의미 탐지 및 확산 제어

wang-rui
⭐ 1,012 Python 👤 wang-rui User 🕐 업데이트됨 2026-02-15 📅 생성됨 2025-09-08
39
sherwinvishesh/SurrogateShield

개인정보 보호를 최우선으로 하는 LLM 및 RAG 파이프라인용 가드레일입니다. SurrogateShield는 적대적 공격을 방어하는 동시에 민감한 개인 식별 정보(PII)를 실시간으로 감지하고, 마스킹하며, 복원합니다.

sherwinvishesh
⭐ 996 Python 👤 sherwinvishesh User 🕐 업데이트됨 2026-10-16 📅 생성됨 2026-05-13
40
openpcc/openpcc

검증 가능한 비공개 AI 추론을 위한 오픈소스 프레임워크

openpcc
⭐ 958 Go 👤 openpcc Organization 🕐 업데이트됨 2026-01-08 📅 생성됨 2025-11-05
41
EasyJailbreak/EasyJailbreak

사용하기 쉬운 Python 프레임워크로 적대적인 탈옥 프롬프트를 생성합니다.

EasyJailbreak
⭐ 948 Python 👤 EasyJailbreak Organization 🕐 업데이트됨 2026-09-01 📅 생성됨 2024-01-31
42
toby-bridges/api-relay-audit

AI API 릴레이 및 LLM 프록시를 위한 로컬 보안 감사: 프롬프트 인젝션, 모델 대체, 도구 호출 재작성, SSE 이상, 오류 정보 유출, Web3 지갑 위험을 탐지합니다. 웹사이트: https://apirelayaudit.com

toby-bridges
⭐ 925 Python 👤 toby-bridges User 🕐 업데이트됨 2026-11-18 📅 생성됨 2026-03-30
43
asamassekou10/ship-safe

AI가 작성한 소프트웨어를 위한 독립 보안 에이전트입니다. 문제를 발견하고 실제 여부를 조사하며 증거를 보여줍니다. 결정론적 코어, API 키 불필요, JSON 및 SARIF 출력 지원.

asamassekou10
⭐ 873 JavaScript 👤 asamassekou10 User 🕐 업데이트됨 2026-10-17 📅 생성됨 2026-02-02
44
OWASP/www-project-ai-testing-guide

OWASP 재단 웹 저장소

OWASP
⭐ 859 Python 👤 OWASP Organization 🕐 업데이트됨 2026-06-01 📅 생성됨 2025-06-10
45
ThinkWatchProject/ThinkWatch

조직을 위한 셀프 호스팅 AI API 및 MCP 게이트웨이: SSO 및 RBAC, MCP 도구 호출을 위한 사용자별 ID, 개인 식별 정보(PII) 비식별화 및 도구 호출 보호 기능, 속도 제한, 예산, 비용 정산 및 감사 로그.

ThinkWatchProject
⭐ 817 Rust 👤 ThinkWatchProject Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-02
46
coipond/coi

에이전트에게 머신을 제공하세요. 단, 여러분의 머신은 아닙니다. 각 AI 코딩 에이전트는 root, Docker, systemd가 갖춰진 전용 격리 머신을 사용하며, 능동 방어가 위협을 자동으로 탐지하고 차단합니다.

coipond
⭐ 790 Go 👤 coipond Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-01-07
47
Cygnux-Labs/Tracekit

AI 에이전트를 위한 변조 감지 추적, 정책 게이트 및 교차 검증: 에이전트가 무엇을 했고 왜 그렇게 했는지 확인하세요.

Cygnux-Labs
⭐ 759 Python 👤 Cygnux-Labs Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-09-26
48
l0gicx/ai-model-bypass

AI 모델 제한을 우회하기 위한 프롬프트 악용 및 역할극 기법.

l0gicx
⭐ 722 👤 l0gicx User 🕐 업데이트됨 2025-10-04 📅 생성됨 2025-05-21
49
AgentSafeLabs/safelabs-eval

OWASP에서 영감을 얻은 ASI01–ASI10 분류 체계를 기반으로 하는 AI 에이전트 레드팀 테스트 및 평가 프레임워크

AgentSafeLabs
⭐ 713 Python 👤 AgentSafeLabs Organization 🕐 업데이트됨 2026-11-06 📅 생성됨 2026-05-25
50
arcjet/arcjet-js

AI 앱 및 에이전트를 위한 런타임 보안: 프롬프트 인젝션 탐지, 도구 호출 권한 부여, 민감 데이터 마스킹, 봇 보호 및 속도 제한 기능을 제공합니다. JS/TS 코드에 바로 적용해 보세요.

arcjet
⭐ 700 TypeScript 👤 arcjet Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2023-11-30

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #llm-security 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #llm-security 프로젝트는 76,872개의 스타를 받은 usestrix/strix입니다. 앱의 취약점을 찾아 수정하는 오픈소스 AI 침투 테스트 도구입니다.

2

#llm-security 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #llm-security 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Go, Jupyter Notebook, TypeScript입니다.

3

#llm-security 저장소 순위는 어떻게 계산되나요?

#llm-security 태그가 지정된 활성 오픈 소스 저장소(65개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 311,462개이며 저장소당 평균 4,791개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.