#llm-security 저장소
#llm-security 태그가 지정된 GitHub의 활성 오픈 소스 저장소 65개를 확인해 보세요. 총 311,462개의 스타를 획득했으며 프로젝트당 평균 4,791개입니다. 이 주제를 이끄는 저장소는 76,872개의 스타를 받은 usestrix/strix입니다.
저장소 총 65개
AI 에이전트 독립 감사. 사람이나 에이전트 스스로가 실행하여 AI 에이전트 경제에서 가장 중요한 질문에 답합니다. 에이전트가 해야 할 일을 제대로 수행하고 있는가? iFixAi를 사용하면 120초 이내에 이 질문에 대한 답을 얻을 수 있습니다.
Agent Scan, Skills Scan, MCP Scan, AI Infra Scan 및 LLM 탈옥 평가를 통해 AI 생태계를 보호하는 풀스택 AI 레드팀 플랫폼입니다.
NeMo Guardrails는 LLM 및 에이전트형 애플리케이션에 프로그래밍 가능한 안전 및 보안 제어를 적용하기 위한 오픈 소스 라이브러리입니다.
🛡️ BLA(bla-agents / Blind LLM Agents) — JS/TS, Electron ASAR, WASM, Python, 네이티브 바이너리, SQLite, GGUF/Safetensors 및 Android DEX를 AI 리버스 엔지니어링 에이전트(REA)로부터 보호하는 오픈 소스 Blue Defense MCP 서버 및 CLI.
데이터셋은 Reddit, Discord, 웹사이트 및 오픈 소스 데이터셋(1,405개의 탈옥 프롬프트 포함)에서 수집된 15,140개의 ChatGPT 프롬프트로 구성됩니다.
AI Safety HOT: AI 안전 뉴스, 논문, 사고를 매일 한곳에서 확인하세요 — 탈옥, 프롬프트 인젝션, 정렬, 평가, 거버넌스. 웹사이트, 일일 요약, RSS 및 MCP 제공.
이 리포지토리에는 Google, Nvidia, Meta, Microsoft 및 Fortune 500대 기업과 같은 최고 기업에서 묻는 LLM(대규모 언어 모델) 인터뷰 질문이 포함되어 있습니다.
자동화된 LLM 퍼징을 위한 강력한 도구입니다. 개발자와 보안 연구원이 LLM API의 잠재적인 탈옥을 식별하고 완화하는 데 도움을 주도록 설계되었습니다.
Model Context Protocol(MCP)을 통해 외부 도구와 상호 작용할 수 있는 대규모 언어 모델(LLM)을 지원하는 CLI 호스트 애플리케이션입니다.
대규모 언어 모델 앱을 위한 OWASP Top 10 (GenAI 보안 프로젝트의 일부)
모든 발견 사항을 익스플로잇으로 검증하는 오픈 소스 AI 침투 테스트 에이전트입니다. 웹 앱과 API를 대상으로 22단계 자율 침투 테스트를 수행하고 CVSS 점수가 포함된 PDF 보고서를 제공합니다. 직접 호스팅하거나, 자체 LLM을 사용하거나, Ollama로 완전히 로컬에서 실행할 수 있습니다.
🛡️ 무료 오픈 소스 AI 기반 보안 터미널 및 취약점 스캐너(CVE, SBOM). SSH, SFTP, RDP, VNC, 시리얼 연결을 지원하며, 12개 이상의 자율 AI 에이전트(DeepSeek, OpenAI)를 통해 보안 워크플로, CTF 및 DevSecOps를 자동화합니다. 크로스 플랫폼을 지원하며 웹 UI를 제공합니다.
오픈 소스 자율형 AI 침투 테스트. 웹, API, 클라우드, Active Directory, Kubernetes, CI/CD 및 AI/LLM(OWASP LLM Top 10)을 아우르는 50개의 전문 에이전트와 증거 검증형 공격 경로 그래프를 제공합니다. Privacy Gateway 뒤의 로컬 LLM에서 실행됩니다. GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana 및 Splunk와 통합됩니다.
Hermes Agent, 전문화된 추론 능력, 다중 모델 LLM 오케스트레이션을 기반으로 하는 자율 공격 보안, 버그 바운티 및 레드 티밍 에이전트 프레임워크.
AI 우선 보안 스캐너. v2026.7의 새로운 기능: Claude 코드 손상 탐지 — 클론하기 전에 .claude/ 훅, 권한 및 스킬을 검증 — 항상 켜져 있는 AI 공격 시그니처 스캐너와 네이티브 Rust 및 PHP 규칙. 또한: medusa scan --git으로 모든 리포지토리 검증, medusa secrets scan으로 유출된 API 키 스캔. 40,000개 이상의 패턴, 설정 불필요.
MCP 보안 및 에이전트 이그레스(egress)를 위한 오픈소스 AI 에이전트 방화벽. 중개된 HTTP, MCP, A2A 및 WebSocket 트래픽을 스캔하여 데이터 유출, SSRF 및 프롬프트 인젝션을 탐지하며, 중개자가 서명한 작업 영수증을 발행합니다. 이는 에이전트 외부에서 검증 가능한 감사 증거를 제공합니다.
개인정보 보호를 최우선으로 하는 LLM 및 RAG 파이프라인용 가드레일입니다. SurrogateShield는 적대적 공격을 방어하는 동시에 민감한 개인 식별 정보(PII)를 실시간으로 감지하고, 마스킹하며, 복원합니다.
AI API 릴레이 및 LLM 프록시를 위한 로컬 보안 감사: 프롬프트 인젝션, 모델 대체, 도구 호출 재작성, SSE 이상, 오류 정보 유출, Web3 지갑 위험을 탐지합니다. 웹사이트: https://apirelayaudit.com
AI가 작성한 소프트웨어를 위한 독립 보안 에이전트입니다. 문제를 발견하고 실제 여부를 조사하며 증거를 보여줍니다. 결정론적 코어, API 키 불필요, JSON 및 SARIF 출력 지원.
조직을 위한 셀프 호스팅 AI API 및 MCP 게이트웨이: SSO 및 RBAC, MCP 도구 호출을 위한 사용자별 ID, 개인 식별 정보(PII) 비식별화 및 도구 호출 보호 기능, 속도 제한, 예산, 비용 정산 및 감사 로그.
에이전트에게 머신을 제공하세요. 단, 여러분의 머신은 아닙니다. 각 AI 코딩 에이전트는 root, Docker, systemd가 갖춰진 전용 격리 머신을 사용하며, 능동 방어가 위협을 자동으로 탐지하고 차단합니다.
AI 앱 및 에이전트를 위한 런타임 보안: 프롬프트 인젝션 탐지, 도구 호출 권한 부여, 민감 데이터 마스킹, 봇 보호 및 속도 제한 기능을 제공합니다. JS/TS 코드에 바로 적용해 보세요.
자주 묻는 질문
GitHub에서 가장 인기 있는 #llm-security 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #llm-security 프로젝트는 76,872개의 스타를 받은 usestrix/strix입니다. 앱의 취약점을 찾아 수정하는 오픈소스 AI 침투 테스트 도구입니다.
#llm-security 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #llm-security 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Go, Jupyter Notebook, TypeScript입니다.
#llm-security 저장소 순위는 어떻게 계산되나요?
#llm-security 태그가 지정된 활성 오픈 소스 저장소(65개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 311,462개이며 저장소당 평균 4,791개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.