Git Stars Git Stars

#llm-safety 저장소

#llm-safety 태그가 지정된 GitHub의 활성 오픈 소스 저장소 17개를 확인해 보세요. 총 27,235개의 스타를 획득했으며 프로젝트당 평균 1,602개입니다. 이 주제를 이끄는 저장소는 7,539개의 스타를 받은 NVIDIA-NeMo/Guardrails입니다.

17
총 리포지토리
27,235
총 별점
1,602
리포지토리당 평균 스타 수

저장소 총 17개

1
NVIDIA-NeMo/Guardrails

NeMo Guardrails는 LLM 및 에이전트형 애플리케이션에 프로그래밍 가능한 안전 및 보안 제어를 적용하기 위한 오픈 소스 라이브러리입니다.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2023-04-18
2
confident-ai/deepteam

DeepTeam은 LLM 및 AI 에이전트의 레드팀 테스트를 위한 프레임워크입니다.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 업데이트됨 2026-10-23 📅 생성됨 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] 코딩 에이전트와 최첨단 LLM의 안전성 실패. AI 에이전트가 작업을 수행하는 동안 언제 안전하지 않은 데이터를 생성하는지 연구하기 위한 재현 가능한 작업 공간.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 업데이트됨 2026-11-16 📅 생성됨 2026-03-01
4
ydyjya/Awesome-LLM-Safety

대형 언어 모델(LLM)에 초점을 맞춘 안전 관련 논문, 기사 및 리소스의 큐레이션 목록입니다. 이 리포지토리는 연구원, 실무자 및 애호가에게 이 강력한 모델과 관련된 안전 영향, 과제 및 발전에 대한 통찰력을 제공하는 것을 목표로 합니다.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 업데이트됨 2026-07-12 📅 생성됨 2023-10-29
6
safety-research/bloom

bloom - 어떤 행동이든 즉시 평가하세요 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 업데이트됨 2026-05-07 📅 생성됨 2025-06-24
7
meridianlabs-ai/inspect_petri

정렬 가설을 신속하게 탐색할 수 있는 정렬 감사 에이전트

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM: 불확실성 정량화를 활용해 대규모 언어 모델의 환각을 탐지하는 Python 패키지

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 업데이트됨 2026-11-08 📅 생성됨 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: 모델이 인간의 거짓말을 모방하는 방식 측정

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 업데이트됨 2025-01-16 📅 생성됨 2021-08-24
10
centerforaisafety/HarmBench

HarmBench: 자동화된 레드팀 및 견고한 거부에 대한 표준화된 평가 프레임워크

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 업데이트됨 2024-08-16 📅 생성됨 2024-02-02
11
0xfreysa/agent

LLM 코드

0xfreysa
⭐ 789 TypeScript 👤 0xfreysa Organization 🕐 업데이트됨 2025-05-05 📅 생성됨 2024-11-22
12
liuxiaomingskm/datashield-lightweight-labs

인터넷에서 개인 정보/사용자 데이터를 보호하는 경량 도구

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 업데이트됨 2025-12-28 📅 생성됨 2025-12-28
13
chrisliu298/awesome-llm-unlearning

대규모 언어 모델에서 기계적 학습 해제를 위한 리소스 리포지토리

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 업데이트됨 2026-10-06 📅 생성됨 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM: 진실성, 안전성, 공정성, 견고성, 개인정보 보호 및 윤리 측면에서 LLM의 신뢰성을 평가합니다. 로컬 모델, 호환 API 및 AI 에이전트 오케스트레이션을 지원하는 Python/CLI 툴킷입니다.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 업데이트됨 2026-10-04 📅 생성됨 2023-12-23

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #llm-safety 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #llm-safety 프로젝트는 7,539개의 스타를 받은 NVIDIA-NeMo/Guardrails입니다. NeMo Guardrails는 LLM 및 에이전트형 애플리케이션에 프로그래밍 가능한 안전 및 보안 제어를 적용하기 위한 오픈 소스 라이브러리입니다.

2

#llm-safety 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #llm-safety 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, Jupyter Notebook, TypeScript, HTML입니다.

3

#llm-safety 저장소 순위는 어떻게 계산되나요?

#llm-safety 태그가 지정된 활성 오픈 소스 저장소(17개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 27,235개이며 저장소당 평균 1,602개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.