Git Stars Git Stars

#llm-safety 仓库

探索 17 个标记为 #llm-safety 的活跃开源 GitHub 仓库,它们累计获得 27,235 个 Star(平均每个项目 1,602 个)。该主题的领先项目是 NVIDIA-NeMo/Guardrails,拥有 7,539 个 Star。

17
仓库总数
27,235
总星标数
1,602
平均每个仓库星标数
1
NVIDIA-NeMo/Guardrails

NeMo Guardrails 是一个开源库,可用于为 LLM 和智能体应用实施可编程的安全与防护控制。

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 已更新 2026-11-19 📅 创建时间 2023-04-18
2
confident-ai/deepteam

DeepTeam 是一个用于对大语言模型和 AI 智能体进行红队测试的框架。

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 已更新 2026-10-23 📅 创建时间 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] 编码智能体和前沿大语言模型中的安全失效。用于研究 AI 智能体在完成任务时何时会生成不安全数据的可复现实验环境。

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 已更新 2026-11-16 📅 创建时间 2026-03-01
4
ydyjya/Awesome-LLM-Safety

一份精选的、专注于大型语言模型(LLM)的与安全相关的论文、文章和资源列表。本知识库旨在为研究人员、实践者和爱好者提供关于这些强大模型相关的安全影响、挑战和进展的见解。

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 已更新 2026-07-12 📅 创建时间 2023-10-29
6
safety-research/bloom

bloom - 立即评估任何行为 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 已更新 2026-05-07 📅 创建时间 2025-06-24
7
meridianlabs-ai/inspect_petri

一种能够快速探索对齐假设的对齐审计代理

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM:一个利用不确定性量化检测大语言模型幻觉的 Python 软件包

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 已更新 2026-11-08 📅 创建时间 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: 衡量模型如何模仿人类谎言

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 已更新 2025-01-16 📅 创建时间 2021-08-24
10
centerforaisafety/HarmBench

HarmBench:面向自动化红队演练和鲁棒拒绝的标准化评估框架

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 已更新 2024-08-16 📅 创建时间 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

一款用于保护互联网上的隐私/用户数据的轻量级工具

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 已更新 2025-12-28 📅 创建时间 2025-12-28
13
chrisliu298/awesome-llm-unlearning

大型语言模型中机器不可学的资源库

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 已更新 2026-10-06 📅 创建时间 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM:从真实性、安全性、公平性、稳健性、隐私和伦理等方面评估大语言模型(LLM)的可信度。适用于本地模型、兼容 API 和 AI 智能体编排的 Python/CLI 工具包。

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 已更新 2026-10-04 📅 创建时间 2023-12-23

常见问题解答

1

GitHub 上最受欢迎的 #llm-safety 仓库是什么?

GitHub 上排名第一的开源 #llm-safety 项目是 NVIDIA-NeMo/Guardrails,拥有 7,539 个 Star。NeMo Guardrails 是一个开源库,可用于为 LLM 和智能体应用实施可编程的安全与防护控制。

2

#llm-safety 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llm-safety 项目中,最常见的编程语言是 Python, Jupyter Notebook, TypeScript, HTML。

3

#llm-safety 仓库的排名是如何计算的?

我们跟踪了 17 个标记为 #llm-safety 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 27,235 个 Star,平均每个仓库拥有 1,602 个 Star。排名每日根据 GitHub API 更新。