Git Stars Git Stars

#llm-safety Repositorios

Descubre 17 repositorios activos de código abierto de GitHub etiquetados con #llm-safety, que acumulan 27,235 estrellas en total (una media de 1,602 estrellas por proyecto). El líder de este tema es NVIDIA-NeMo/Guardrails, con 7,539 estrellas.

17
Total de Repositorios
27,235
Total de estrellas
1,602
Promedio de Estrellas/Repo

17 repositorios en total

1
NVIDIA-NeMo/Guardrails

NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Actualizado 2026-11-19 📅 Creado 2023-04-18
2
confident-ai/deepteam

DeepTeam es un marco de trabajo para realizar red teaming en LLMs y agentes de IA.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 Actualizado 2026-10-23 📅 Creado 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] Fallos de seguridad en agentes de programación y LLM de vanguardia. Espacios de trabajo reproducibles para estudiar cuándo los agentes de IA generan datos inseguros al completar tareas.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 Actualizado 2026-11-16 📅 Creado 2026-03-01
4
ydyjya/Awesome-LLM-Safety

Una lista curada de artículos, trabajos y recursos relacionados con la seguridad centrados en Modelos Lingüísticos Grandes (LLM). Este repositorio tiene como objetivo proporcionar a investigadores, profesionales y entusiastas información sobre las implicaciones, desafíos y avances en materia de seguridad en torno a estos potentes modelos.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 Actualizado 2026-07-12 📅 Creado 2023-10-29
6
safety-research/bloom

bloom - evalúa cualquier comportamiento inmediatamente 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 Actualizado 2026-05-07 📅 Creado 2025-06-24
7
meridianlabs-ai/inspect_petri

Un agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 Actualizado 2026-11-20 📅 Creado 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM: un paquete de Python para detectar alucinaciones en modelos de lenguaje grandes mediante la cuantificación de la incertidumbre

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 Actualizado 2026-11-08 📅 Creado 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: Midiendo cómo los modelos imitan las falsedades humanas

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 Actualizado 2025-01-16 📅 Creado 2021-08-24
10
centerforaisafety/HarmBench

HarmBench: Un marco de evaluación estandarizado para Red Teaming automatizado y rechazo robusto

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 Actualizado 2024-08-16 📅 Creado 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

Una herramienta ligera para proteger la privacidad/datos de usuario en Internet

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 Actualizado 2025-12-28 📅 Creado 2025-12-28
13
chrisliu298/awesome-llm-unlearning

Un repositorio de recursos para el desaprendizaje automático en modelos de lenguaje grandes

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 Actualizado 2026-10-06 📅 Creado 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM: evaluación de la confiabilidad de los LLM en términos de veracidad, seguridad, equidad, robustez, privacidad y ética. Kit de herramientas de Python/CLI para modelos locales, API compatibles y orquestación de agentes de IA.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 Actualizado 2026-10-04 📅 Creado 2023-12-23

Preguntas frecuentes

1

¿Cuál es el repositorio de #llm-safety más popular en GitHub?

El proyecto de código abierto de #llm-safety mejor posicionado en GitHub es NVIDIA-NeMo/Guardrails, con 7,539 estrellas. NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-safety?

Entre los proyectos de #llm-safety mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, TypeScript, HTML.

3

¿Cómo se calcula la clasificación de los repositorios de #llm-safety?

Seguimos 17 repositorios activos de código abierto etiquetados con #llm-safety (500+ estrellas), que suman un total de 27,235 estrellas, con una media de 1,602 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.