#llm-safety Repositorios
Descubre 17 repositorios activos de código abierto de GitHub etiquetados con #llm-safety, que acumulan 27,235 estrellas en total (una media de 1,602 estrellas por proyecto). El líder de este tema es NVIDIA-NeMo/Guardrails, con 7,539 estrellas.
17 repositorios en total
NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.
DeepTeam es un marco de trabajo para realizar red teaming en LLMs y agentes de IA.
[NeurIPS 2026] Fallos de seguridad en agentes de programación y LLM de vanguardia. Espacios de trabajo reproducibles para estudiar cuándo los agentes de IA generan datos inseguros al completar tareas.
Una lista curada de artículos, trabajos y recursos relacionados con la seguridad centrados en Modelos Lingüísticos Grandes (LLM). Este repositorio tiene como objetivo proporcionar a investigadores, profesionales y entusiastas información sobre las implicaciones, desafíos y avances en materia de seguridad en torno a estos potentes modelos.
Un agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación
[JMLR 2026] UQLM: un paquete de Python para detectar alucinaciones en modelos de lenguaje grandes mediante la cuantificación de la incertidumbre
HarmBench: Un marco de evaluación estandarizado para Red Teaming automatizado y rechazo robusto
Una herramienta ligera para proteger la privacidad/datos de usuario en Internet
Un repositorio de recursos para el desaprendizaje automático en modelos de lenguaje grandes
[ICML 2024] TrustLLM: evaluación de la confiabilidad de los LLM en términos de veracidad, seguridad, equidad, robustez, privacidad y ética. Kit de herramientas de Python/CLI para modelos locales, API compatibles y orquestación de agentes de IA.
Preguntas frecuentes
¿Cuál es el repositorio de #llm-safety más popular en GitHub?
El proyecto de código abierto de #llm-safety mejor posicionado en GitHub es NVIDIA-NeMo/Guardrails, con 7,539 estrellas. NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.
¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-safety?
Entre los proyectos de #llm-safety mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, TypeScript, HTML.
¿Cómo se calcula la clasificación de los repositorios de #llm-safety?
Seguimos 17 repositorios activos de código abierto etiquetados con #llm-safety (500+ estrellas), que suman un total de 27,235 estrellas, con una media de 1,602 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.