#safety Repositorios
Descubre 25 repositorios activos de código abierto de GitHub etiquetados con #safety, que acumulan 46,185 estrellas en total (una media de 1,847 estrellas por proyecto). El líder de este tema es NVIDIA-NeMo/Guardrails, con 7,539 estrellas.
25 repositorios en total
NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.
Un hook de seguridad rápido escrito en Rust que bloquea comandos destructivos de shell, git y del sistema de archivos antes de que los ejecuten los agentes de programación con IA. Incluye más de 50 paquetes de seguridad (bases de datos, Kubernetes, Docker, nube y Terraform), análisis de heredoc y scripts en línea, modo de análisis para CI y modo de explicación; compatible con Claude Code, Codex, Gemini, Copilot, Cursor y más.
🔐Grupo Asesor Técnico de Seguridad de CNCF -- acceso seguro, control de políticas, privacidad, auditoría, explicabilidad y más!
Una lista de lectura sobre seguridad, protección y privacidad de modelos grandes (incluyendo Awesome LLM Security, Safety, etc.).
Awesome-Jailbreak-on-LLMs es una colección de métodos de jailbreak de última generación, novedosos y emocionantes en LLMs. Contiene artículos, códigos, conjuntos de datos, evaluaciones y análisis.
RLHF Seguro: Alineación de Valores Restringida mediante Aprendizaje por Refuerzo Seguro a partir de Retroalimentación Humana
Lista de recursos sobre prácticas de programación para escribir software para sistemas críticos para la seguridad.
Protege tus huellas dactilares del navegador | Protect Your Browser Fingerprints | Chrome, Edge, Firefox | Extensión / Extension
La Biblioteca de Cantidades y Unidades Correctas para el Dominio en C++ — seguridad completa de tipos de cantidad, compatible con ISO 80000, candidato a estandarización C++29.
☕ Latte: las plantillas más seguras y realmente intuitivas para PHP. Motor para aquellos que quieren los sitios PHP más seguros.
Prompts de seguridad chinos para evaluar y mejorar la seguridad de los LLM. Prompts de seguridad chinos, utilizados para evaluar y mejorar la seguridad de los modelos grandes.
[EMNLP 2024 Demo] MarkLLM: Un Kit de Herramientas de Código Abierto para Marcas de Agua de LLM
Base de datos de divulgación de vulnerabilidades de código abierto y programas de recompensas por errores
ClawKeeper: Protección de Seguridad Integral para Agentes OpenClaw a Través de Habilidades, Plugins y Vigilantes (también conocido como el Norton para OpenClaw)
Entornos PyBullet CartPole y Quadrotor — con dinámica simbólica a priori de CasADi — para control basado en aprendizaje y RL
Awesome-LLM-Robustness: una lista curada de Incertidumbre, Fiabilidad y Robustez en Modelos de Lenguaje Grandes.
El repositorio es para bases sólidas de aprendizaje por refuerzo.
🌍 Un repositorio de listas de bloqueo para varios servidores DNS, con más de 100 enlaces y más de 6 millones de dominios. Además, puede utilizar nuestro Generador de listas de bloqueo personalizado para adaptar el filtrado de contenido a sus necesidades individuales, lo que le otorga el control total sobre lo que se debe bloquear en su red.
⚒️ Cambia JsonValues a su tipo de TypeScript personalizado.
Jailbreaks de IA: 35 prompts de jailbreak listos para copiar y pegar para más de 25 modelos de vanguardia y de pesos abiertos: prompts de sistema, especificaciones AGENTS.md y archivos Modelfile de Ollama. Diseñados para la investigación de seguridad de IA y las pruebas de red team.
Generación, validación y procesamiento de formularios seguros en PHP. API práctica, totalmente personalizable, validación del lado del servidor y del cliente y diseño maduro.
Preguntas frecuentes
¿Cuál es el repositorio de #safety más popular en GitHub?
El proyecto de código abierto de #safety mejor posicionado en GitHub es NVIDIA-NeMo/Guardrails, con 7,539 estrellas. NeMo Guardrails es una biblioteca de código abierto para aplicar controles de seguridad y protección programables a aplicaciones de LLM y agentes.
¿Qué lenguajes de programación se utilizan más en los repositorios de #safety?
Entre los proyectos de #safety mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, TypeScript, PHP, Rust.
¿Cómo se calcula la clasificación de los repositorios de #safety?
Seguimos 25 repositorios activos de código abierto etiquetados con #safety (500+ estrellas), que suman un total de 46,185 estrellas, con una media de 1,847 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.