#safety Repositórios
Descubra 25 repositórios ativos de código aberto no GitHub marcados com #safety, acumulando um total de 46,185 estrelas (uma média de 1,847 por projeto). O líder deste tópico é NVIDIA-NeMo/Guardrails, com 7,539 estrelas.
25 repositórios no total
NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.
Um hook de segurança rápido escrito em Rust que bloqueia comandos destrutivos de shell, git e do sistema de arquivos antes que sejam executados por agentes de programação com IA. Mais de 50 pacotes de segurança (bancos de dados, Kubernetes, Docker, nuvem, Terraform), análise de heredocs e scripts em linha, modo de análise para CI e modo de explicação; funciona com Claude Code, Codex, Gemini, Copilot, Cursor e outros.
🔐Grupo Consultivo Técnico de Segurança da CNCF -- acesso seguro, controle de políticas, privacidade, auditoria, explicabilidade e muito mais!
Uma lista de leitura sobre segurança, proteção e privacidade de modelos de grande escala (incluindo Awesome LLM Security, Safety, etc.).
Awesome-Jailbreak-on-LLMs é uma coleção de métodos de jailbreak de última geração, novos e empolgantes em LLMs. Contém artigos, códigos, conjuntos de dados, avaliações e análises.
RLHF Seguro: Alinhamento de Valor Restrito via Aprendizagem por Reforço Segura a partir de Feedback Humano
Lista de recursos sobre práticas de programação para escrever software de segurança crítica.
Proteja sua impressão digital do navegador | Protect Your Browser Fingerprints | Chrome, Edge, Firefox | Extensão / Extension
A Biblioteca de Quantidades e Unidades Correta para o Domínio em C++ — segurança completa de tipos de quantidade, compatível com ISO 80000, candidata à padronização C++29.
☕ Latte: os templates mais seguros e verdadeiramente intuitivos para PHP. O motor para quem deseja os sites PHP mais seguros.
Prompts de segurança chineses para avaliar e melhorar a segurança dos LLMs. Prompts de segurança em chinês, para avaliar e aumentar a segurança de grandes modelos.
[EMNLP 2024 Demo] MarkLLM: Um Kit de Ferramentas de Código Aberto para Marca d'Água de LLM
Banco de dados de divulgação de vulnerabilidades de código aberto e programa de recompensa por bugs
ClawKeeper: Proteção de Segurança Abrangente para Agentes OpenClaw por Meio de Habilidades, Plugins e Observadores (também conhecido como o Norton para OpenClaw)
Ambientes CartPole e Quadrotor do PyBullet — com dinâmicas simbólicas a priori CasADi — para controle e RL baseados em aprendizado.
Awesome-LLM-Robustness: uma lista curada de Incerteza, Confiabilidade e Robustez em Grandes Modelos de Linguagem
O repositório é para linhas de base de aprendizado por reforço seguro.
🌍 Um repositório de listas de bloqueio para vários servidores DNS, com mais de 100 links e mais de 6 milhões de domínios. Adicionalmente, você pode usar nosso Gerador Personalizado de Listas de Bloqueio para personalizar a filtragem de conteúdo de acordo com suas necessidades individuais, dando a você controle total sobre o que deve ser bloqueado em sua rede.
⚒️ Altera JsonValues para o seu tipo typescript personalizado.
Jailbreaks de IA: 35 prompts de jailbreak prontos para copiar e colar, compatíveis com mais de 25 modelos de ponta e de pesos abertos — prompts de sistema, especificações AGENTS.md e arquivos Modelfile do Ollama. Criados para pesquisa em segurança de IA e testes de red team.
📝 Gerando, validando e processando formulários seguros em PHP. API prática, totalmente personalizável, validação do lado do servidor e do cliente, e design maduro.
Perguntas Frequentes
Qual é o repositório de #safety mais popular no GitHub?
O projeto de código aberto de #safety mais bem classificado no GitHub é NVIDIA-NeMo/Guardrails, com 7,539 estrelas. NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.
Quais linguagens de programação são mais usadas nos repositórios de #safety?
Entre os projetos de #safety mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, PHP, Rust.
Como é calculada a classificação dos repositórios de #safety?
Acompanhamos 25 repositórios ativos de código aberto marcados com #safety (com mais de 500 estrelas), totalizando 46,185 estrelas e uma média de 1,847 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.