#llm-safety Repositórios
Descubra 17 repositórios ativos de código aberto no GitHub marcados com #llm-safety, acumulando um total de 27,235 estrelas (uma média de 1,602 por projeto). O líder deste tópico é NVIDIA-NeMo/Guardrails, com 7,539 estrelas.
17 repositórios no total
NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.
[NeurIPS 2026] Falhas de segurança em agentes de programação e LLMs de ponta. Ambientes de trabalho reproduzíveis para estudar quando agentes de IA geram dados inseguros durante a execução de tarefas.
Uma lista organizada de artigos, estudos e recursos relacionados à segurança, focada em Grandes Modelos de Linguagem (LLMs). Este repositório visa fornecer a pesquisadores, profissionais e entusiastas uma visão aprofundada das implicações de segurança, dos desafios e dos avanços relacionados a esses modelos poderosos.
Um agente de auditoria de alinhamento capaz de explorar rapidamente hipóteses de alinhamento
[JMLR 2026] UQLM: um pacote Python para detectar alucinações em grandes modelos de linguagem por meio da quantificação da incerteza
HarmBench: Uma Estrutura de Avaliação Padronizada para Red Teaming Automatizado e Recusa Robusta
Uma ferramenta leve para proteger a privacidade/dados do usuário na Internet
Um repositório de recursos para desaprendizagem de máquina em grandes modelos de linguagem
[ICML 2024] TrustLLM: avaliação da confiabilidade de LLMs em termos de veracidade, segurança, equidade, robustez, privacidade e ética. Kit de ferramentas Python/CLI para modelos locais, APIs compatíveis e orquestração de agentes de IA.
Perguntas Frequentes
Qual é o repositório de #llm-safety mais popular no GitHub?
O projeto de código aberto de #llm-safety mais bem classificado no GitHub é NVIDIA-NeMo/Guardrails, com 7,539 estrelas. NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.
Quais linguagens de programação são mais usadas nos repositórios de #llm-safety?
Entre os projetos de #llm-safety mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, TypeScript, HTML.
Como é calculada a classificação dos repositórios de #llm-safety?
Acompanhamos 17 repositórios ativos de código aberto marcados com #llm-safety (com mais de 500 estrelas), totalizando 27,235 estrelas e uma média de 1,602 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.