Git Stars Git Stars

#llm-safety Repositórios

Descubra 17 repositórios ativos de código aberto no GitHub marcados com #llm-safety, acumulando um total de 27,235 estrelas (uma média de 1,602 por projeto). O líder deste tópico é NVIDIA-NeMo/Guardrails, com 7,539 estrelas.

17
Total de Repositórios
27,235
Total de estrelas
1,602
Média de Estrelas/Repositório

17 repositórios no total

1
NVIDIA-NeMo/Guardrails

NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Atualizado 2026-11-19 📅 Criado 2023-04-18
2
confident-ai/deepteam

DeepTeam é uma estrutura para realizar red teaming em LLMs e agentes de IA.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 Atualizado 2026-10-23 📅 Criado 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] Falhas de segurança em agentes de programação e LLMs de ponta. Ambientes de trabalho reproduzíveis para estudar quando agentes de IA geram dados inseguros durante a execução de tarefas.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 Atualizado 2026-11-16 📅 Criado 2026-03-01
4
ydyjya/Awesome-LLM-Safety

Uma lista organizada de artigos, estudos e recursos relacionados à segurança, focada em Grandes Modelos de Linguagem (LLMs). Este repositório visa fornecer a pesquisadores, profissionais e entusiastas uma visão aprofundada das implicações de segurança, dos desafios e dos avanços relacionados a esses modelos poderosos.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 Atualizado 2026-07-12 📅 Criado 2023-10-29
6
safety-research/bloom

bloom - avalie qualquer comportamento imediatamente 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 Atualizado 2026-05-07 📅 Criado 2025-06-24
7
meridianlabs-ai/inspect_petri

Um agente de auditoria de alinhamento capaz de explorar rapidamente hipóteses de alinhamento

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM: um pacote Python para detectar alucinações em grandes modelos de linguagem por meio da quantificação da incerteza

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 Atualizado 2026-11-08 📅 Criado 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: Medindo Como Modelos Imitam Falsidades Humanas

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 Atualizado 2025-01-16 📅 Criado 2021-08-24
10
centerforaisafety/HarmBench

HarmBench: Uma Estrutura de Avaliação Padronizada para Red Teaming Automatizado e Recusa Robusta

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 Atualizado 2024-08-16 📅 Criado 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

Uma ferramenta leve para proteger a privacidade/dados do usuário na Internet

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 Atualizado 2025-12-28 📅 Criado 2025-12-28
13
chrisliu298/awesome-llm-unlearning

Um repositório de recursos para desaprendizagem de máquina em grandes modelos de linguagem

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 Atualizado 2026-10-06 📅 Criado 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM: avaliação da confiabilidade de LLMs em termos de veracidade, segurança, equidade, robustez, privacidade e ética. Kit de ferramentas Python/CLI para modelos locais, APIs compatíveis e orquestração de agentes de IA.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 Atualizado 2026-10-04 📅 Criado 2023-12-23

Perguntas Frequentes

1

Qual é o repositório de #llm-safety mais popular no GitHub?

O projeto de código aberto de #llm-safety mais bem classificado no GitHub é NVIDIA-NeMo/Guardrails, com 7,539 estrelas. NeMo Guardrails é uma biblioteca de código aberto para aplicar controles programáveis de segurança e proteção a aplicações de LLM e agentes.

2

Quais linguagens de programação são mais usadas nos repositórios de #llm-safety?

Entre os projetos de #llm-safety mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, Jupyter Notebook, TypeScript, HTML.

3

Como é calculada a classificação dos repositórios de #llm-safety?

Acompanhamos 17 repositórios ativos de código aberto marcados com #llm-safety (com mais de 500 estrelas), totalizando 27,235 estrelas e uma média de 1,602 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.