Git Stars Git Stars

#llm-safety Repository

Scopri 17 repository GitHub open source attivi contrassegnati con #llm-safety, che raccolgono un totale di 27,235 stelle (con una media di 1,602 stelle per progetto). Il progetto leader di questo argomento è NVIDIA-NeMo/Guardrails, con 7,539 stelle.

17
Totale Repository
27,235
Totale stelle
1,602
Media Stelle/Repo

17 repository in totale

1
NVIDIA-NeMo/Guardrails

NeMo Guardrails è una libreria open source che consente di applicare controlli programmabili di sicurezza e protezione alle applicazioni LLM e agentiche.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Aggiornato 2026-11-19 📅 Creato 2023-04-18
2
confident-ai/deepteam

DeepTeam è un framework per il red teaming di LLM e agenti IA.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 Aggiornato 2026-10-23 📅 Creato 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] Problemi di sicurezza negli agenti di programmazione e nei LLM all’avanguardia. Ambienti di lavoro riproducibili per studiare quando gli agenti di IA generano dati non sicuri durante lo svolgimento di attività.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 Aggiornato 2026-11-16 📅 Creato 2026-03-01
4
ydyjya/Awesome-LLM-Safety

Un elenco curato di documenti, articoli e risorse relativi alla sicurezza incentrati sui Large Language Models (LLM). Questo repository mira a fornire a ricercatori, professionisti e appassionati approfondimenti sulle implicazioni per la sicurezza, le sfide e i progressi relativi a questi potenti modelli.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 Aggiornato 2026-07-12 📅 Creato 2023-10-29
6
safety-research/bloom

bloom - valuta qualsiasi comportamento immediatamente 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 Aggiornato 2026-05-07 📅 Creato 2025-06-24
7
meridianlabs-ai/inspect_petri

Un agente di audit di allineamento in grado di esplorare rapidamente ipotesi di allineamento

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 Aggiornato 2026-11-20 📅 Creato 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM: un pacchetto Python per rilevare le allucinazioni dei modelli linguistici di grandi dimensioni mediante la quantificazione dell’incertezza

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 Aggiornato 2026-11-08 📅 Creato 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: Misurare come i modelli imitano le falsità umane

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 Aggiornato 2025-01-16 📅 Creato 2021-08-24
10
centerforaisafety/HarmBench

HarmBench: Un framework di valutazione standardizzato per il Red Teaming automatizzato e il rifiuto robusto

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 Aggiornato 2024-08-16 📅 Creato 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

Uno strumento leggero per proteggere la privacy/i dati dell'utente su Internet

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 Aggiornato 2025-12-28 📅 Creato 2025-12-28
13
chrisliu298/awesome-llm-unlearning

Un repository di risorse per l'unlearning automatico nei modelli linguistici di grandi dimensioni

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 Aggiornato 2026-10-06 📅 Creato 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM: valutazione dell’affidabilità degli LLM in termini di veridicità, sicurezza, equità, robustezza, privacy ed etica. Toolkit Python/CLI per modelli locali, API compatibili e orchestrazione di agenti IA.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 Aggiornato 2026-10-04 📅 Creato 2023-12-23

Domande frequenti

1

Qual è il repository #llm-safety più popolare su GitHub?

Il progetto open source #llm-safety più alto in classifica su GitHub è NVIDIA-NeMo/Guardrails, con 7,539 stelle. NeMo Guardrails è una libreria open source che consente di applicare controlli programmabili di sicurezza e protezione alle applicazioni LLM e agentiche.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #llm-safety?

Tra i progetti #llm-safety più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, TypeScript, HTML.

3

Come viene calcolata la classifica dei repository #llm-safety?

Monitoriamo 17 repository open source attivi contrassegnati con #llm-safety (500+ stelle), per un totale di 27,235 stelle e una media di 1,602 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.