#llm-safety Repository
Scopri 17 repository GitHub open source attivi contrassegnati con #llm-safety, che raccolgono un totale di 27,235 stelle (con una media di 1,602 stelle per progetto). Il progetto leader di questo argomento è NVIDIA-NeMo/Guardrails, con 7,539 stelle.
17 repository in totale
NeMo Guardrails è una libreria open source che consente di applicare controlli programmabili di sicurezza e protezione alle applicazioni LLM e agentiche.
[NeurIPS 2026] Problemi di sicurezza negli agenti di programmazione e nei LLM all’avanguardia. Ambienti di lavoro riproducibili per studiare quando gli agenti di IA generano dati non sicuri durante lo svolgimento di attività.
Un elenco curato di documenti, articoli e risorse relativi alla sicurezza incentrati sui Large Language Models (LLM). Questo repository mira a fornire a ricercatori, professionisti e appassionati approfondimenti sulle implicazioni per la sicurezza, le sfide e i progressi relativi a questi potenti modelli.
Un agente di audit di allineamento in grado di esplorare rapidamente ipotesi di allineamento
[JMLR 2026] UQLM: un pacchetto Python per rilevare le allucinazioni dei modelli linguistici di grandi dimensioni mediante la quantificazione dell’incertezza
HarmBench: Un framework di valutazione standardizzato per il Red Teaming automatizzato e il rifiuto robusto
Uno strumento leggero per proteggere la privacy/i dati dell'utente su Internet
Un repository di risorse per l'unlearning automatico nei modelli linguistici di grandi dimensioni
[ICML 2024] TrustLLM: valutazione dell’affidabilità degli LLM in termini di veridicità, sicurezza, equità, robustezza, privacy ed etica. Toolkit Python/CLI per modelli locali, API compatibili e orchestrazione di agenti IA.
Domande frequenti
Qual è il repository #llm-safety più popolare su GitHub?
Il progetto open source #llm-safety più alto in classifica su GitHub è NVIDIA-NeMo/Guardrails, con 7,539 stelle. NeMo Guardrails è una libreria open source che consente di applicare controlli programmabili di sicurezza e protezione alle applicazioni LLM e agentiche.
Quali linguaggi di programmazione sono più utilizzati nei repository #llm-safety?
Tra i progetti #llm-safety più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, TypeScript, HTML.
Come viene calcolata la classifica dei repository #llm-safety?
Monitoriamo 17 repository open source attivi contrassegnati con #llm-safety (500+ stelle), per un totale di 27,235 stelle e una media di 1,602 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.