#llm-safety Dépôts
Découvrez 17 dépôts GitHub open source actifs associés à #llm-safety, cumulant 27,235 étoiles au total (soit une moyenne de 1,602 étoiles par projet). Le projet en tête de ce thème est NVIDIA-NeMo/Guardrails, avec 7,539 étoiles.
17 dépôts au total
NeMo Guardrails est une bibliothèque open source permettant d’appliquer des contrôles programmables de sûreté et de sécurité aux applications LLM et agentiques.
[NeurIPS 2026] Défaillances de sécurité des agents de programmation et des LLM de pointe. Environnements de travail reproductibles pour étudier dans quelles circonstances les agents d’IA génèrent des données non sécurisées lors de l’exécution de tâches.
Une liste organisée d'articles, d'articles et de ressources liés à la sécurité axés sur les grands modèles de langage (LLM). Ce référentiel vise à fournir aux chercheurs, aux praticiens et aux passionnés des informations sur les implications, les défis et les avancées en matière de sécurité entourant ces modèles puissants.
Un agent d'audit d'alignement capable d'explorer rapidement des hypothèses d'alignement
[JMLR 2026] UQLM : un package Python pour détecter les hallucinations des grands modèles de langage à l’aide de la quantification de l’incertitude
HarmBench : Un cadre d'évaluation standardisé pour le Red Teaming automatisé et le refus robuste
Un outil léger pour protéger la confidentialité/les données utilisateur sur Internet
Un référentiel de ressources pour le désapprentissage automatique dans les grands modèles de langage
[ICML 2024] TrustLLM : évaluation de la fiabilité des LLM selon les critères de véracité, de sécurité, d’équité, de robustesse, de confidentialité et d’éthique. Boîte à outils Python/CLI pour les modèles locaux, les API compatibles et l’orchestration d’agents d’IA.
Foire aux questions
Quel est le dépôt #llm-safety le plus populaire sur GitHub ?
Le projet #llm-safety open source le mieux classé sur GitHub est NVIDIA-NeMo/Guardrails, avec 7,539 étoiles. NeMo Guardrails est une bibliothèque open source permettant d’appliquer des contrôles programmables de sûreté et de sécurité aux applications LLM et agentiques.
Quels langages de programmation sont les plus utilisés dans les dépôts #llm-safety ?
Parmi les projets #llm-safety les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, TypeScript, HTML.
Comment le classement des dépôts #llm-safety est-il calculé ?
Nous suivons 17 dépôts open source actifs associés à #llm-safety (500+ étoiles), totalisant 27,235 étoiles, avec une moyenne de 1,602 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.