Git Stars Git Stars

#llm-safety Dépôts

Découvrez 17 dépôts GitHub open source actifs associés à #llm-safety, cumulant 27,235 étoiles au total (soit une moyenne de 1,602 étoiles par projet). Le projet en tête de ce thème est NVIDIA-NeMo/Guardrails, avec 7,539 étoiles.

17
Total des Dépôts
27,235
Nombre total d'étoiles
1,602
Moyenne d'Étoiles/Dépôt
1
NVIDIA-NeMo/Guardrails

NeMo Guardrails est une bibliothèque open source permettant d’appliquer des contrôles programmables de sûreté et de sécurité aux applications LLM et agentiques.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2023-04-18
2
confident-ai/deepteam

DeepTeam est un framework destiné au red teaming des LLM et des agents IA.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 Mis à jour 2026-10-23 📅 Créé 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] Défaillances de sécurité des agents de programmation et des LLM de pointe. Environnements de travail reproductibles pour étudier dans quelles circonstances les agents d’IA génèrent des données non sécurisées lors de l’exécution de tâches.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 Mis à jour 2026-11-16 📅 Créé 2026-03-01
4
ydyjya/Awesome-LLM-Safety

Une liste organisée d'articles, d'articles et de ressources liés à la sécurité axés sur les grands modèles de langage (LLM). Ce référentiel vise à fournir aux chercheurs, aux praticiens et aux passionnés des informations sur les implications, les défis et les avancées en matière de sécurité entourant ces modèles puissants.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 Mis à jour 2026-07-12 📅 Créé 2023-10-29
6
safety-research/bloom

bloom - évaluez tout comportement immédiatement 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 Mis à jour 2026-05-07 📅 Créé 2025-06-24
7
meridianlabs-ai/inspect_petri

Un agent d'audit d'alignement capable d'explorer rapidement des hypothèses d'alignement

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM : un package Python pour détecter les hallucinations des grands modèles de langage à l’aide de la quantification de l’incertitude

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 Mis à jour 2026-11-08 📅 Créé 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA : Mesurer comment les modèles imitent les mensonges humains

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 Mis à jour 2025-01-16 📅 Créé 2021-08-24
10
centerforaisafety/HarmBench

HarmBench : Un cadre d'évaluation standardisé pour le Red Teaming automatisé et le refus robuste

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 Mis à jour 2024-08-16 📅 Créé 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

Un outil léger pour protéger la confidentialité/les données utilisateur sur Internet

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 Mis à jour 2025-12-28 📅 Créé 2025-12-28
13
chrisliu298/awesome-llm-unlearning

Un référentiel de ressources pour le désapprentissage automatique dans les grands modèles de langage

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 Mis à jour 2026-10-06 📅 Créé 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM : évaluation de la fiabilité des LLM selon les critères de véracité, de sécurité, d’équité, de robustesse, de confidentialité et d’éthique. Boîte à outils Python/CLI pour les modèles locaux, les API compatibles et l’orchestration d’agents d’IA.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 Mis à jour 2026-10-04 📅 Créé 2023-12-23

Foire aux questions

1

Quel est le dépôt #llm-safety le plus populaire sur GitHub ?

Le projet #llm-safety open source le mieux classé sur GitHub est NVIDIA-NeMo/Guardrails, avec 7,539 étoiles. NeMo Guardrails est une bibliothèque open source permettant d’appliquer des contrôles programmables de sûreté et de sécurité aux applications LLM et agentiques.

2

Quels langages de programmation sont les plus utilisés dans les dépôts #llm-safety ?

Parmi les projets #llm-safety les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, Jupyter Notebook, TypeScript, HTML.

3

Comment le classement des dépôts #llm-safety est-il calculé ?

Nous suivons 17 dépôts open source actifs associés à #llm-safety (500+ étoiles), totalisant 27,235 étoiles, avec une moyenne de 1,602 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.