Git Stars Git Stars

#llm-safety Repositories

Entdecke 17 aktive Open-Source-GitHub-Repositories, die mit #llm-safety getaggt sind und insgesamt 27,235 Sterne gesammelt haben (durchschnittlich 1,602 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist NVIDIA-NeMo/Guardrails mit 7,539 Sternen.

17
Gesamtzahl der Repositories
27,235
Gesamtanzahl der Sterne
1,602
Durchschnittliche Sterne/Repo

Insgesamt 17 Repositories

1
NVIDIA-NeMo/Guardrails

NeMo Guardrails ist eine Open-Source-Bibliothek, mit der sich programmierbare Sicherheits- und Schutzkontrollen auf LLM- und agentische Anwendungen anwenden lassen.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2023-04-18
2
confident-ai/deepteam

DeepTeam ist ein Framework für das Red Teaming von LLMs und KI-Agenten.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 Aktualisiert 2026-10-23 📅 Erstellt 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] Sicherheitsversagen bei Programmieragenten und führenden LLMs. Reproduzierbare Arbeitsumgebungen zur Untersuchung, wann KI-Agenten bei der Erledigung von Aufgaben unsichere Daten erzeugen.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2026-03-01
4
ydyjya/Awesome-LLM-Safety

Eine kuratierte Liste von sicherheitsbezogenen Arbeiten, Artikeln und Ressourcen, die sich auf Large Language Models (LLMs) konzentrieren. Dieses Repository zielt darauf ab, Forschern, Praktikern und Enthusiasten Einblicke in die sicherheitsrelevanten Auswirkungen, Herausforderungen und Fortschritte im Zusammenhang mit diesen leistungsstarken Modellen zu geben.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 Aktualisiert 2026-07-12 📅 Erstellt 2023-10-29
6
safety-research/bloom

bloom - jedes Verhalten sofort bewerten 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 Aktualisiert 2026-05-07 📅 Erstellt 2025-06-24
7
meridianlabs-ai/inspect_petri

Ein Agent zur Ausrichtungsprüfung, der in der Lage ist, Ausrichtungshypothesen schnell zu erkunden

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM: Ein Python-Paket zur Erkennung von Halluzinationen großer Sprachmodelle mithilfe der Unsicherheitsquantifizierung

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 Aktualisiert 2026-11-08 📅 Erstellt 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: Messung, wie Modelle menschliche Unwahrheiten imitieren

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 Aktualisiert 2025-01-16 📅 Erstellt 2021-08-24
10
centerforaisafety/HarmBench

HarmBench: Ein standardisiertes Evaluierungsframework für automatisiertes Red Teaming und robuste Verweigerung

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 Aktualisiert 2024-08-16 📅 Erstellt 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

Ein leichtgewichtiges Tool zum Schutz der Privatsphäre/Benutzerdaten im Internet

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 Aktualisiert 2025-12-28 📅 Erstellt 2025-12-28
13
chrisliu298/awesome-llm-unlearning

Ein Ressourcen-Repository für maschinelles Unlearning in großen Sprachmodellen

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 Aktualisiert 2026-10-06 📅 Erstellt 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM: Bewertung der Vertrauenswürdigkeit von LLMs hinsichtlich Wahrhaftigkeit, Sicherheit, Fairness, Robustheit, Datenschutz und Ethik. Python-/CLI-Toolkit für lokale Modelle, kompatible APIs und die Orchestrierung von KI-Agenten.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 Aktualisiert 2026-10-04 📅 Erstellt 2023-12-23

Häufig gestellte Fragen

1

Welches ist das beliebteste #llm-safety-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llm-safety-Projekt auf GitHub ist NVIDIA-NeMo/Guardrails mit 7,539 Sternen. NeMo Guardrails ist eine Open-Source-Bibliothek, mit der sich programmierbare Sicherheits- und Schutzkontrollen auf LLM- und agentische Anwendungen anwenden lassen.

2

Welche Programmiersprachen werden in #llm-safety-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llm-safety-Projekten auf GitHub sind Python, Jupyter Notebook, TypeScript, HTML die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llm-safety-Repositories berechnet?

Wir verfolgen 17 aktive Open-Source-Repositories, die mit #llm-safety getaggt sind (500+ Sterne), mit insgesamt 27,235 Sternen und durchschnittlich 1,602 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.