#llm-safety Repositories
Entdecke 17 aktive Open-Source-GitHub-Repositories, die mit #llm-safety getaggt sind und insgesamt 27,235 Sterne gesammelt haben (durchschnittlich 1,602 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist NVIDIA-NeMo/Guardrails mit 7,539 Sternen.
Insgesamt 17 Repositories
NeMo Guardrails ist eine Open-Source-Bibliothek, mit der sich programmierbare Sicherheits- und Schutzkontrollen auf LLM- und agentische Anwendungen anwenden lassen.
[NeurIPS 2026] Sicherheitsversagen bei Programmieragenten und führenden LLMs. Reproduzierbare Arbeitsumgebungen zur Untersuchung, wann KI-Agenten bei der Erledigung von Aufgaben unsichere Daten erzeugen.
Eine kuratierte Liste von sicherheitsbezogenen Arbeiten, Artikeln und Ressourcen, die sich auf Large Language Models (LLMs) konzentrieren. Dieses Repository zielt darauf ab, Forschern, Praktikern und Enthusiasten Einblicke in die sicherheitsrelevanten Auswirkungen, Herausforderungen und Fortschritte im Zusammenhang mit diesen leistungsstarken Modellen zu geben.
Ein Agent zur Ausrichtungsprüfung, der in der Lage ist, Ausrichtungshypothesen schnell zu erkunden
[JMLR 2026] UQLM: Ein Python-Paket zur Erkennung von Halluzinationen großer Sprachmodelle mithilfe der Unsicherheitsquantifizierung
HarmBench: Ein standardisiertes Evaluierungsframework für automatisiertes Red Teaming und robuste Verweigerung
Ein leichtgewichtiges Tool zum Schutz der Privatsphäre/Benutzerdaten im Internet
Ein Ressourcen-Repository für maschinelles Unlearning in großen Sprachmodellen
[ICML 2024] TrustLLM: Bewertung der Vertrauenswürdigkeit von LLMs hinsichtlich Wahrhaftigkeit, Sicherheit, Fairness, Robustheit, Datenschutz und Ethik. Python-/CLI-Toolkit für lokale Modelle, kompatible APIs und die Orchestrierung von KI-Agenten.
Häufig gestellte Fragen
Welches ist das beliebteste #llm-safety-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-safety-Projekt auf GitHub ist NVIDIA-NeMo/Guardrails mit 7,539 Sternen. NeMo Guardrails ist eine Open-Source-Bibliothek, mit der sich programmierbare Sicherheits- und Schutzkontrollen auf LLM- und agentische Anwendungen anwenden lassen.
Welche Programmiersprachen werden in #llm-safety-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-safety-Projekten auf GitHub sind Python, Jupyter Notebook, TypeScript, HTML die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-safety-Repositories berechnet?
Wir verfolgen 17 aktive Open-Source-Repositories, die mit #llm-safety getaggt sind (500+ Sterne), mit insgesamt 27,235 Sternen und durchschnittlich 1,602 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.