Git Stars Git Stars

#llm-safety Репозитории

Откройте для себя 17 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-safety, с общим числом 27,235 звёзд (в среднем 1,602 на проект). Лидером этой темы является NVIDIA-NeMo/Guardrails, набравший 7,539 звёзд.

17
Всего репозиториев
27,235
Всего звезд
1,602
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook TypeScript HTML MDX

Всего репозиториев: 17

1
NVIDIA-NeMo/Guardrails

NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.

NVIDIA-NeMo
⭐ 7,539 Python 👤 NVIDIA-NeMo Organization 🕐 Обновлено 2026-11-19 📅 Создано 2023-04-18
2
confident-ai/deepteam

DeepTeam — это фреймворк для проведения ред-тиминга LLM и ИИ-агентов.

confident-ai
⭐ 3,114 Python 👤 confident-ai Organization 🕐 Обновлено 2026-10-23 📅 Создано 2025-03-05
3
wuyoscar/Internal-Safety-Collapse

[NeurIPS 2026] Сбои безопасности в агентах для программирования и передовых LLM. Воспроизводимые рабочие среды для изучения того, когда ИИ-агенты генерируют небезопасные данные при выполнении задач.

wuyoscar
⭐ 2,623 Python 👤 wuyoscar User 🕐 Обновлено 2026-11-16 📅 Создано 2026-03-01
4
ydyjya/Awesome-LLM-Safety

Курированный список работ, статей и ресурсов по безопасности, посвященных большим языковым моделям (LLM). Этот репозиторий призван предоставить исследователям, практикам и энтузиастам информацию о последствиях для безопасности, проблемах и достижениях, связанных с этими мощными моделями.

ydyjya
⭐ 1,921 HTML 👤 ydyjya User 🕐 Обновлено 2026-07-12 📅 Создано 2023-10-29
6
safety-research/bloom

bloom - немедленно оценивайте любое поведение 🌸🌱

safety-research
⭐ 1,429 Python 👤 safety-research Organization 🕐 Обновлено 2026-05-07 📅 Создано 2025-06-24
7
meridianlabs-ai/inspect_petri

Агент аудита выравнивания, способный быстро исследовать гипотезы выравнивания

meridianlabs-ai
⭐ 1,421 Python 👤 meridianlabs-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-08-19
8
cvs-health/uqlm

[JMLR 2026] UQLM: пакет Python для обнаружения галлюцинаций больших языковых моделей с помощью количественной оценки неопределённости

cvs-health
⭐ 1,215 Python 👤 cvs-health Organization 🕐 Обновлено 2026-11-08 📅 Создано 2025-04-17
9
sylinrl/TruthfulQA

TruthfulQA: Измерение того, как модели имитируют человеческие заблуждения

sylinrl
⭐ 922 Jupyter Notebook 👤 sylinrl User 🕐 Обновлено 2025-01-16 📅 Создано 2021-08-24
10
centerforaisafety/HarmBench

HarmBench: Стандартизированная система оценки для автоматического Red Teaming и надежного отказа

centerforaisafety
⭐ 819 Jupyter Notebook 👤 centerforaisafety Organization 🕐 Обновлено 2024-08-16 📅 Создано 2024-02-02
12
liuxiaomingskm/datashield-lightweight-labs

Легковесный инструмент для защиты конфиденциальности/пользовательских данных в Интернете

liuxiaomingskm
⭐ 649 MDX 👤 liuxiaomingskm User 🕐 Обновлено 2025-12-28 📅 Создано 2025-12-28
13
chrisliu298/awesome-llm-unlearning

Репозиторий ресурсов для машинного обучения в больших языковых моделях

chrisliu298
⭐ 640 👤 chrisliu298 User 🕐 Обновлено 2026-10-06 📅 Создано 2024-03-27
14
HowieHwong/TrustLLM

[ICML 2024] TrustLLM: оценка надёжности LLM по критериям правдивости, безопасности, справедливости, устойчивости, конфиденциальности и этичности. Набор инструментов Python/CLI для локальных моделей, совместимых API и оркестрации ИИ-агентов.

HowieHwong
⭐ 635 Python 👤 HowieHwong User 🕐 Обновлено 2026-10-04 📅 Создано 2023-12-23

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-safety наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-safety на GitHub — NVIDIA-NeMo/Guardrails, набравший 7,539 звёзд. NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-safety?

Среди наиболее высоко оценённых проектов по теме #llm-safety на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, TypeScript, HTML.

3

Как рассчитывается рейтинг репозиториев по теме #llm-safety?

Мы отслеживаем 17 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-safety (500 и более звёзд), с общим числом 27,235 звёзд и в среднем 1,602 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.