#llm-safety Репозитории
Откройте для себя 17 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-safety, с общим числом 27,235 звёзд (в среднем 1,602 на проект). Лидером этой темы является NVIDIA-NeMo/Guardrails, набравший 7,539 звёзд.
Всего репозиториев: 17
NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.
[NeurIPS 2026] Сбои безопасности в агентах для программирования и передовых LLM. Воспроизводимые рабочие среды для изучения того, когда ИИ-агенты генерируют небезопасные данные при выполнении задач.
Курированный список работ, статей и ресурсов по безопасности, посвященных большим языковым моделям (LLM). Этот репозиторий призван предоставить исследователям, практикам и энтузиастам информацию о последствиях для безопасности, проблемах и достижениях, связанных с этими мощными моделями.
Агент аудита выравнивания, способный быстро исследовать гипотезы выравнивания
[JMLR 2026] UQLM: пакет Python для обнаружения галлюцинаций больших языковых моделей с помощью количественной оценки неопределённости
HarmBench: Стандартизированная система оценки для автоматического Red Teaming и надежного отказа
Легковесный инструмент для защиты конфиденциальности/пользовательских данных в Интернете
Репозиторий ресурсов для машинного обучения в больших языковых моделях
[ICML 2024] TrustLLM: оценка надёжности LLM по критериям правдивости, безопасности, справедливости, устойчивости, конфиденциальности и этичности. Набор инструментов Python/CLI для локальных моделей, совместимых API и оркестрации ИИ-агентов.
Часто задаваемые вопросы
Какой репозиторий по теме #llm-safety наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-safety на GitHub — NVIDIA-NeMo/Guardrails, набравший 7,539 звёзд. NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.
Какие языки программирования чаще всего используются в репозиториях по теме #llm-safety?
Среди наиболее высоко оценённых проектов по теме #llm-safety на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, TypeScript, HTML.
Как рассчитывается рейтинг репозиториев по теме #llm-safety?
Мы отслеживаем 17 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-safety (500 и более звёзд), с общим числом 27,235 звёзд и в среднем 1,602 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.