#safety Репозитории
Откройте для себя 25 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #safety, с общим числом 46,185 звёзд (в среднем 1,847 на проект). Лидером этой темы является NVIDIA-NeMo/Guardrails, набравший 7,539 звёзд.
Всего репозиториев: 25
NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.
Быстрый защитный хук на Rust, который блокирует разрушительные команды shell, git и файловой системы до того, как их выполнят ИИ-агенты для программирования. Более 50 пакетов безопасности (базы данных, Kubernetes, Docker, облачные сервисы, Terraform), проверка heredoc и встроенных скриптов, режим сканирования CI и режим объяснения; работает с Claude Code, Codex, Gemini, Copilot, Cursor и другими инструментами.
🔐CNCF Security Technical Advisory Group — безопасный доступ, управление политиками, конфиденциальность, аудит, объяснимость и многое другое!
Список литературы по безопасности, защищенности и конфиденциальности больших моделей (включая Awesome LLM Security, Safety и т. д.).
Awesome-Jailbreak-on-LLMs — это коллекция передовых, новых, захватывающих методов обхода защиты LLM. Он содержит статьи, коды, наборы данных, оценки и аналитические материалы.
Безопасный RLHF: Ограниченное согласование ценностей посредством безопасного обучения с подкреплением на основе обратной связи от человека
Список ресурсов по практикам программирования для написания программного обеспечения для систем, критически важных для безопасности.
Защитите отпечатки вашего браузера | Protect Your Browser Fingerprints | Chrome, Edge, Firefox | Расширение / Extension
Библиотека доменно-корректных величин и единиц для C++ — полная безопасность типов величин, соответствует ISO 80000, кандидат на стандартизацию C++29.
☕ Latte: самые безопасные и по-настоящему интуитивные шаблоны для PHP. Движок для тех, кто хочет самые безопасные сайты на PHP.
Китайские промпты безопасности для оценки и улучшения безопасности LLM. Китайские промпты безопасности, используемые для оценки и повышения безопасности больших моделей.
ClawKeeper: Комплексная защита безопасности для агентов OpenClaw с помощью навыков, плагинов и наблюдателей (он же Norton для OpenClaw)
Среды PyBullet CartPole и Quadrotor — с символической априорной динамикой CasADi — для обучения на основе обучения и RL
Awesome-LLM-Robustness: курируемый список по неопределенности, надежности и устойчивости в больших языковых моделях
Репозиторий предназначен для безопасных базовых методов обучения с подкреплением.
🌍 Репозиторий списков блокировки для различных DNS-серверов, содержащий более 100 ссылок и более 6 миллионов доменов. Кроме того, вы можете использовать наш персонализированный генератор списков блокировки для настройки фильтрации контента в соответствии с вашими индивидуальными потребностями, предоставляя вам полный контроль над тем, что должно быть заблокировано в вашей сети.
⚒️ Преобразует JsonValues в ваш настраиваемый тип TypeScript.
Джейлбрейки ИИ: 35 готовых к вставке промптов для обхода ограничений ИИ, предназначенных для более чем 25 передовых моделей и моделей с открытыми весами, — системные промпты, спецификации AGENTS.md и файлы Modelfile для Ollama. Созданы для исследований безопасности ИИ и тестирования красной командой.
Генерация, проверка и обработка безопасных форм в PHP. Удобный API, полностью настраиваемый, проверка на стороне сервера и клиента, продуманный дизайн.
Часто задаваемые вопросы
Какой репозиторий по теме #safety наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #safety на GitHub — NVIDIA-NeMo/Guardrails, набравший 7,539 звёзд. NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.
Какие языки программирования чаще всего используются в репозиториях по теме #safety?
Среди наиболее высоко оценённых проектов по теме #safety на GitHub чаще всего используются языки программирования Python, TypeScript, PHP, Rust.
Как рассчитывается рейтинг репозиториев по теме #safety?
Мы отслеживаем 25 активных репозиториев с открытым исходным кодом, отмеченных тегом #safety (500 и более звёзд), с общим числом 46,185 звёзд и в среднем 1,847 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.