#guardrails Репозитории
Откройте для себя 28 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #guardrails, с общим числом 88,267 звёзд (в среднем 3,152 на проект). Лидером этой темы является data-privacy-stack/presidio, набравший 11,994 звёзд.
Всего репозиториев: 28
Открытая структура для обнаружения, редактирования, маскировки и анонимизации конфиденциальных данных (PII) в тексте, изображениях и структурированных данных. Поддерживает NLP, сопоставление шаблонов и настраиваемые каналы.
Наблюдаемость и контроль для сред выполнения ИИ-агентов. Фиксируйте каждый запуск и обеспечивайте надёжность во время выполнения с помощью принудительного применения политик.
Высокопроизводительный шлюз ИИ с открытым исходным кодом, который работает как шлюз для LLM, MCP и агентов. Единый API, совместимый с OpenAI, для более чем 10 000 моделей; поддерживает автоматическое переключение при сбоях, балансировку нагрузки, семантическое кэширование, виртуальные ключи, бюджеты и MCP Code Mode. Работает с любыми SDK и агентами, добавляя менее 200 мкс задержки при 5k RPS.
NeMo Guardrails — это библиотека с открытым исходным кодом для применения программируемых средств обеспечения безопасности и защиты в приложениях на основе LLM и агентных приложениях.
Superagent защищает ваши приложения ИИ от инъекций промптов, утечек данных и вредоносных результатов. Внедрите меры безопасности непосредственно в ваше приложение и докажите соответствие требованиям вашим клиентам.
Открытый программируемый слой принятия решений для моделей и вычислений.
Stop That Shit | Кроссплатформенный Hook + Skill Guard для ИИ-агентов кодинга в рабочих процессах Codex/GPT: блокирует нежелательные хеши, контрольные суммы и разрастание рамок задач.
Открытая платформа полного цикла для оценки, наблюдения и улучшения приложений LLM и ИИ-агентов. Tracing · Evals · Simulations · Datasets · Gateway · Guardrails. Самостоятельный хостинг. Apache 2.0.
Защита для ИИ-агентов программирования, работающая до выполнения команды. Она блокирует разрушительные команды Git и файловой системы, а также распространённые попытки доступа к конфиденциальным файлам до вызова инструмента. Поддерживаются Amp Code, Antigravity CLI, Claude Code, Codex, Cursor, DeepSeek Harness, Devin CLI, GitHub Copilot CLI, Grok Build, Hermes Agent, Kimi Code, OpenClaw, OpenCode и Pi.
Маршрутизируйте, управляйте и анализируйте свои запросы LLM у нескольких поставщиков с помощью унифицированного API-интерфейса.
Akto — самая быстрорастущая платформа для обеспечения безопасности ИИ, которая помогает вашим командам защищать ИИ-агентов, MCP, LLM, навыки агентов и приложения генеративного ИИ в вашей организации.
CUGA — это открытая платформа для универсальных агентов для предприятий, поддерживающая выполнение сложных задач в веб и API, интеграции OpenAPI/MCP, компонуемую архитектуру, режимы рассуждений и функции, учитывающие политики.
Защитный механизм для LLM и конвейеров RAG, в котором конфиденциальность стоит на первом месте. SurrogateShield в режиме реального времени обнаруживает, маскирует и восстанавливает конфиденциальные персональные данные (PII), одновременно защищая от состязательных атак.
⚕️Многоагентный медицинский диагностический чат-бот на базе GenAI для помощи в исследованиях в области здравоохранения. 🏥 Разработан для медицинских работников, исследователей и пациентов.
Средство защиты с открытым исходным кодом, работающее во время выполнения: оно маскирует конфиденциальные данные и блокирует деструктивные команды ИИ-агентов. Вам нужно изменить только одно: порт вашего агента.
Защищённая от подделки трассировка, проверки политик и перекрёстный контроль для ИИ-агентов: узнайте, что сделал агент и почему.
Исследование архитектур AGI с открытой внутренней структурой: метапознание (цикл самосознания), непрерывное обучение (маховик знаний), модель мира (условное пространство + семантический пространственно-временной граф), самоулучшение (дисциплина бутстрэппинга), конвейер с открытой внутренней структурой без LLM и проверяемые аудитором меры защиты доверия.
Фреймворк для ИИ-агентов на TypeScript: когнитивная память, динамические личности, эмерджентное поведение и саморазвивающиеся архитектуры
Надёжность вашего ИИ-агента для программирования зависит только от надёжности окружающего его тестового контура. Измерьте этот контур за считаные секунды с помощью harness-score.
Инфраструктура для агентного SDLC. Определяйте защитные ограничения. Собирайте сигналы. Обеспечивайте непрерывное соблюдение. Подписанные записи о действиях ваших ИИ-агентов для написания кода и конвейеров CI/CD, проверяемые на соответствие политикам в виде кода; цикл обратной связи замыкается в CI/CD. Сеансы ИИ, SBOM, VEX, SARIF и аттестации происхождения SLSA на базе Sigstore и in-toto. Apache 2.0.
Арендуйте модель. Всё остальное — ваше. Бесплатное приложение с открытым исходным кодом для реальной работы с ИИ.
Курированный список блогов, видео, учебных пособий, кода, инструментов, скриптов и всего полезного, что поможет вам изучить Azure Policy - от @JesseLoudon
🕷️ Самый быстрый шлюз для ИИ и LLM с открытым исходным кодом — один бинарный файл со встроенной консолью для маршрутизации, защиты, управления бюджетом и мониторинга каждого вызова LLM через OpenAI, Anthropic, Gemini, Bedrock и другие сервисы.
Плагин роя агентов для OpenCode, ориентированный на архитекторов. Оркестрация по модели «центр — периферия» с консультациями профильных специалистов, генерацией кода и проверкой качества.
Часто задаваемые вопросы
Какой репозиторий по теме #guardrails наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #guardrails на GitHub — data-privacy-stack/presidio, набравший 11,994 звёзд. Открытая структура для обнаружения, редактирования, маскировки и анонимизации конфиденциальных данных (PII) в тексте, изображениях и структурированных данных. Поддерживает NLP, сопоставление шаблонов и настраиваемые каналы.
Какие языки программирования чаще всего используются в репозиториях по теме #guardrails?
Среди наиболее высоко оценённых проектов по теме #guardrails на GitHub чаще всего используются языки программирования Python, TypeScript, Go, Rust.
Как рассчитывается рейтинг репозиториев по теме #guardrails?
Мы отслеживаем 28 активных репозиториев с открытым исходным кодом, отмеченных тегом #guardrails (500 и более звёзд), с общим числом 88,267 звёзд и в среднем 3,152 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.