#ai-red-team Репозитории
Откройте для себя 8 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #ai-red-team, с общим числом 20,336 звёзд (в среднем 2,542 на проект). Лидером этой темы является Giskard-AI/giskard-oss, набравший 5,965 звёзд.
Всего репозиториев: 8
🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
Открытый инструментарий Microsoft для тестирования ИИ методом red teaming. Проверяйте генеративные ИИ-системы с помощью автоматизированного сканирования, адаптивных многошаговых атак и веб-интерфейса.
Лаборатории игровой площадки AI Red Teaming для проведения тренингов по AI Red Teaming, включая инфраструктуру.
Мощный инструмент для автоматизированного фаззинга LLM. Он разработан, чтобы помочь разработчикам и исследователям безопасности выявлять и смягчать потенциальные обходы защиты (jailbreaks) в их LLM API.
Автономное тестирование на проникновение с использованием ИИ и открытым исходным кодом. 50 специализированных агентов для веб-приложений, API, облака, Active Directory, Kubernetes, CI/CD и ИИ/LLM (OWASP LLM Top 10), а также граф путей атаки, проверенный на основе доказательств. Работает на локальной LLM за шлюзом конфиденциальности. Интегрируется с GitHub, GitLab, Jenkins, VS Code, JetBrains, n8n, Grafana и Splunk.
Набор средств безопасности для наступательной/оборонительной деятельности, предназначенный для обнаружения, разведки и этической оценки агентов ИИ
Полное руководство по состязательному тестированию и оценке безопасности систем ИИ, помогающее организациям выявлять уязвимости до того, как ими воспользуются злоумышленники.
Часто задаваемые вопросы
Какой репозиторий по теме #ai-red-team наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #ai-red-team на GitHub — Giskard-AI/giskard-oss, набравший 5,965 звёзд. 🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
Какие языки программирования чаще всего используются в репозиториях по теме #ai-red-team?
Среди наиболее высоко оценённых проектов по теме #ai-red-team на GitHub чаще всего используются языки программирования Python, TypeScript, Jupyter Notebook.
Как рассчитывается рейтинг репозиториев по теме #ai-red-team?
Мы отслеживаем 8 активных репозиториев с открытым исходным кодом, отмеченных тегом #ai-red-team (500 и более звёзд), с общим числом 20,336 звёзд и в среднем 2,542 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.