#ai-safety Репозитории
53
Всего репозиториев
169,967
Всего звезд
3,206
Среднее количество звезд на репозиторий
Всего репозиториев: 53
51
Floe-Labs/floe-guard
Счётчик расходов и бюджетный ограничитель для голосовых ИИ-агентов. Из коробки измеряет STT + TTS + LLM + телефонию для каждого вызова (Pipecat, LiveKit — Python и TypeScript). Принудительно останавливает следующий ход, прежде чем будет превышен ваш лимит. Локальная работа, без учётной записи и телеметрии. Разработано Floe — контроль затрат для Voice AI.
52
cordum-io/cordum
Брандмауэр действий для ИИ-агентов. Обеспечивайте соблюдение политик и получение одобрения человека перед рискованными вызовами инструментов, выполнением команд оболочки, рабочих процессов и изменениями в продуктивной среде, сохраняя проверяемые аудиторские свидетельства.
53
erwinmsmith/SOMAS
Надежная основа для взаимодействия человека и нескольких агентов в обучении с подкреплением