Git Stars Git Stars

#ai-safety 仓库

53
仓库总数
169,967
总星标数
3,206
平均每个仓库星标数
编程语言: Python Go
51
Floe-Labs/floe-guard

面向 AI 语音代理的支出计量器与预算闸门。开箱即用地按每次通话计量 STT + TTS + LLM + 通信费用(Pipecat、LiveKit — Python 与 TypeScript)。在下一轮对话超出你的上限之前强制停止。本地运行,无需账户,不收集遥测数据。由 Floe 打造——为 Voice AI 提供成本控制。

Floe-Labs
⭐ 517 Python 👤 Floe-Labs Organization 🕐 已更新 2026-08-24 📅 创建时间 2026-06-14
52
cordum-io/cordum

AI 代理的行动防火墙。在执行高风险工具调用、Shell 命令、工作流和生产环境变更之前,强制执行策略并要求人工审批,同时保留可审计的证据。

cordum-io
⭐ 507 Go 👤 cordum-io Organization 🕐 已更新 2026-11-19 📅 创建时间 2026-01-11
53
erwinmsmith/SOMAS

一个可信赖的人类-多智能体强化学习交互框架

erwinmsmith
⭐ 502 Python 👤 erwinmsmith User 🕐 已更新 2026-10-04 📅 创建时间 2025-05-13