#ai-safety Repositorios
53
Total de Repositorios
169,967
Total de estrellas
3,206
Promedio de Estrellas/Repo
53 repositorios en total
51
Floe-Labs/floe-guard
El medidor de gasto y la barrera presupuestaria para agentes de voz con IA. Mide STT + TTS + LLM + telefonía por llamada, sin configuración adicional (Pipecat, LiveKit — Python y TypeScript). Detiene por la fuerza el siguiente turno antes de que supere tu límite. Local, sin cuenta y sin telemetría. Creado por Floe: controles de costes para la Voice AI.
52
cordum-io/cordum
El cortafuegos de acciones para agentes de IA. Aplica políticas y exige aprobación humana antes de ejecutar llamadas a herramientas de riesgo, comandos de shell, flujos de trabajo y cambios en producción, con evidencias auditables.
53
erwinmsmith/SOMAS
Un marco de interacción de aprendizaje por refuerzo humano-multiagente confiable