HeadlinesBriefing favicon HeadlinesBriefing.com

Conduct AI: Gobernanza en tiempo de ejecución para IA

Hacker News •
×

Conduct AI ofrece gobernanza en tiempo de ejecución para agentes de IA a través de dos productos: Guard, un motor de políticas que bloquea, advierte, audita o inyecta acciones antes de la ejecución, y Router, un proxy de LLM que enruta solicitudes a través de Guard. Ambos comparten una política y repositorio, con configuración firmada y registros de auditoría encadenados con hash para prueba criptográfica.

Las características clave incluyen firewalls en tiempo de ejecución que controlan las acciones antes de que ocurran, a diferencia de las herramientas de observabilidad que solo informan después. El foso de tres pilares asegura la integridad de la configuración mediante políticas firmadas por el espacio de trabajo, la integridad de la auditoría mediante la cadena SHA-256, y cobertura para llamadas LLM y shell/MCP. Los modos de fallo están cerrados por defecto.

Comenzar es fácil: clone el repositorio, ejecute docker compose y apunte su SDK a la API local. Para herramientas CLI, instale conduct-cli e inicie sesión. La plataforma incluye más de 20 paquetes de cumplimiento (OWASP, SOC 2, HIPAA, PCI DSS, EU AI Act, NIST, ISO 42001) y 22 playbooks preconstruidos para flujos de trabajo comunes.

La arquitectura incluye un backend FastAPI, Postgres para estado, Redis para colas y una interfaz de usuario Canvas de Next.js. Las comprobaciones de Guard se activan en tres puntos de estrangulamiento: ganchos CLI para agentes de codificación, capa MCP para llamadas de herramientas y Router para cualquier SDK. El despliegue es autoalojado mediante docker compose.

Entidades clave: Empresas: Conduct AI