HeadlinesBriefing HeadlinesBriefing.com

Consus: pasarela LLM conforme para datos sensibles

Hacker News •
×

Eric, fundador de Consus, ha lanzado una pasarela LLM diseñada para empresas que manejan datos sensibles. Consus enruta las solicitudes de IA a infraestructura conforme con las normas ITAR y con la información no clasificada controlada (CUI). La compañía afirma que cumple las restricciones de ITAR y que recientemente completó una auditoría de equivalencia FedRAMP frente a los 410 controles de FedRAMP High, la base de seguridad más estricta del gobierno de EE. UU. para servicios en la nube que manejan datos no clasificados sensibles.

Eric pasó gran parte de su carrera en los sectores aeroespacial y de defensa, lanzando cargas útiles de seguridad nacional en SpaceX y trabajando como empleado temprano en Castelion. Afirma que los requisitos de cumplimiento a menudo impiden que las empresas adopten la IA, aunque reconozcan su valor. Algunas firmas temen que los proveedores de modelos entrenen con sus datos, infrinjan las normas ITAR o pierdan negocios tras una evaluación de ciberseguridad fallida.

Consus funciona como una capa de inferencia conforme que se conecta a herramientas como ChatGPT, Claude, Open WebUI y el agente de programación Pi, así como a aplicaciones personalizadas. Cada solicitud pasa por un único punto de acceso compatible con OpenAI, donde se verifican las claves y se aplica la política. Los nombres de los modelos deben incluir un sufijo de cumplimiento, como gpt-5.6-sol:fedramp-high, y los nombres de modelo sin sufijo son rechazados. Los clientes pueden crear listas blancas de modelos y establecer límites de gasto y de modelos por usuario a través del Consus Portal.

La empresa sostiene que pocas firmas aeroespaciales y de defensa utilizan las tres principales nubes gubernamentales (AWS, Azure y Google), y que los modelos están repartidos entre proveedores. Consus gestiona estos entornos detrás de un único punto de acceso y se encarga del trabajo de cumplimiento de cada uno. También afirma que no almacena los datos de los clientes en reposo, y que mantiene los prompts y las respuestas solo en memoria durante la duración de cada solicitud.

Fuente: Hacker News · Resumido por HeadlinesBriefing