Eric, fundador da Consus, lançou um gateway LLM projetado para empresas que lidam com dados sensíveis. A Consus direciona solicitações de IA para infraestrutura em conformidade com as restrições do ITAR e com as informações não classificadas controladas (CUI). A empresa afirma que atende às restrições do ITAR e que concluiu recentemente uma auditoria de equivalência FedRAMP em relação aos 410 controles do FedRAMP High, a base de segurança mais rigorosa do governo dos EUA para serviços em nuvem que processam dados sensíveis não classificados.
Eric dedicou grande parte de sua carreira às áreas aeroespacial e de defesa, tendo lançado cargas úteis de segurança nacional na SpaceX e atuado como funcionário inicial da Castelion. Ele afirma que os requisitos de conformidade frequentemente impedem as empresas de adotar a IA, mesmo quando reconhecem seu valor. Algumas empresas temem que os provedores de modelos treinem com seus dados, violem as regras do ITAR ou percam negócios após uma avaliação de cibersegurança malsucedida.
A Consus atua como uma camada de inferência em conformidade, conectando-se a ferramentas como ChatGPT, Claude, Open WebUI e o agente de programação Pi, além de aplicações personalizadas. Cada solicitação passa por um único endpoint compatível com a OpenAI, onde as chaves são verificadas e a política é aplicada. Os nomes dos modelos devem conter um sufixo de conformidade, como gpt-5.6-sol:fedramp-high, e nomes de modelos sem o sufixo são rejeitados. Os clientes podem criar listas de modelos permitidos e definir limites de gastos e restrições de modelos por usuário por meio do Consus Portal.
A empresa argumenta que poucas empresas aeroespaciais e de defesa utilizam as três principais nuvens governamentais (AWS, Azure e Google), e que os modelos estão distribuídos entre provedores. A Consus opera esses ambientes por trás de um único endpoint e cuida do trabalho de conformidade de cada um. Ela também afirma que não armazena dados de clientes em repouso, mantendo prompts e respostas apenas na memória pelo tempo de cada solicitação.
Fonte: Hacker News · Resumido por HeadlinesBriefing