Consus创始人Eric推出了一款面向处理敏感数据企业的LLM网关。Consus将AI请求路由至符合ITAR限制和受控非密信息(CUI)要求的基础设施。该公司表示,其产品满足ITAR限制,并且最近已针对410项FedRAMP High控制措施完成FedRAMP等效审计。FedRAMP High是美国政府针对处理敏感非密数据的云服务所设定的最严格安全基线。
Eric在职业生涯的大部分时间里都在航空航天和国防领域工作,曾在SpaceX发射国家安全载荷,并担任Castelion的早期员工。他表示,合规要求往往会阻碍企业采用AI,即使它们认识到其价值。一些公司担心模型提供商会用其数据进行训练、违反ITAR规定,或在网络安全评估失败后失去业务。
Consus作为合规的推理层运行,可连接ChatGPT、Claude、Open WebUI和Pi编码代理等工具,以及定制应用程序。每个请求都通过一个与OpenAI兼容的单一端点,在该端点验证密钥并执行策略。模型名称必须带有合规后缀,例如gpt-5.6-sol:fedramp-high,裸模型名称将被拒绝。客户可以通过Consus Portal构建模型白名单,并为每位用户设置支出和模型限制。
该公司指出,很少有航空航天和国防企业同时使用全部三大政府云(AWS、Azure和Google),而且模型分散在不同提供商之上。Consus通过一个端点运行这些环境,并负责各环境的合规工作。该公司还表示,它不会静态存储客户数据,提示和生成内容仅在每个请求期间保留在内存中。
来源: Hacker News · 由HeadlinesBriefing整理摘要