Eric, fondateur de Consus, a lancé une passerelle LLM conçue pour les entreprises qui manipulent des données sensibles. Consus achemine les requêtes d'IA vers une infrastructure conforme aux restrictions ITAR et aux informations non classifiées contrôlées (CUI). La société affirme respecter les restrictions ITAR et avoir récemment achevé un audit d'équivalence FedRAMP portant sur les 410 contrôles FedRAMP High, la référence de sécurité la plus stricte du gouvernement américain pour les services cloud traitant des données sensibles non classifiées.
Eric a passé une grande partie de sa carrière dans l'aérospatiale et la défense, lançant des charges utiles de sécurité nationale chez SpaceX et travaillant comme premier employé de Castelion. Selon lui, les exigences de conformité empêchent souvent les entreprises d'adopter l'IA, même lorsqu'elles en perçoivent la valeur. Certaines sociétés craignent que les fournisseurs de modèles entraînent leurs modèles sur leurs données, enfreignent les règles ITAR ou perdent des contrats après une évaluation de cybersécurité défavorable.
Consus fonctionne comme une couche d'inférence conforme qui se connecte à des outils tels que ChatGPT, Claude, Open WebUI et l'agent de programmation Pi, ainsi qu'à des applications sur mesure. Chaque requête transite par un point d'accès unique compatible OpenAI, où les clés sont vérifiées et la politique appliquée. Les noms de modèles doivent comporter un suffixe de conformité, comme gpt-5.6-sol:fedramp-high ; les noms de modèles nus sont rejetés. Les clients peuvent établir des listes d'autorisation de modèles et définir, par utilisateur, des plafonds de dépenses et des restrictions de modèles via le Consus Portal.
L'entreprise soutient que peu de sociétés aérospatiales et de défense utilisent les trois grands cloud gouvernementaux (AWS, Azure et Google), et que les modèles sont répartis entre plusieurs fournisseurs. Consus fait fonctionner ces environnements derrière un seul point d'accès et prend en charge le travail de conformité pour chacun d'eux. Elle indique également ne pas stocker les données clients au repos : les prompts et les réponses ne sont conservés en mémoire que pendant la durée de chaque requête.
Source: Hacker News · Résumé par HeadlinesBriefing