Основатель Consus Eric запустил шлюз LLM, созданный для компаний, работающих с чувствительными данными. Consus направляет запросы к ИИ в инфраструктуру, соответствующую ограничениям ITAR и требованиям к контролируемой неклассифицированной информации (CUI). Компания заявляет, что соответствует ограничениям ITAR и недавно прошла аудит эквивалентности FedRAMP по 410 контролям FedRAMP High, являющимся самым строгим стандартом безопасности правительства США для облачных сервисов, обрабатывающих чувствительную неклассифицированную информацию.
Eric большую часть карьеры провел в аэрокосмической отрасли и сфере обороны: он запускал полезные нагрузки для национальной безопасности в SpaceX и был одним из первых сотрудников Castelion. По его словам, требования соответствия часто мешают компаниям внедрять ИИ, даже когда они понимают его ценность. Некоторые фирмы опасаются, что провайдеры моделей будут обучаться на их данных, нарушат правила ITAR или потеряют клиентов после неудачной оценки кибербезопасности.
Consus работает как соответствующий требованиям уровень инференса, который подключается к таким инструментам, как ChatGPT, Claude, Open WebUI и агент для программирования Pi, а также к пользовательским приложениям. Каждый запрос проходит через единую точку доступа, совместимую с OpenAI, где проверяются ключи и применяется политика. Названия моделей должны содержать суффикс соответствия, например gpt-5.6-sol:fedramp-high, а названия без суффикса отклоняются. Клиенты могут создавать списки разрешенных моделей и задавать для каждого пользователя лимиты расходов и ограничения на модели через Consus Portal.
По мнению компании, немногие аэрокосмические и оборонные фирмы используют все три крупнейших государственных облака (AWS, Azure и Google), а модели распределены между разными провайдерами. Consus запускает эти среды за одной точкой доступа и берет на себя работу по соответствию требованиям для каждой из них. Компания также заявляет, что не хранит данные клиентов постоянно: запросы и ответы сохраняются только в памяти на время выполнения каждого запроса.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing