HeadlinesBriefing HeadlinesBriefing.com

Consus:機密データ向けコンプライアンスLLMゲートウェイ

Hacker News •
×

Consusの創業者Ericは、機密データを扱う企業向けに設計されたLLMゲートウェイを立ち上げました。Consusは、AIリクエストをITAR規制および管理対象非機密情報(CUI)に準拠したインフラにルーティングします。同社は、ITAR規制を満たしており、機密性の高い非機密データを扱うクラウドサービスに対する米政府で最も厳格なセキュリティ基準であるFedRAMP Highの410の管理策に対するFedRAMP同等性監査を最近完了したと述べています。

Ericはキャリアの大半を航空宇宙と防衛の分野で過ごし、SpaceXでは国家安全保障向けのペイロードを打ち上げ、Castelionでは初期の社員として勤務しました。彼によると、企業はAIの価値を理解していても、コンプライアンス要件によって導入を見送ることが少なくありません。一部の企業は、モデルプロバイダーが自社データで学習すること、ITAR規則に違反すること、あるいはサイバーセキュリティ評価に不合格となって取引を失うことを懸念しています。

Consusはコンプライアンス対応の推論レイヤーとして機能し、ChatGPT、Claude、Open WebUI、Piコーディングエージェントといったツールやカスタムアプリケーションと接続します。すべてのリクエストは単一のOpenAI互換エンドポイントを経由し、そこでキーの検証とポリシーの適用が行われます。モデル名にはgpt-5.6-sol:fedramp-highのようなコンプライアンス用サフィックスを付ける必要があり、サフィックスのないモデル名は拒否されます。顧客はConsus Portalを通じて、モデルの許可リストを作成したり、ユーザーごとに支出上限やモデルの制限を設定したりできます。

同社は、航空宇宙や防衛の企業で主要な3つのGovCloud(AWS、Azure、Google)をすべて利用している例は少なく、モデルも複数のプロバイダーに分散していると指摘しています。Consusはこれらの環境を単一のエンドポイントの背後で運用し、それぞれのコンプライアンス対応を担います。また、顧客データを保存型で保持しないとしており、プロンプトと応答は各リクエストの処理中のみメモリ上に保持されるとしています。

出典: Hacker News · 要約:HeadlinesBriefing