HeadlinesBriefing HeadlinesBriefing 12 languages

Launch HN: Consus (YC F24) – LLM gateway for companies handling sensitive data

Hacker News ·

🇬🇧 English

Eric, founder of Consus, has launched an LLM gateway built for companies handling sensitive data. Consus routes AI requests to ITAR-restricted and controlled unclassified information (CUI) compliant infrastructure. The company says it satisfies ITAR restrictions and recently completed a FedRAMP equivalency audit against the 410 FedRAMP High controls, the U.S. government's strictest security baseline for cloud services handling sensitive unclassified data.

Eric spent much of his career in aerospace and defense, launching national security payloads at SpaceX and working as an early employee at Castelion. He says compliance requirements often stop companies from adopting AI, even when they see its value. Some firms fear model providers will train on their data, violate ITAR rules, or lose business after a failed cyber assessment.

Consus works as a compliant inference layer that connects to tools such as ChatGPT, Claude, Open WebUI and the Pi coding agent, as well as custom applications. Every request passes through a single OpenAI-compatible endpoint, where keys are verified and policy is enforced. Model names must carry a compliance suffix, such as gpt-5.6-sol:fedramp-high, and bare model names are rejected. Customers can build model allowlists and set spend and model restrictions per user through the Consus Portal.

The company argues that few aerospace and defense firms use all three major GovClouds (AWS, Azure and Google), and that models are split across providers. Consus runs these environments behind one endpoint and handles the compliance work for each. It also states that it does not store customer data at rest, keeping prompts and completions in memory only for the length of each request.

View original article →


🇸🇦 العربية

Consus: بوابة LLM متوافقة للبيانات الحساسة

أطلق Eric، مؤسس Consus، بوابة LLM مصممة للشركات التي تتعامل مع البيانات الحساسة. توجّه Consus طلبات الذكاء الاصطناعي إلى بنية تحتية متوافقة مع قواعد ITAR والمعلومات غير السرية الخاضعة للرقابة (CUI). تقول الشركة إنها تستوفي قيود ITAR، وإنها أكملت مؤخراً تدقيق المعادلة مع FedRAMP مقابل ضوابط FedRAMP High البالغ عددها 410، وهي المعيار الأمني الأكثر صرامة لدى الحكومة الأمريكية لخدمات الحوسبة السحابية التي تتعامل مع البيانات غير السرية الحساسة.

أمضى Eric جزءاً كبيراً من حياته المهنية في قطاعي الفضاء والدفاع، إذ أطلق حمولات تتعلق بالأمن القومي في SpaceX وعمل موظفاً مبكراً في Castelion. ويقول إن متطلبات الامتثال كثيراً ما تمنع الشركات من تبني الذكاء الاصطناعي، حتى حين تدرك قيمته. وتخشى بعض الشركات أن يتدرب مزودو النماذج على بياناتها، أو أن يخالفوا قواعد ITAR، أو أن تخسر أعمالها بعد تقييم أمني سيبراني فاشل.

تعمل Consus كطبقة استدلال متوافقة تتصل بأدوات مثل ChatGPT وClaude وOpen WebUI ووكيل البرمجة Pi، إضافةً إلى التطبيقات المخصصة. تمر كل طلب عبر نقطة نهاية واحدة متوافقة مع OpenAI، حيث يتم التحقق من المفاتيح وفرض السياسات. يجب أن تحمل أسماء النماذج لاحقة امتثال، مثل gpt-5.6-sol:fedramp-high، وتُرفض أسماء النماذج المجردة. ويمكن للعملاء إنشاء قوائم سماح للنماذج وتحديد حدود الإنفاق والنماذج لكل مستخدم من خلال Consus Portal.

تجادل الشركة بأن قلة من شركات الفضاء والدفاع تستخدم جميع السحابات الحكومية الكبرى الثلاث (AWS وAzure وGoogle)، وأن النماذج موزعة بين عدة مزودين. وتشغّل Consus هذه البيئات خلف نقطة نهاية واحدة وتتولى أعمال الامتثال لكل منها. كما تذكر أنها لا تخزن بيانات العملاء بشكل دائم، إذ تبقي الطلبات والردود في الذاكرة فقط طوال مدة كل طلب.

لماذا تحتاج شركات الفضاء والدفاع إلى بوابة ذكاء اصطناعي معادلة لـFedRAMP؟

تتطلب معالجة المعلومات غير السرية الخاضعة للرقابة الحصول على تفويض بمستوى FedRAMP High أو ما يعادله قبل المعالجة، كما تقيّد قواعد ITAR من يمكنه الوصول إلى هذه البيانات. تتيح البوابة المتوافقة لهذه الشركات استخدام نماذج الذكاء الاصطناعي المتقدمة مع الوفاء بهذه المتطلبات، دون الحاجة إلى إنشاء بيئات سحابية حكومية منفصلة.

العربية version →


🇧🇩 বাংলা

Consus: সংবেদনশীল ডেটার জন্য সম্মতিসম্পন্ন LLM গেটওয়ে

Consus-এর প্রতিষ্ঠাতা Eric সংবেদনশীল ডেটা নিয়ে কাজ করা কোম্পানিগুলোর জন্য একটি LLM গেটওয়ে চালু করেছেন। Consus AI অনুরোধগুলোকে ITAR-সীমাবদ্ধ এবং নিয়ন্ত্রিত অশ্রেণিবদ্ধ তথ্য (CUI)-সম্মত অবকাঠামোর দিকে পরিচালিত করে। কোম্পানির দাবি, এটি ITAR সীমাবদ্ধতা মেনে চলে এবং সম্প্রতি সংবেদনশীল অশ্রেণিবদ্ধ ডেটা পরিচালনাকারী ক্লাউড পরিষেবার জন্য মার্কিন সরকারের সবচেয়ে কঠোর নিরাপত্তা ভিত্তি FedRAMP High-এর 410টি নিয়ন্ত্রণের বিপরীতে একটি FedRAMP সমতুল্যতা নিরীক্ষা সম্পন্ন করেছে।

Eric তাঁর কর্মজীবনের বেশিরভাগ সময় মহাকাশ ও প্রতিরক্ষা খাতে কাটিয়েছেন। তিনি SpaceX-এ জাতীয় নিরাপত্তা পে-লোড উৎক্ষেপণ করেছেন এবং Castelion-এর একজন প্রাথমিক কর্মী ছিলেন। তাঁর মতে, সম্মতির প্রয়োজনীয়তা প্রায়শই কোম্পানিগুলোকে AI গ্রহণ করা থেকে বিরত রাখে, যদিও তারা এর মূল্য বোঝে। কিছু প্রতিষ্ঠানের আশঙ্কা, মডেল সরবরাহকারীরা তাদের ডেটা দিয়ে প্রশিক্ষণ নেবে, ITAR বিধি লঙ্ঘিত হবে, অথবা ব্যর্থ সাইবার মূল্যায়নের পর ব্যবসা হারাতে হবে।

Consus একটি সম্মতিসম্পন্ন ইনফারেন্স স্তর হিসেবে কাজ করে, যা ChatGPT, Claude, Open WebUI এবং Pi কোডিং এজেন্টের মতো টুলস এবং কাস্টম অ্যাপ্লিকেশনের সাথে সংযুক্ত হয়। প্রতিটি অনুরোধ একটি একক OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টের মধ্য দিয়ে যায়, যেখানে কী যাচাই করা হয় এবং নীতি কার্যকর করা হয়। মডেলের নামে gpt-5.6-sol:fedramp-high-এর মতো সম্মতি প্রত্যয় থাকতে হবে, এবং শুধু মডেলের নাম গ্রহণযোগ্য নয়। গ্রাহকরা Consus Portal-এর মাধ্যমে মডেলের অনুমোদন তালিকা তৈরি করতে পারেন এবং প্রতি ব্যবহারকারীর জন্য ব্যয় ও মডেলের সীমা নির্ধারণ করতে পারেন।

কোম্পানির যুক্তি, খুব কম মহাকাশ ও প্রতিরক্ষা প্রতিষ্ঠান তিনটি প্রধান GovCloud (AWS, Azure ও Google) ব্যবহার করে, এবং মডেলগুলো একাধিক সরবরাহকারীর মধ্যে ছড়িয়ে থাকে। Consus এই পরিবেশগুলো একটি এন্ডপয়েন্টের আড়ালে পরিচালনা করে এবং প্রতিটির সম্মতির কাজ নিজে সামলায়। কোম্পানি আরও বলে, এটি গ্রাহকের ডেটা স্থির অবস্থায় সংরক্ষণ করে না; প্রম্পট ও উত্তরগুলো শুধু প্রতিটি অনুরোধের সময়কাল পর্যন্ত মেমোরিতে রাখা হয়।

মহাকাশ ও প্রতিরক্ষা কোম্পানির কেন FedRAMP-সমতুল্য AI গেটওয়ের প্রয়োজন?

নিয়ন্ত্রিত অশ্রেণিবদ্ধ তথ্য প্রক্রিয়াকরণের আগে FedRAMP High স্তরের অনুমোদন বা সমতুল্যতা প্রয়োজন, এবং ITAR বিধি নির্ধারণ করে কারা এই ডেটায় প্রবেশ করতে পারবে। একটি সম্মতিসম্পন্ন গেটওয়ে এই কোম্পানিগুলোকে আলাদা সরকারি ক্লাউড পরিবেশ গড়ে না তুলেই অত্যাধুনিক AI মডেল ব্যবহার করার সুযোগ দেয়, এবং একই সাথে এসব শর্ত পূরণ করে।

বাংলা version →


🇩🇪 Deutsch

Consus: Konformes LLM-Gateway für sensible Daten

Eric, Gründer von Consus, hat ein LLM-Gateway vorgestellt, das für Unternehmen konzipiert ist, die sensible Daten verarbeiten. Consus leitet KI-Anfragen an Infrastruktur weiter, die den ITAR-Beschränkungen und den Anforderungen für kontrollierte unklassifizierte Informationen (CUI) entspricht. Das Unternehmen erklärt, die ITAR-Beschränkungen einzuhalten und kürzlich ein FedRAMP-Äquivalenzaudit gegen die 410 FedRAMP-High-Kontrollen abgeschlossen zu haben, die strengste Sicherheitsbasis der US-Regierung für Cloud-Dienste, die sensible unklassifizierte Daten verarbeiten.

Eric hat einen Großteil seiner Laufbahn in der Luft- und Raumfahrt sowie der Verteidigungsindustrie verbracht. Er startete Nutzlasten für die nationale Sicherheit bei SpaceX und arbeitete als einer der ersten Mitarbeiter bei Castelion. Er sagt, Compliance-Anforderungen hielten Unternehmen häufig davon ab, KI einzusetzen, selbst wenn sie deren Nutzen erkennen. Manche Firmen fürchten, dass Modellanbieter mit ihren Daten trainieren, gegen ITAR-Regeln verstoßen oder nach einer gescheiterten Cybersicherheitsprüfung Aufträge verlieren könnten.

Consus funktioniert als konforme Inferenzschicht, die sich mit Werkzeugen wie ChatGPT, Claude, Open WebUI und dem Pi-Coding-Agenten sowie mit individuellen Anwendungen verbindet. Jede Anfrage läuft über einen einzigen OpenAI-kompatiblen Endpunkt, an dem Schlüssel geprüft und Richtlinien durchgesetzt werden. Modellnamen müssen ein Compliance-Suffix tragen, etwa gpt-5.6-sol:fedramp-high; reine Modellnamen werden abgelehnt. Kunden können über das Consus Portal Modell-Allowlists erstellen sowie Ausgabenlimits und Modellbeschränkungen pro Nutzer festlegen.

Das Unternehmen argumentiert, dass nur wenige Luft- und Raumfahrt- sowie Verteidigungsfirmen alle drei großen GovClouds (AWS, Azure und Google) nutzen und Modelle auf verschiedene Anbieter verteilt sind. Consus betreibt diese Umgebungen hinter einem einzigen Endpunkt und übernimmt die Compliance-Arbeit für jede davon. Außerdem gibt das Unternehmen an, Kundendaten nicht im Ruhezustand zu speichern; Prompts und Antworten bleiben nur für die Dauer jeder Anfrage im Arbeitsspeicher.

Warum benötigen Luft- und Raumfahrt- sowie Verteidigungsunternehmen ein FedRAMP-äquivalentes KI-Gateway?

Die Verarbeitung kontrollierter unklassifizierter Informationen erfordert vor der Verarbeitung eine Autorisierung auf FedRAMP-High-Niveau oder eine Äquivalenz, und ITAR-Regeln beschränken, wer auf solche Daten zugreifen darf. Ein konformes Gateway ermöglicht es diesen Unternehmen, moderne KI-Modelle zu nutzen und dabei diese Anforderungen zu erfüllen, ohne eigene staatliche Cloud-Umgebungen aufbauen zu müssen.

Deutsch version →


🇪🇸 Español

Consus: pasarela LLM conforme para datos sensibles

Eric, fundador de Consus, ha lanzado una pasarela LLM diseñada para empresas que manejan datos sensibles. Consus enruta las solicitudes de IA a infraestructura conforme con las normas ITAR y con la información no clasificada controlada (CUI). La compañía afirma que cumple las restricciones de ITAR y que recientemente completó una auditoría de equivalencia FedRAMP frente a los 410 controles de FedRAMP High, la base de seguridad más estricta del gobierno de EE. UU. para servicios en la nube que manejan datos no clasificados sensibles.

Eric pasó gran parte de su carrera en los sectores aeroespacial y de defensa, lanzando cargas útiles de seguridad nacional en SpaceX y trabajando como empleado temprano en Castelion. Afirma que los requisitos de cumplimiento a menudo impiden que las empresas adopten la IA, aunque reconozcan su valor. Algunas firmas temen que los proveedores de modelos entrenen con sus datos, infrinjan las normas ITAR o pierdan negocios tras una evaluación de ciberseguridad fallida.

Consus funciona como una capa de inferencia conforme que se conecta a herramientas como ChatGPT, Claude, Open WebUI y el agente de programación Pi, así como a aplicaciones personalizadas. Cada solicitud pasa por un único punto de acceso compatible con OpenAI, donde se verifican las claves y se aplica la política. Los nombres de los modelos deben incluir un sufijo de cumplimiento, como gpt-5.6-sol:fedramp-high, y los nombres de modelo sin sufijo son rechazados. Los clientes pueden crear listas blancas de modelos y establecer límites de gasto y de modelos por usuario a través del Consus Portal.

La empresa sostiene que pocas firmas aeroespaciales y de defensa utilizan las tres principales nubes gubernamentales (AWS, Azure y Google), y que los modelos están repartidos entre proveedores. Consus gestiona estos entornos detrás de un único punto de acceso y se encarga del trabajo de cumplimiento de cada uno. También afirma que no almacena los datos de los clientes en reposo, y que mantiene los prompts y las respuestas solo en memoria durante la duración de cada solicitud.

¿Por qué las empresas aeroespaciales y de defensa necesitan una pasarela de IA equivalente a FedRAMP?

Manejar información no clasificada controlada requiere una autorización de nivel FedRAMP High o su equivalencia antes de procesarla, y las normas ITAR restringen quién puede acceder a esos datos. Una pasarela conforme permite a estas empresas usar modelos de IA de vanguardia cumpliendo esos requisitos, sin tener que crear entornos de nube gubernamentales separados.

Español version →


🇫🇷 Français

Consus : passerelle LLM conforme pour données sensibles

Eric, fondateur de Consus, a lancé une passerelle LLM conçue pour les entreprises qui manipulent des données sensibles. Consus achemine les requêtes d'IA vers une infrastructure conforme aux restrictions ITAR et aux informations non classifiées contrôlées (CUI). La société affirme respecter les restrictions ITAR et avoir récemment achevé un audit d'équivalence FedRAMP portant sur les 410 contrôles FedRAMP High, la référence de sécurité la plus stricte du gouvernement américain pour les services cloud traitant des données sensibles non classifiées.

Eric a passé une grande partie de sa carrière dans l'aérospatiale et la défense, lançant des charges utiles de sécurité nationale chez SpaceX et travaillant comme premier employé de Castelion. Selon lui, les exigences de conformité empêchent souvent les entreprises d'adopter l'IA, même lorsqu'elles en perçoivent la valeur. Certaines sociétés craignent que les fournisseurs de modèles entraînent leurs modèles sur leurs données, enfreignent les règles ITAR ou perdent des contrats après une évaluation de cybersécurité défavorable.

Consus fonctionne comme une couche d'inférence conforme qui se connecte à des outils tels que ChatGPT, Claude, Open WebUI et l'agent de programmation Pi, ainsi qu'à des applications sur mesure. Chaque requête transite par un point d'accès unique compatible OpenAI, où les clés sont vérifiées et la politique appliquée. Les noms de modèles doivent comporter un suffixe de conformité, comme gpt-5.6-sol:fedramp-high ; les noms de modèles nus sont rejetés. Les clients peuvent établir des listes d'autorisation de modèles et définir, par utilisateur, des plafonds de dépenses et des restrictions de modèles via le Consus Portal.

L'entreprise soutient que peu de sociétés aérospatiales et de défense utilisent les trois grands cloud gouvernementaux (AWS, Azure et Google), et que les modèles sont répartis entre plusieurs fournisseurs. Consus fait fonctionner ces environnements derrière un seul point d'accès et prend en charge le travail de conformité pour chacun d'eux. Elle indique également ne pas stocker les données clients au repos : les prompts et les réponses ne sont conservés en mémoire que pendant la durée de chaque requête.

Pourquoi les entreprises de l'aérospatiale et de la défense ont-elles besoin d'une passerelle IA équivalente à FedRAMP ?

Le traitement d'informations non classifiées contrôlées exige une autorisation de niveau FedRAMP High ou une équivalence avant tout traitement, et les règles ITAR limitent l'accès à ces données. Une passerelle conforme permet à ces entreprises d'utiliser des modèles d'IA de pointe tout en respectant ces exigences, sans avoir à mettre en place des environnements cloud gouvernementaux distincts.

Français version →


🇮🇳 हिन्दी

Consus: संवेदनशील डेटा के लिए अनुपालन-योग्य LLM गेटवे

Consus के संस्थापक Eric ने संवेदनशील डेटा संभालने वाली कंपनियों के लिए एक LLM गेटवे लॉन्च किया है। Consus AI अनुरोधों को ITAR-प्रतिबंधित और नियंत्रित अवर्गीकृत सूचना (CUI) के अनुरूप बुनियादी ढांचे की ओर भेजता है। कंपनी का कहना है कि वह ITAR प्रतिबंधों को पूरा करती है और हाल ही में उसने 410 FedRAMP High नियंत्रणों के विरुद्ध FedRAMP समतुल्यता ऑडिट पूरा किया है, जो संवेदनशील अवर्गीकृत डेटा संभालने वाली क्लाउड सेवाओं के लिए अमेरिकी सरकार का सबसे सख्त सुरक्षा आधार है।

Eric ने अपने करियर का बड़ा हिस्सा एयरोस्पेस और रक्षा क्षेत्र में बिताया है, जहां उन्होंने SpaceX में राष्ट्रीय सुरक्षा पेलोड लॉन्च किए और Castelion में एक शुरुआती कर्मचारी के रूप में काम किया। उनका कहना है कि अनुपालन आवश्यकताएं अक्सर कंपनियों को AI अपनाने से रोक देती हैं, भले ही वे उसका मूल्य समझती हों। कुछ फर्मों को डर है कि मॉडल प्रदाता उनके डेटा पर प्रशिक्षण करेंगे, ITAR नियमों का उल्लंघन होगा, या विफल साइबर आकलन के बाद व्यापार खो जाएगा।

Consus एक अनुपालन इन्फेरेंस लेयर के रूप में काम करता है, जो ChatGPT, Claude, Open WebUI और Pi coding agent जैसे टूल्स के साथ-साथ कस्टम एप्लिकेशन से जुड़ता है। हर अनुरोध एक ही OpenAI-संगत एंडपॉइंट से गुजरता है, जहां कुंजियों की पुष्टि की जाती है और नीति लागू की जाती है। मॉडल नामों में gpt-5.6-sol:fedramp-high जैसा अनुपालन प्रत्यय होना आवश्यक है, और बिना प्रत्यय वाले मॉडल नाम अस्वीकार कर दिए जाते हैं। ग्राहक Consus Portal के माध्यम से मॉडल allowlist बना सकते हैं और प्रति उपयोगकर्ता खर्च व मॉडल प्रतिबंध तय कर सकते हैं।

कंपनी का तर्क है कि बहुत कम एयरोस्पेस और रक्षा फर्में तीनों प्रमुख GovClouds (AWS, Azure और Google) का उपयोग करती हैं, और मॉडल कई प्रदाताओं में बंटे होते हैं। Consus इन वातावरणों को एक ही एंडपॉइंट के पीछे चलाता है और हर एक के लिए अनुपालन कार्य संभालता है। कंपनी यह भी कहती है कि वह ग्राहक डेटा को स्थायी रूप से संग्रहीत नहीं करती; प्रॉम्प्ट और उत्तर केवल प्रत्येक अनुरोध की अवधि के लिए मेमोरी में रखे जाते हैं।

एयरोस्पेस और रक्षा कंपनियों को FedRAMP-समतुल्य AI गेटवे की आवश्यकता क्यों है?

नियंत्रित अवर्गीकृत सूचना को संसाधित करने से पहले FedRAMP High स्तर की प्राधिकरण या समतुल्यता आवश्यक है, और ITAR नियम तय करते हैं कि ऐसे डेटा तक कौन पहुंच सकता है। एक अनुपालन गेटवे इन कंपनियों को अलग सरकारी क्लाउड वातावरण बनाए बिना उन्नत AI मॉडल का उपयोग करने और ये आवश्यकताएं पूरी करने देता है।

हिन्दी version →


🇮🇩 Bahasa Indonesia

Consus: Gateway LLM Patuh untuk Data Sensitif

Eric, pendiri Consus, telah meluncurkan gateway LLM yang dirancang untuk perusahaan yang menangani data sensitif. Consus mengarahkan permintaan AI ke infrastruktur yang mematuhi pembatasan ITAR dan informasi tidak terklasifikasi terkendali (CUI). Perusahaan menyatakan bahwa mereka memenuhi pembatasan ITAR dan baru-baru ini menyelesaikan audit kesetaraan FedRAMP terhadap 410 kontrol FedRAMP High, standar keamanan paling ketat dari pemerintah AS untuk layanan cloud yang menangani data tidak terklasifikasi yang sensitif.

Eric menghabiskan sebagian besar kariernya di bidang kedirgantaraan dan pertahanan, meluncurkan muatan keamanan nasional di SpaceX dan bekerja sebagai karyawan awal di Castelion. Ia mengatakan bahwa persyaratan kepatuhan sering menghentikan perusahaan dari mengadopsi AI, meskipun mereka menyadari nilainya. Beberapa perusahaan khawatir penyedia model akan melatih model dengan data mereka, melanggar aturan ITAR, atau kehilangan bisnis setelah penilaian keamanan siber yang gagal.

Consus berfungsi sebagai lapisan inferensi yang patuh, yang terhubung dengan alat seperti ChatGPT, Claude, Open WebUI, dan agen pemrograman Pi, serta aplikasi kustom. Setiap permintaan melewati satu endpoint yang kompatibel dengan OpenAI, tempat kunci diverifikasi dan kebijakan diterapkan. Nama model harus memiliki akhiran kepatuhan, seperti gpt-5.6-sol:fedramp-high, dan nama model tanpa akhiran akan ditolak. Pelanggan dapat membuat daftar izin model serta menetapkan batas pengeluaran dan pembatasan model per pengguna melalui Consus Portal.

Perusahaan berargumen bahwa sedikit perusahaan kedirgantaraan dan pertahanan yang menggunakan ketiga GovCloud utama (AWS, Azure, dan Google), dan bahwa model tersebar di berbagai penyedia. Consus menjalankan lingkungan-lingkungan ini di balik satu endpoint dan menangani pekerjaan kepatuhan untuk masing-masing. Perusahaan juga menyatakan tidak menyimpan data pelanggan saat diam (at rest); prompt dan hasil hanya disimpan dalam memori selama setiap permintaan berlangsung.

Mengapa perusahaan kedirgantaraan dan pertahanan membutuhkan gateway AI yang setara FedRAMP?

Penanganan informasi tidak terklasifikasi terkendali memerlukan otorisasi tingkat FedRAMP High atau kesetaraan sebelum diproses, dan aturan ITAR membatasi siapa yang dapat mengakses data tersebut. Gateway yang patuh memungkinkan perusahaan-perusahaan ini menggunakan model AI terdepan sambil memenuhi persyaratan tersebut, tanpa harus membangun lingkungan cloud pemerintah terpisah.

Bahasa Indonesia version →


🇯🇵 日本語

Consus:機密データ向けのコンプライアンス対応LLMゲートウェイ

Consusの創業者Ericは、機密データを扱う企業向けに設計されたLLMゲートウェイを立ち上げました。Consusは、AIリクエストをITAR規制および管理対象非機密情報(CUI)に準拠したインフラにルーティングします。同社は、ITAR規制を満たしており、機密性の高い非機密データを扱うクラウドサービスに対する米政府で最も厳格なセキュリティ基準であるFedRAMP Highの410の管理策に対するFedRAMP同等性監査を最近完了したと述べています。

Ericはキャリアの大半を航空宇宙と防衛の分野で過ごし、SpaceXでは国家安全保障向けのペイロードを打ち上げ、Castelionでは初期の社員として勤務しました。彼によると、企業はAIの価値を理解していても、コンプライアンス要件によって導入を見送ることが少なくありません。一部の企業は、モデルプロバイダーが自社データで学習すること、ITAR規則に違反すること、あるいはサイバーセキュリティ評価に不合格となって取引を失うことを懸念しています。

Consusはコンプライアンス対応の推論レイヤーとして機能し、ChatGPT、Claude、Open WebUI、Piコーディングエージェントといったツールやカスタムアプリケーションと接続します。すべてのリクエストは単一のOpenAI互換エンドポイントを経由し、そこでキーの検証とポリシーの適用が行われます。モデル名にはgpt-5.6-sol:fedramp-highのようなコンプライアンス用サフィックスを付ける必要があり、サフィックスのないモデル名は拒否されます。顧客はConsus Portalを通じて、モデルの許可リストを作成したり、ユーザーごとに支出上限やモデルの制限を設定したりできます。

同社は、航空宇宙や防衛の企業で主要な3つのGovCloud(AWS、Azure、Google)をすべて利用している例は少なく、モデルも複数のプロバイダーに分散していると指摘しています。Consusはこれらの環境を単一のエンドポイントの背後で運用し、それぞれのコンプライアンス対応を担います。また、顧客データを保存型で保持しないとしており、プロンプトと応答は各リクエストの処理中のみメモリ上に保持されるとしています。

航空宇宙・防衛企業がFedRAMP同等のAIゲートウェイを必要とするのはなぜですか?

管理対象の非機密情報を処理するには、処理前にFedRAMP High相当の認可または同等性が必要であり、ITAR規則によってそのデータにアクセスできる人が制限されています。コンプライアンスに対応したゲートウェイがあれば、これらの企業は独自の政府向けクラウド環境を新たに構築することなく、これらの要件を満たしながら最先端のAIモデルを利用できます。

日本語 version →


🇧🇷 Português

Consus: gateway LLM em conformidade para dados sensíveis

Eric, fundador da Consus, lançou um gateway LLM projetado para empresas que lidam com dados sensíveis. A Consus direciona solicitações de IA para infraestrutura em conformidade com as restrições do ITAR e com as informações não classificadas controladas (CUI). A empresa afirma que atende às restrições do ITAR e que concluiu recentemente uma auditoria de equivalência FedRAMP em relação aos 410 controles do FedRAMP High, a base de segurança mais rigorosa do governo dos EUA para serviços em nuvem que processam dados sensíveis não classificados.

Eric dedicou grande parte de sua carreira às áreas aeroespacial e de defesa, tendo lançado cargas úteis de segurança nacional na SpaceX e atuado como funcionário inicial da Castelion. Ele afirma que os requisitos de conformidade frequentemente impedem as empresas de adotar a IA, mesmo quando reconhecem seu valor. Algumas empresas temem que os provedores de modelos treinem com seus dados, violem as regras do ITAR ou percam negócios após uma avaliação de cibersegurança malsucedida.

A Consus atua como uma camada de inferência em conformidade, conectando-se a ferramentas como ChatGPT, Claude, Open WebUI e o agente de programação Pi, além de aplicações personalizadas. Cada solicitação passa por um único endpoint compatível com a OpenAI, onde as chaves são verificadas e a política é aplicada. Os nomes dos modelos devem conter um sufixo de conformidade, como gpt-5.6-sol:fedramp-high, e nomes de modelos sem o sufixo são rejeitados. Os clientes podem criar listas de modelos permitidos e definir limites de gastos e restrições de modelos por usuário por meio do Consus Portal.

A empresa argumenta que poucas empresas aeroespaciais e de defesa utilizam as três principais nuvens governamentais (AWS, Azure e Google), e que os modelos estão distribuídos entre provedores. A Consus opera esses ambientes por trás de um único endpoint e cuida do trabalho de conformidade de cada um. Ela também afirma que não armazena dados de clientes em repouso, mantendo prompts e respostas apenas na memória pelo tempo de cada solicitação.

Por que empresas aeroespaciais e de defesa precisam de um gateway de IA equivalente ao FedRAMP?

O tratamento de informações não classificadas controladas exige autorização de nível FedRAMP High ou equivalência antes do processamento, e as regras do ITAR restringem quem pode acessar esses dados. Um gateway em conformidade permite que essas empresas usem modelos de IA de ponta atendendo a esses requisitos, sem precisar montar ambientes separados em nuvens governamentais.

Português version →


🇷🇺 Русский

Consus: соответствующий требованиям шлюз LLM для чувствительных данных

Основатель Consus Eric запустил шлюз LLM, созданный для компаний, работающих с чувствительными данными. Consus направляет запросы к ИИ в инфраструктуру, соответствующую ограничениям ITAR и требованиям к контролируемой неклассифицированной информации (CUI). Компания заявляет, что соответствует ограничениям ITAR и недавно прошла аудит эквивалентности FedRAMP по 410 контролям FedRAMP High, являющимся самым строгим стандартом безопасности правительства США для облачных сервисов, обрабатывающих чувствительную неклассифицированную информацию.

Eric большую часть карьеры провел в аэрокосмической отрасли и сфере обороны: он запускал полезные нагрузки для национальной безопасности в SpaceX и был одним из первых сотрудников Castelion. По его словам, требования соответствия часто мешают компаниям внедрять ИИ, даже когда они понимают его ценность. Некоторые фирмы опасаются, что провайдеры моделей будут обучаться на их данных, нарушат правила ITAR или потеряют клиентов после неудачной оценки кибербезопасности.

Consus работает как соответствующий требованиям уровень инференса, который подключается к таким инструментам, как ChatGPT, Claude, Open WebUI и агент для программирования Pi, а также к пользовательским приложениям. Каждый запрос проходит через единую точку доступа, совместимую с OpenAI, где проверяются ключи и применяется политика. Названия моделей должны содержать суффикс соответствия, например gpt-5.6-sol:fedramp-high, а названия без суффикса отклоняются. Клиенты могут создавать списки разрешенных моделей и задавать для каждого пользователя лимиты расходов и ограничения на модели через Consus Portal.

По мнению компании, немногие аэрокосмические и оборонные фирмы используют все три крупнейших государственных облака (AWS, Azure и Google), а модели распределены между разными провайдерами. Consus запускает эти среды за одной точкой доступа и берет на себя работу по соответствию требованиям для каждой из них. Компания также заявляет, что не хранит данные клиентов постоянно: запросы и ответы сохраняются только в памяти на время выполнения каждого запроса.

Зачем аэрокосмическим и оборонным компаниям шлюз ИИ, эквивалентный FedRAMP?

Обработка контролируемой неклассифицированной информации требует авторизации уровня FedRAMP High или эквивалентного статуса до начала обработки, а правила ITAR ограничивают круг лиц, имеющих доступ к таким данным. Соответствующий требованиям шлюз позволяет этим компаниям использовать передовые модели ИИ, выполняя эти требования, без создания отдельных государственных облачных сред.

Русский version →


🇨🇳 简体中文

Consus:面向敏感数据的合规LLM网关

Consus创始人Eric推出了一款面向处理敏感数据企业的LLM网关。Consus将AI请求路由至符合ITAR限制和受控非密信息(CUI)要求的基础设施。该公司表示,其产品满足ITAR限制,并且最近已针对410项FedRAMP High控制措施完成FedRAMP等效审计。FedRAMP High是美国政府针对处理敏感非密数据的云服务所设定的最严格安全基线。

Eric在职业生涯的大部分时间里都在航空航天和国防领域工作,曾在SpaceX发射国家安全载荷,并担任Castelion的早期员工。他表示,合规要求往往会阻碍企业采用AI,即使它们认识到其价值。一些公司担心模型提供商会用其数据进行训练、违反ITAR规定,或在网络安全评估失败后失去业务。

Consus作为合规的推理层运行,可连接ChatGPT、Claude、Open WebUI和Pi编码代理等工具,以及定制应用程序。每个请求都通过一个与OpenAI兼容的单一端点,在该端点验证密钥并执行策略。模型名称必须带有合规后缀,例如gpt-5.6-sol:fedramp-high,裸模型名称将被拒绝。客户可以通过Consus Portal构建模型白名单,并为每位用户设置支出和模型限制。

该公司指出,很少有航空航天和国防企业同时使用全部三大政府云(AWS、Azure和Google),而且模型分散在不同提供商之上。Consus通过一个端点运行这些环境,并负责各环境的合规工作。该公司还表示,它不会静态存储客户数据,提示和生成内容仅在每个请求期间保留在内存中。

为什么航空航天和国防企业需要符合FedRAMP等效标准的AI网关?

处理受控非密信息在处理前需要获得FedRAMP High级别授权或等效认证,而ITAR规则限制了谁可以访问此类数据。合规网关使这些企业能够使用前沿AI模型并满足上述要求,而无需另行搭建政府云环境。

简体中文 version →