Eric, Gründer von Consus, hat ein LLM-Gateway vorgestellt, das für Unternehmen konzipiert ist, die sensible Daten verarbeiten. Consus leitet KI-Anfragen an Infrastruktur weiter, die den ITAR-Beschränkungen und den Anforderungen für kontrollierte unklassifizierte Informationen (CUI) entspricht. Das Unternehmen erklärt, die ITAR-Beschränkungen einzuhalten und kürzlich ein FedRAMP-Äquivalenzaudit gegen die 410 FedRAMP-High-Kontrollen abgeschlossen zu haben, die strengste Sicherheitsbasis der US-Regierung für Cloud-Dienste, die sensible unklassifizierte Daten verarbeiten.
Eric hat einen Großteil seiner Laufbahn in der Luft- und Raumfahrt sowie der Verteidigungsindustrie verbracht. Er startete Nutzlasten für die nationale Sicherheit bei SpaceX und arbeitete als einer der ersten Mitarbeiter bei Castelion. Er sagt, Compliance-Anforderungen hielten Unternehmen häufig davon ab, KI einzusetzen, selbst wenn sie deren Nutzen erkennen. Manche Firmen fürchten, dass Modellanbieter mit ihren Daten trainieren, gegen ITAR-Regeln verstoßen oder nach einer gescheiterten Cybersicherheitsprüfung Aufträge verlieren könnten.
Consus funktioniert als konforme Inferenzschicht, die sich mit Werkzeugen wie ChatGPT, Claude, Open WebUI und dem Pi-Coding-Agenten sowie mit individuellen Anwendungen verbindet. Jede Anfrage läuft über einen einzigen OpenAI-kompatiblen Endpunkt, an dem Schlüssel geprüft und Richtlinien durchgesetzt werden. Modellnamen müssen ein Compliance-Suffix tragen, etwa gpt-5.6-sol:fedramp-high; reine Modellnamen werden abgelehnt. Kunden können über das Consus Portal Modell-Allowlists erstellen sowie Ausgabenlimits und Modellbeschränkungen pro Nutzer festlegen.
Das Unternehmen argumentiert, dass nur wenige Luft- und Raumfahrt- sowie Verteidigungsfirmen alle drei großen GovClouds (AWS, Azure und Google) nutzen und Modelle auf verschiedene Anbieter verteilt sind. Consus betreibt diese Umgebungen hinter einem einzigen Endpunkt und übernimmt die Compliance-Arbeit für jede davon. Außerdem gibt das Unternehmen an, Kundendaten nicht im Ruhezustand zu speichern; Prompts und Antworten bleiben nur für die Dauer jeder Anfrage im Arbeitsspeicher.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing