HeadlinesBriefing favicon HeadlinesBriefing.com

AI·rete·RAG: Rete + RAG für auditierbare KI

Hacker News •
×

Hallo HN, ich habe ai·rete·rag entwickelt, weil ich immer wieder sah, wie Teams ein LLM mit Entscheidungen betrauen, die auditierbar sein müssen (Kreditvergabe, Betrug, klinische Triage), und dann im Nachhinein „Guardrails" anbringen. Es führt beide in Serie aus: Eine reine Python-Rete-Engine wertet YAML-Regeln gegen Ihre Fakten aus. Das Urteil stammt ausschließlich von hier. Gleiche Fakten, gleiches Urteil, jedes Mal, mit salienzbasierter Konfliktlösung. 2. RAG ruft Passagen aus Ihren eigenen Richtliniendokumenten ab, und ein LLM verfasst eine englische Erklärung der bereits getroffenen Entscheidung unter Zitierung dieser Passagen. Es kann das Urteil nicht ändern.

Einige Dinge gingen weiter als erwartet: Regeln sind ein Graph, keine flachen Listen: verschachtelte all/any/not, und Regeln können Fakten behaupten, die andere Regeln verbrauchen (Forward Chaining). Die Entscheidungsablaufverfolgung zeigt die Kausalkette. Der Audit-Modus zeichnet jede ausgewertete Regel auf, einschließlich derer, die nicht ausgelöst wurden, Bedingung für Bedingung, mit einem Snapshot des Regelsatzes für die Wiederholung. Regeln können die Abfrage steuern (eine ausgelöste Regel schränkt ein, welche Dokumente durchsucht werden), und abgerufener Text kann in Fakten für die Engine umgewandelt werden. Nicht-technische Autoren können Regeln in einem visuellen Editor erstellen oder ein Richtliniendokument einfügen und von LLM verfasste Regeln mit Zitaten erhalten. Entwürfe werden nie ohne Überprüfung gespeichert. YAML ist für Ingenieure weiterhin verfügbar.

Die Landingpage bietet eine Live-Demo ohne Anmeldung (8 Demo-Domains: Kredite, Betrug, Klinik, Versicherung, Recht, Betrieb, E-Commerce, Blockchain). Es gibt auch einen MCP-Server, sodass Claude und andere Agenten /decide als Tool aufrufen können: uvx ai-rete-rag-mcp. Um transparent zu sein: Es ist ein gehostetes Produkt mit einer kostenlosen Stufe. Der MCP-Client ist Open Source (MIT, github.com/zaharajabeen13-create/ai-rete-rag-mcp); die Engine und die Plattform sind derzeit nicht Open Source. Ich möchte besonders von denen hören, die eine automatisierte Entscheidung einem Regulierer oder Prüfer erklären mussten: Was haben sie tatsächlich verlangt?