HeadlinesBriefing favicon HeadlinesBriefing.com

AI·rete·RAG:監査可能なAI決定のためのRete + RAG

Hacker News •
×

HNのみなさん、こんにちは。ai·rete·ragを作ったのは、監査可能な決定(融資、不正検知、臨床トリアージ)をLLMに任せてから事後に「ガードレール」を後付けするチームを何度も見ていたからです。このシステムは両者を直列で実行します:純PythonのReteエンジンがあなたのファクトに対してYAMLルールを評価します。評決はここからのみ導出されます。同じファクトなら毎回同じ評決で、顕著性に基づく競合解決を備えています。2. RAGがあなた自身のポリシードキュメントから文章を検索し、LLMがすでに下された決定の平易な英語による説明を、それらの文章を引用して書きます。LLMは評決を変更できません。

期待以上に進んだいくつかの点:ルールはフラットなリストではなくグラフです:ネストされたall/any/not、そしてルールは他のルールが消費するファクトをアサートできます(前方連鎖)。決定トレースは因果連鎖を示します。監査モードは、発火しなかったものも含め、評価されたすべてのルールを条件ごとに記録し、再生用のルールセットのスナップショットを添えます。ルールは検索を誘導でき(発火したルールは検索されるドキュメントを絞り込む)、検索されたテキストはエンジン用のファクトに変換できます。非技術者はビジュアルエディタでルールを構築するか、ポリシードキュメントを貼り付けて引用付きのLLM起草ルールを取得できます。ドラフトはレビューなしに保存されることはありません。YAMLはエンジニア向けに引き続き利用可能です。

ランディングページにはサインアップ不要のライブデモがあります(8つのデモドメイン:融資、不正、臨床、保険、法務、運用、Eコマース、ブロックチェーン)。MCPサーバーもあり、Claudeや他のエージェントが/decideをツールとして呼び出せます:uvx ai-rete-rag-mcp。率直に言うと:これはフリーティアのあるホステッド製品です。MCPクライアントはオープンソース(MIT、github.com/zaharajabeen13-create/ai-rete-rag-mcp)ですが、エンジンとプラットフォームは現時点ではオープンソースではありません。自動化された決定を規制当局や監査人に説明しなければならなかった方から特にご意見を伺いたいです:実際に何を求められましたか?