Y Combinator S24の企業Laminarに所属するRobertとDinは、AIエージェントのトレース内の誤りを見つけるために強化学習で訓練された、オープンソースの可観測性モデルflow-1を公開しました。同社のベンチマークでは、flow-1は検出品質でGPT-6-solに匹敵し、コストは23分の1です。そのため、サンプリングするのではなく、本番環境のすべてのエージェントトレースを分析することが現実的になります。
チームは、エージェントが今では多くのステップにわたって動作し、しばしば静かに失敗すると指摘しています。エージェントは間違ったボタンをクリックしたり、誤った文書を引用したりしても、すべての呼び出しは正常に完了します。こうした誤りを捉えるには、最終出力を読むだけでなく、エージェントが何を達成しようとしていたのかを理解し、そのLLM呼び出しやツールの結果を確認する必要があります。トレースを収集するだけでは問題は解決しません。多くのプラットフォームは、誰も読まないトレースを保存しているだけのデータ収集基盤にすぎないからです。
flow-1は、Signalsと呼ばれるハーネス内で動作します。これはコーディングエージェントのように振る舞い、エージェントのトレースをリポジトリとして扱い、各スパンをファイルとして扱います。スパン全体をgrepで検索し、関連するスパンを全文読み込んで、ユーザー定義のスキーマに従ってJSON形式で結果を返します。類似のシグナルイベントはクラスターにまとめられ、ユーザーはこれを使って、繰り返し発生する失敗を修正するための評価データセットを構築できます。
LaminarはApache 2.0ライセンスで提供され、自社環境へのセルフホストも可能です。同社の収益はマネージドクラウドから得ています。創業者らは、コミュニティにエージェントの性能をどのように追跡しているか、また修正によって新たな失敗が生じていないことをどう検証しているかを尋ねています。
出典: Hacker News · 要約：HeadlinesBriefing