HeadlinesBriefing favicon HeadlinesBriefing.com

Imp:Elixir向け自律的自己改善型言語モデルフレームワーク

Hacker News •
×

ImpはElixir向けの宣言的、自己改善型言語モデルプログラミングフレームワークであり、DSPyのBEAM上における完全なポートです。開発者が言語モデルのステップと戻り値を記述し、推論戦略を選択し、OTPの信頼性と並列性を活用してラベル付けされた例を使用してプログラムを最適化できるようにします。

開発者は"issue -> kind: enum[bug,feature,question], summary"のような型付けされたシグネチャを定義し、Imp.predict/2を使用して呼び出します。フレームワークはシグネチャからプロンプトを構築し、応答を検証し、型付けされたフィールドを返します。Imp.chain_of_thought/2およびImp.react/3を使用して、シグネチャを変更せずにチェーン・オブ・サンセット推論とツール使用をサポートします。

最適化はラベル付けされたデータセット(trainset、valset、testset)と指標を使用します。GEPAは強力なLMであり、失敗を読み取り指示を書き換えます。その他の最適化手法には、Labeled Few Shot、Bootstrap Few Shot、MIPROv2、SIMBA、およびGRPOを使用したファインチューニングが含まれます。

エージェントはImp.start_run/3を使用して監視されたOTPプロセスとして実行され、モニタリングと認可制御を可能にします。ツールはImp.tool/3でラップされた純粋なElixir関数です。このフレームワークはHTTP呼び出しのためにReqに依存しています。

Impは単一の型付けされた呼び出しから長時間実行されるエージェントまでを構築可能とし、各コンポーネントを測定と最適化によって改善しながら、Elixirのフォールトトレランスと並列性の保証を維持します。