HeadlinesBriefing favicon HeadlinesBriefing.com

Imp: Kerangka Model Bahasa Auto-Peningkatan Elixir

Hacker News •
×

Imp adalah kerangka pemrograman deklaratif, auto-peningkatan untuk model bahasa untuk Elixir, port penuh DSPy ke BEAM. Ini memungkinkan pengembang untuk mendeskripsikan langkah-langkah pemanggilan model bahasa dan nilai kembalinya, memilih strategi penalaran, dan mengoptimalkan program melawan contoh berlabel menggunakan keandalan dan konsistensi OTP.

Pengembang mendefinisikan tanda tangan yang diberi tipe seperti "issue -> kind: enum[bug,feature,question], summary" dan memanggilnya dengan Imp.predict/2. Kerangka ini membangun prompt dari tanda tangan, memvalidasi respons, dan mengembalikan field yang diberi tipe. Penalaran rantai pikiran dan penggunaan alat didukung melalui Imp.chain_of_thought/2 dan Imp.react/3 tanpa mengubah tanda tangan.

Optimasi menggunakan dataset berlabel (trainset, valset, testset) dengan metrik. GEPA, sebuah LM yang kuat, membaca kegagalan dan menulis ulang instruksi. Optimisator lainnya meliputi Labeled Few Shot, Bootstrap Few Shot, MIPROv2, SIMBA, dan fine-tuning dengan GRPO.

Agent berjalan sebagai proses OTP yang diawasi dengan Imp.start_run/3, memungkinkan pemantauan dan kontrol otorisasi. Alat adalah fungsi Elixir biasa yang dibungkus dengan Imp.tool/3. Kerangka ini bergantung pada Req untuk panggilan HTTP.

Imp memungkinkan membangun dari pemanggilan tunggal yang diberi tipe hingga agent yang berjalan lama, meningkatkan setiap komponen melalui pengukuran dan optimasi sambil menjaga jaminan toleransi kesalahan dan konsistensi Elixir.