HeadlinesBriefing favicon HeadlinesBriefing.com

Imp: Framework auto-melhorável para modelos de linguagem Elixir

Hacker News •
×

Imp é um framework de programação declarativo, auto-melhorável para modelos de linguagem para Elixir, uma port completo de DSPy para o BEAM. Ele permite que os desenvolvedores descrevam etapas de chamadas de modelo de linguagem e retornos, escolham estratégias de raciocínio e otimizem programas contra exemplos rotulados usando a confiabilidade e concorrência do OTP.

Os desenvolvedores definem assinaturas tipadas como "issue -> kind: enum[bug,feature,question], summary" e as chamam com Imp.predict/2. O framework constrói prompts a partir de assinaturas, valida respostas e retorna campos tipados. A cadeia de raciocínio e uso de ferramentas são suportados via Imp.chain_of_thought/2 e Imp.react/3 sem alterar assinaturas.

A otimização usa conjuntos de dados rotulados (trainset, valset, testset) com métricas. GEPA, um LM forte, lê falhas e reescreve instruções. Outros otimizadores incluem Labeled Few Shot, Bootstrap Few Shot, MIPROv2, SIMBA e fine-tuning com GRPO.

Agentes são executados como processos OTP supervisionados com Imp.start_run/3, permitindo monitoramento e controles de autorização. Ferramentas são funções Elixir puras envoltas com Imp.tool/3. O framework depende de Req para chamadas HTTP.

Imp permite construir de chamadas tipadas individuais a agentes de execução longa, melhorando cada componente através de medição e otimização enquanto mantém as garantias de tolerância a falhas e concorrência do Elixir.